AI 搜索爬虫
Claude-SearchBot 是由 Anthropic 运营的机器人，它会为网页建立索引，供 AI 问答引擎引用。Claude-SearchBot 浏览网页以提升用户的搜索结果质量。它遵守 robots.txt，自称 Claude-SearchBot 的请求可通过以下方式核验：已公布的 IP 范围文件。
请求声明
"Claude-SearchBot/1.0"
核验依据
Anthropic 的公布的 IP 段
实时检查
粘贴日志中的地址，系统会将其与运营方公布的信息进行比对。
参考
| User agent | Mozilla/5.0 (compatible; Claude-SearchBot/1.0; +Claude-SearchBot@anthropic.com) |
|---|---|
| 运营方 | Anthropic |
| 用途 | Claude-SearchBot 浏览网页以提升用户的搜索结果质量。它分析网上内容，专门用于提高搜索回答的相关性和准确性。 |
| 是否遵守 robots.txt | 遵守来源 |
| 验证方法 | IP 段已公布的 IP 范围文件 为网页建立索引，以便 Claude 在搜索回答中引用。与其他 Anthropic 代理使用同一个公布的前缀文件。 |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | Claude-SearchBot |
| 运营方文档 | https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler |
Claude-SearchBot 浏览网页以提升用户的搜索结果质量。它分析网上内容，专门用于提高搜索回答的相关性和准确性。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: Claude-SearchBot
Disallow: /User-agent: Claude-SearchBot
Allow: /User-agent: Claude-SearchBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
Claude-SearchBot 是由 Anthropic 运营的机器人，它会为网页建立索引，供 AI 问答引擎引用。Claude-SearchBot 浏览网页以提升用户的搜索结果质量。它遵守 robots.txt，自称 Claude-SearchBot 的请求可通过以下方式核验：已公布的 IP 范围文件。
是。运营方在文档中说明 Claude-SearchBot 会读取 robots.txt，并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效，可能是发布后数小时或数天。
为网页建立索引，以便 Claude 在搜索回答中引用。与其他 Anthropic 代理使用同一个公布的前缀文件。参考资料发布于 https://claude.com/crawling/bots.json。
在 robots.txt 中为 Claude-SearchBot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 Claude-SearchBot 会使网站从其答案所依赖的索引中移除，不再被引用。如果你重视来自 AI 答案的引荐流量，请改为屏蔽训练爬虫，保留这个爬虫。