训练爬虫
anthropic-ai 是由 Anthropic 运营的机器人，它会收集网页用于训练 AI 模型。抓取数据，用于训练 Anthropic 提供的 LLM 和 AI 产品。它是否遵守 robots.txt 尚无文档说明，自称 anthropic-ai 的请求可通过以下方式核验：已公布的 IP 范围文件。
请求声明
"anthropic-ai"
核验依据
Anthropic 的公布的 IP 段
实时检查
粘贴日志中的地址，系统会将其与运营方公布的信息进行比对。
参考
| User agent | anthropic-ai仅为标识符：按子串匹配。 |
|---|---|
| 运营方 | Anthropic |
| 用途 | 抓取数据，用于训练 Anthropic 的 AI 产品。 |
| 是否遵守 robots.txt | 未声明 |
| 验证方法 | IP 段已公布的 IP 范围文件 一个较旧的标识，被大量复制到 robots.txt 文件中。Anthropic 现在使用 ClaudeBot、Claude-User 和 Claude-SearchBot 标识其爬虫，因此请保留此规则，但不要只依赖它。 |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | anthropic-ai |
| 运营方文档 | https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler |
抓取数据，用于训练 Anthropic 提供的 LLM 和 AI 产品。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: anthropic-ai
Disallow: /User-agent: anthropic-ai
Allow: /User-agent: anthropic-ai
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
anthropic-ai 是由 Anthropic 运营的机器人，它会收集网页用于训练 AI 模型。抓取数据，用于训练 Anthropic 提供的 LLM 和 AI 产品。它是否遵守 robots.txt 尚无文档说明，自称 anthropic-ai 的请求可通过以下方式核验：已公布的 IP 范围文件。
无文档说明。运营方未说明 anthropic-ai 是否读取 robots.txt，因此请添加规则，并通过日志确认请求确实已停止。
一个较旧的标识，被大量复制到 robots.txt 文件中。Anthropic 现在使用 ClaudeBot、Claude-User 和 Claude-SearchBot 标识其爬虫，因此请保留此规则，但不要只依赖它。参考资料发布于 https://claude.com/crawling/bots.json。
在 robots.txt 中为 anthropic-ai 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 anthropic-ai 可使你的网页不进入下一轮训练。它不会删除已收集的内容，也不会影响网站在普通搜索中的排名。