助手抓取器

Claude-User

Claude-User 是由 Anthropic 运营的机器人,它会按需为 AI 助手抓取单个网页。Claude-User 由 Anthropic 的 AI 助手 Claude 根据用户提示派出,在需要获取内容以纳入回答时使用。它遵守 robots.txt,自称 Claude-User 的请求可通过以下方式核验:已公布的 IP 范围文件。

AnthropicIP 段robots.txt:遵守

实时检查

验证自称 Claude-User 的 IP

粘贴日志中的地址,系统会将其与运营方公布的信息进行比对。

参考

Claude-User 概览

Claude-User 爬虫参考数据
User agentMozilla/5.0 (compatible; Claude-User/1.0; +Claude-User@anthropic.com)
运营方Anthropic
用途助手抓取器
是否遵守 robots.txt遵守来源
验证方法IP 段已公布的 IP 范围文件

在 Claude 用户询问某个具体页面时触发,因此每次只请求一个 URL。与 ClaudeBot 使用同一个公布的前缀文件。

https://claude.com/crawling/bots.json

抓取模式未公布
robots.txt 标识符Claude-User
运营方文档https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler

Claude-User 由 Anthropic 的 AI 助手 Claude 根据用户提示派出,在需要获取内容以纳入回答时使用。

robots.txt

允许或屏蔽 Claude-User

选择一项粘贴到域名根目录下。规则按标识符分别生效。

屏蔽 Claude-User
User-agent: Claude-User
Disallow: /
允许 Claude-User
User-agent: Claude-User
Allow: /
允许,但排除你不希望被引用的页面
User-agent: Claude-User
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

请修改 Disallow 路径,使其与你自己的 URL 一致。

屏蔽的实际代价

屏蔽 Claude-User 后,用户询问你的某个 URL 时将收到错误,而不是摘要。这是在用户支持和声誉之间的取舍,与训练无关。

为所有爬虫生成文件

FAQ

Claude-User 常见问题

Claude-User 是什么?

Claude-User 是由 Anthropic 运营的机器人,它会按需为 AI 助手抓取单个网页。Claude-User 由 Anthropic 的 AI 助手 Claude 根据用户提示派出,在需要获取内容以纳入回答时使用。它遵守 robots.txt,自称 Claude-User 的请求可通过以下方式核验:已公布的 IP 范围文件。

Claude-User 是否遵守 robots.txt?

是。运营方在文档中说明 Claude-User 会读取 robots.txt,并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效,可能是发布后数小时或数天。

如何验证请求确实来自 Claude-User?

在 Claude 用户询问某个具体页面时触发,因此每次只请求一个 URL。与 ClaudeBot 使用同一个公布的前缀文件。参考资料发布于 https://claude.com/crawling/bots.json。

如何屏蔽 Claude-User?

在 robots.txt 中为 Claude-User 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。

屏蔽 Claude-User 会影响我的搜索排名吗?

屏蔽 Claude-User 后,用户询问你的某个 URL 时将收到错误,而不是摘要。这是在用户支持和声誉之间的取舍,与训练无关。

    Claude-User(Anthropic):User Agent、IP 验证与 robots.txt | IPScanner