自主代理

Claude-Web

Claude-Web 是由 Anthropic 运营的机器人,它会自主浏览网页以完成多步骤任务。Claude-Web 是 Anthropic 运营的 AI 相关代理。它是否遵守 robots.txt 尚无文档说明,自称 Claude-Web 的请求可通过以下方式核验:已公布的 IP 范围文件。

AnthropicIP 段robots.txt:未声明

实时检查

验证自称 Claude-Web 的 IP

粘贴日志中的地址,系统会将其与运营方公布的信息进行比对。

参考

Claude-Web 概览

Claude-Web 爬虫参考数据
User agentClaude-Web

仅为标识符:按子串匹配。

运营方Anthropic
用途自主代理
是否遵守 robots.txt未声明
验证方法IP 段已公布的 IP 范围文件

这是一个早于现行 ClaudeBot 命名的旧标识。网站所有者仍会在旧日志和旧的 robots.txt 文件中看到它;在信任它之前,请先核对公布的前缀文件。

https://claude.com/crawling/bots.json

抓取模式未公布
robots.txt 标识符Claude-Web
运营方文档https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler

Claude-Web 是 Anthropic 运营的 AI 相关代理。由于没有官方文档,目前尚不清楚其具体用途。如果您能提供更多信息,请与我们联系。

robots.txt

允许或屏蔽 Claude-Web

选择一项粘贴到域名根目录下。规则按标识符分别生效。

屏蔽 Claude-Web
User-agent: Claude-Web
Disallow: /
允许 Claude-Web
User-agent: Claude-Web
Allow: /
允许,但排除你不希望被引用的页面
User-agent: Claude-Web
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

请修改 Disallow 路径,使其与你自己的 URL 一致。

屏蔽的实际代价

屏蔽 Claude-Web 可阻止像已登录用户那样填写表单、逐步点击流程和阅读页面的自动化会话。在这种情况下,限速和人机验证通常比 robots.txt 规则更有效。

为所有爬虫生成文件

FAQ

Claude-Web 常见问题

Claude-Web 是什么?

Claude-Web 是由 Anthropic 运营的机器人,它会自主浏览网页以完成多步骤任务。Claude-Web 是 Anthropic 运营的 AI 相关代理。它是否遵守 robots.txt 尚无文档说明,自称 Claude-Web 的请求可通过以下方式核验:已公布的 IP 范围文件。

Claude-Web 是否遵守 robots.txt?

无文档说明。运营方未说明 Claude-Web 是否读取 robots.txt,因此请添加规则,并通过日志确认请求确实已停止。

如何验证请求确实来自 Claude-Web?

这是一个早于现行 ClaudeBot 命名的旧标识。网站所有者仍会在旧日志和旧的 robots.txt 文件中看到它;在信任它之前,请先核对公布的前缀文件。参考资料发布于 https://claude.com/crawling/bots.json。

如何屏蔽 Claude-Web?

在 robots.txt 中为 Claude-Web 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。

屏蔽 Claude-Web 会影响我的搜索排名吗?

屏蔽 Claude-Web 可阻止像已登录用户那样填写表单、逐步点击流程和阅读页面的自动化会话。在这种情况下,限速和人机验证通常比 robots.txt 规则更有效。

    Claude-Web(Anthropic):User Agent、IP 验证与 robots.txt | IPScanner