自主代理
Claude-Web 是由 Anthropic 运营的机器人,它会自主浏览网页以完成多步骤任务。Claude-Web 是 Anthropic 运营的 AI 相关代理。它是否遵守 robots.txt 尚无文档说明,自称 Claude-Web 的请求可通过以下方式核验:已公布的 IP 范围文件。
请求声明
"Claude-Web"
核验依据
Anthropic 的公布的 IP 段
实时检查
粘贴日志中的地址,系统会将其与运营方公布的信息进行比对。
参考
| User agent | Claude-Web仅为标识符:按子串匹配。 |
|---|---|
| 运营方 | Anthropic |
| 用途 | 自主代理 |
| 是否遵守 robots.txt | 未声明 |
| 验证方法 | IP 段已公布的 IP 范围文件 这是一个早于现行 ClaudeBot 命名的旧标识。网站所有者仍会在旧日志和旧的 robots.txt 文件中看到它;在信任它之前,请先核对公布的前缀文件。 |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | Claude-Web |
| 运营方文档 | https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler |
Claude-Web 是 Anthropic 运营的 AI 相关代理。由于没有官方文档,目前尚不清楚其具体用途。如果您能提供更多信息,请与我们联系。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: Claude-Web
Disallow: /User-agent: Claude-Web
Allow: /User-agent: Claude-Web
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径,使其与你自己的 URL 一致。
FAQ
Claude-Web 是由 Anthropic 运营的机器人,它会自主浏览网页以完成多步骤任务。Claude-Web 是 Anthropic 运营的 AI 相关代理。它是否遵守 robots.txt 尚无文档说明,自称 Claude-Web 的请求可通过以下方式核验:已公布的 IP 范围文件。
无文档说明。运营方未说明 Claude-Web 是否读取 robots.txt,因此请添加规则,并通过日志确认请求确实已停止。
这是一个早于现行 ClaudeBot 命名的旧标识。网站所有者仍会在旧日志和旧的 robots.txt 文件中看到它;在信任它之前,请先核对公布的前缀文件。参考资料发布于 https://claude.com/crawling/bots.json。
在 robots.txt 中为 Claude-Web 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 Claude-Web 可阻止像已登录用户那样填写表单、逐步点击流程和阅读页面的自动化会话。在这种情况下,限速和人机验证通常比 robots.txt 规则更有效。