编程代理

Claude-Code

Claude-Code 是由 Anthropic 运营的机器人,它会在 AI 编写代码时获取文档和示例。Claude Code 是 Anthropic 开发的 AI 编程代理,可直接在终端中构建、调试和发布代码,能处理熟悉代码库、多文件编辑等任务…。它是否遵守 robots.txt 尚无文档说明,自称 Claude-Code 的请求可通过以下方式核验:已公布的 IP 范围文件。

AnthropicIP 段robots.txt:未声明

实时检查

验证自称 Claude-Code 的 IP

粘贴日志中的地址,系统会将其与运营方公布的信息进行比对。

参考

Claude-Code 概览

Claude-Code 爬虫参考数据
User agentClaude-Code

仅为标识符:按子串匹配。

运营方Anthropic
用途编程代理
是否遵守 robots.txt未声明
验证方法IP 段已公布的 IP 范围文件

它运行在开发者的机器或 CI 运行器上,因此来源 IP 通常属于开发者,而不是 Anthropic。公布的前缀文件无法匹配其中大部分流量。

https://claude.com/crawling/bots.json

抓取模式未公布
robots.txt 标识符Claude-Code
运营方文档https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler

Claude Code 是 Anthropic 开发的 AI 编程代理,可直接在终端中构建、调试和发布代码,能处理熟悉代码库、多文件编辑等任务…

robots.txt

允许或屏蔽 Claude-Code

选择一项粘贴到域名根目录下。规则按标识符分别生效。

屏蔽 Claude-Code
User-agent: Claude-Code
Disallow: /
允许 Claude-Code
User-agent: Claude-Code
Allow: /
允许,但排除你不希望被引用的页面
User-agent: Claude-Code
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

请修改 Disallow 路径,使其与你自己的 URL 一致。

屏蔽的实际代价

屏蔽 Claude-Code 主要影响通过 AI 工具阅读你文档的开发者。大多数网站希望保留这类流量。

为所有爬虫生成文件

FAQ

Claude-Code 常见问题

Claude-Code 是什么?

Claude-Code 是由 Anthropic 运营的机器人,它会在 AI 编写代码时获取文档和示例。Claude Code 是 Anthropic 开发的 AI 编程代理,可直接在终端中构建、调试和发布代码,能处理熟悉代码库、多文件编辑等任务…。它是否遵守 robots.txt 尚无文档说明,自称 Claude-Code 的请求可通过以下方式核验:已公布的 IP 范围文件。

Claude-Code 是否遵守 robots.txt?

无文档说明。运营方未说明 Claude-Code 是否读取 robots.txt,因此请添加规则,并通过日志确认请求确实已停止。

如何验证请求确实来自 Claude-Code?

它运行在开发者的机器或 CI 运行器上,因此来源 IP 通常属于开发者,而不是 Anthropic。公布的前缀文件无法匹配其中大部分流量。参考资料发布于 https://claude.com/crawling/bots.json。

如何屏蔽 Claude-Code?

在 robots.txt 中为 Claude-Code 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。

屏蔽 Claude-Code 会影响我的搜索排名吗?

屏蔽 Claude-Code 主要影响通过 AI 工具阅读你文档的开发者。大多数网站希望保留这类流量。

    Claude-Code(Anthropic):User Agent、IP 验证与 robots.txt | IPScanner