训练爬虫

DeepSeekBot

DeepSeekBot 是由 DeepSeek 运营的机器人,它会收集网页用于训练 AI 模型。DeepSeekBot 是 DeepSeek 使用的网页爬虫,用于训练其语言模型并改进其 AI 产品。运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的,仅靠 robots.txt 规则也无法阻止伪造请求。

DeepSeek仅自称robots.txt:忽略

实时检查

验证自称 DeepSeekBot 的 IP

DeepSeekBot 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。

参考

DeepSeekBot 概览

DeepSeekBot 爬虫参考数据
User agentDeepSeekBot

仅为标识符:按子串匹配。

运营方DeepSeek
用途训练语言模型和改进 AI 产品
是否遵守 robots.txt忽略
验证方法仅自称未公布,仅凭 user agent

该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。

抓取模式未公布
robots.txt 标识符DeepSeekBot
运营方文档未发布

DeepSeekBot 是 DeepSeek 使用的网页爬虫,用于训练其语言模型并改进其 AI 产品。

robots.txt

允许或屏蔽 DeepSeekBot

据记录,DeepSeekBot 不遵守 robots.txt。请同时在 CDN 上执行屏蔽。

屏蔽 DeepSeekBot
User-agent: DeepSeekBot
Disallow: /
允许 DeepSeekBot
User-agent: DeepSeekBot
Allow: /
允许,但排除你不希望被引用的页面
User-agent: DeepSeekBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

请修改 Disallow 路径,使其与你自己的 URL 一致。

屏蔽的实际代价

屏蔽 DeepSeekBot 可使你的网页不进入下一轮训练。它不会删除已收集的内容,也不会影响网站在普通搜索中的排名。

为所有爬虫生成文件

FAQ

DeepSeekBot 常见问题

DeepSeekBot 是什么?

DeepSeekBot 是由 DeepSeek 运营的机器人,它会收集网页用于训练 AI 模型。DeepSeekBot 是 DeepSeek 使用的网页爬虫,用于训练其语言模型并改进其 AI 产品。运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的,仅靠 robots.txt 规则也无法阻止伪造请求。

DeepSeekBot 是否遵守 robots.txt?

据网站所有者反馈,DeepSeekBot 不能可靠地遵守 robots.txt。仍建议添加规则,然后检查日志;如果请求仍在继续,请在边缘按 user agent 或来源地址屏蔽。

如何验证请求确实来自 DeepSeekBot?

无法验证,至少无法仅凭请求本身验证。该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对,并对任何表现得像爬虫的流量进行限速。

如何屏蔽 DeepSeekBot?

在 robots.txt 中为 DeepSeekBot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。

屏蔽 DeepSeekBot 会影响我的搜索排名吗?

屏蔽 DeepSeekBot 可使你的网页不进入下一轮训练。它不会删除已收集的内容,也不会影响网站在普通搜索中的排名。

    DeepSeekBot(DeepSeek):User Agent、IP 验证与 robots.txt | IPScanner