其他自动化爬虫

Thinkbot

Thinkbot 是一个机器人,它会自动抓取网页。收集数据,用于分析 AI 的使用情况和自动化。运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的,仅靠 robots.txt 规则也无法阻止伪造请求。

Thinkbot仅自称robots.txt:忽略

实时检查

验证自称 Thinkbot 的 IP

Thinkbot 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。

参考

Thinkbot 概览

Thinkbot 爬虫参考数据
User agentThinkbot

仅为标识符:按子串匹配。

运营方Thinkbot
用途关于 AI 集成和自动化的见解。
是否遵守 robots.txt忽略
验证方法仅自称未公布,仅凭 user agent

该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。

抓取模式未公布
robots.txt 标识符Thinkbot
运营方文档未发布

收集数据,用于分析 AI 的使用情况和自动化。

robots.txt

允许或屏蔽 Thinkbot

据记录,Thinkbot 不遵守 robots.txt。请同时在 CDN 上执行屏蔽。

屏蔽 Thinkbot
User-agent: Thinkbot
Disallow: /
允许 Thinkbot
User-agent: Thinkbot
Allow: /
允许,但排除你不希望被引用的页面
User-agent: Thinkbot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

请修改 Disallow 路径,使其与你自己的 URL 一致。

屏蔽的实际代价

屏蔽 Thinkbot 只能阻止这个特定标识。之后请检查日志,因为不遵守 robots.txt 的运营方常常会换个名称再来。

为所有爬虫生成文件

FAQ

Thinkbot 常见问题

Thinkbot 是什么?

Thinkbot 是一个机器人,它会自动抓取网页。收集数据,用于分析 AI 的使用情况和自动化。运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的,仅靠 robots.txt 规则也无法阻止伪造请求。

Thinkbot 是否遵守 robots.txt?

据网站所有者反馈,Thinkbot 不能可靠地遵守 robots.txt。仍建议添加规则,然后检查日志;如果请求仍在继续,请在边缘按 user agent 或来源地址屏蔽。

如何验证请求确实来自 Thinkbot?

无法验证,至少无法仅凭请求本身验证。该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对,并对任何表现得像爬虫的流量进行限速。

如何屏蔽 Thinkbot?

在 robots.txt 中为 Thinkbot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。

屏蔽 Thinkbot 会影响我的搜索排名吗?

屏蔽 Thinkbot 只能阻止这个特定标识。之后请检查日志,因为不遵守 robots.txt 的运营方常常会换个名称再来。

    Thinkbot(Thinkbot):User Agent、IP 验证与 robots.txt | IPScanner