其他自动化爬虫
Thinkbot 是一个机器人,它会自动抓取网页。收集数据,用于分析 AI 的使用情况和自动化。运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的,仅靠 robots.txt 规则也无法阻止伪造请求。
请求声明
"Thinkbot"
核验依据
未公布
实时检查
Thinkbot 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。
参考
| User agent | Thinkbot仅为标识符:按子串匹配。 |
|---|---|
| 运营方 | Thinkbot |
| 用途 | 关于 AI 集成和自动化的见解。 |
| 是否遵守 robots.txt | 忽略 |
| 验证方法 | 仅自称未公布,仅凭 user agent 该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。 |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | Thinkbot |
| 运营方文档 | 未发布 |
收集数据,用于分析 AI 的使用情况和自动化。
robots.txt
据记录,Thinkbot 不遵守 robots.txt。请同时在 CDN 上执行屏蔽。
User-agent: Thinkbot
Disallow: /User-agent: Thinkbot
Allow: /User-agent: Thinkbot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径,使其与你自己的 URL 一致。
FAQ
Thinkbot 是一个机器人,它会自动抓取网页。收集数据,用于分析 AI 的使用情况和自动化。运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的,仅靠 robots.txt 规则也无法阻止伪造请求。
据网站所有者反馈,Thinkbot 不能可靠地遵守 robots.txt。仍建议添加规则,然后检查日志;如果请求仍在继续,请在边缘按 user agent 或来源地址屏蔽。
无法验证,至少无法仅凭请求本身验证。该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对,并对任何表现得像爬虫的流量进行限速。
在 robots.txt 中为 Thinkbot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 Thinkbot 只能阻止这个特定标识。之后请检查日志,因为不遵守 robots.txt 的运营方常常会换个名称再来。