其他自动化爬虫
Poseidon Research Crawler 是由 Poseidon Research 运营的机器人，它会自动抓取网页。该实验室致力于扩大可解释性研究的规模，这类研究是构建更好的 AI 系统的必要条件。运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的，仅靠 robots.txt 规则也无法阻止伪造请求。
请求声明
"Poseidon Research Crawler"
核验依据
未公布
实时检查
Poseidon Research Crawler 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。
参考
| User agent | Poseidon Research Crawler仅为标识符：按子串匹配。 |
|---|---|
| 运营方 | Poseidon Research |
| 用途 | AI 研究爬虫 |
| 是否遵守 robots.txt | 未声明 |
| 验证方法 | 仅自称未公布，仅凭 user agent 该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据，而任何客户端都可以发送该字符串，因此匹配结果只能视为一种声称，不能作为证明。 |
| 抓取模式 | 未明确说明抓取频率。 |
| robots.txt 标识符 | Poseidon Research Crawler |
| 运营方文档 | 未发布 |
该实验室致力于扩大可解释性研究的规模，这类研究是构建更好的 AI 系统的必要条件。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: Poseidon Research Crawler
Disallow: /User-agent: Poseidon Research Crawler
Allow: /User-agent: Poseidon Research Crawler
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
Poseidon Research Crawler 是由 Poseidon Research 运营的机器人，它会自动抓取网页。该实验室致力于扩大可解释性研究的规模，这类研究是构建更好的 AI 系统的必要条件。运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的，仅靠 robots.txt 规则也无法阻止伪造请求。
无文档说明。运营方未说明 Poseidon Research Crawler 是否读取 robots.txt，因此请添加规则，并通过日志确认请求确实已停止。
无法验证，至少无法仅凭请求本身验证。该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据，而任何客户端都可以发送该字符串，因此匹配结果只能视为一种声称，不能作为证明。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对，并对任何表现得像爬虫的流量进行限速。
在 robots.txt 中为 Poseidon Research Crawler 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 Poseidon Research Crawler 只能阻止这个特定标识。之后请检查日志，因为不遵守 robots.txt 的运营方常常会换个名称再来。