训练爬虫
AI2Bot 是由 Ai2 运营的机器人，它会收集网页用于训练 AI 模型。探索“某些域名”以发现网页内容。文档说明它遵守 robots.txt，但运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的。
请求声明
"AI2Bot"
核验依据
未公布
实时检查
AI2Bot 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。
参考
| User agent | AI2Bot仅为标识符：按子串匹配。 |
|---|---|
| 运营方 | Ai2 |
| 用途 | 内容用于训练开放语言模型。 |
| 是否遵守 robots.txt | 遵守 |
| 验证方法 | 仅自称未公布，仅凭 user agent Ai2 公开了该爬虫的说明和退出方式，但未公布地址列表。其抓取结果用于开放的 OLMo 和 Dolma 数据集，因此在此处屏蔽不仅会让网站不进入模型，也会让网站从公开的研究语料中移除。 |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | AI2BotAi2Bot-Dolma |
| 运营方文档 | https://allenai.org/crawler |
探索“某些域名”以发现网页内容。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: AI2Bot
User-agent: Ai2Bot-Dolma
Disallow: /User-agent: AI2Bot
User-agent: Ai2Bot-Dolma
Allow: /User-agent: AI2Bot
User-agent: Ai2Bot-Dolma
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
AI2Bot 是由 Ai2 运营的机器人，它会收集网页用于训练 AI 模型。探索“某些域名”以发现网页内容。文档说明它遵守 robots.txt，但运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的。
是。运营方在文档中说明 AI2Bot 会读取 robots.txt，并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效，可能是发布后数小时或数天。
无法验证，至少无法仅凭请求本身验证。Ai2 公开了该爬虫的说明和退出方式，但未公布地址列表。其抓取结果用于开放的 OLMo 和 Dolma 数据集，因此在此处屏蔽不仅会让网站不进入模型，也会让网站从公开的研究语料中移除。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对，并对任何表现得像爬虫的流量进行限速。
在 robots.txt 中为这些 user agent 标识（AI2Bot, Ai2Bot-Dolma）添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 AI2Bot 可使你的网页不进入下一轮训练。它不会删除已收集的内容，也不会影响网站在普通搜索中的排名。