训练爬虫
GPTBot 是由 OpenAI 运营的机器人，它会收集网页用于训练 AI 模型。数据用于训练现有和未来的模型，已移除付费墙内容、个人身份信息以及违反公司政策的数据。它遵守 robots.txt，自称 GPTBot 的请求可通过以下方式核验：已公布的 IP 范围文件。
请求声明
"GPTBot/1.2"
核验依据
OpenAI 的公布的 IP 段
实时检查
粘贴日志中的地址，系统会将其与运营方公布的信息进行比对。
参考
| User agent | Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; GPTBot/1.2; +https://openai.com/gptbot |
|---|---|
| 运营方 | OpenAI |
| 用途 | 抓取数据，用于训练 OpenAI 的产品。 |
| 是否遵守 robots.txt | 遵守 |
| 验证方法 | IP 段已公布的 IP 范围文件 OpenAI 以 JSON 文件形式发布 GPTBot 的出口 IP 范围。将请求 IP 与该文件比对即可；没有反向 DNS 约定。 |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | GPTBot |
| 运营方文档 | https://platform.openai.com/docs/bots |
数据用于训练现有和未来的模型，已移除付费墙内容、个人身份信息以及违反公司政策的数据。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: GPTBot
Disallow: /User-agent: GPTBot
Allow: /User-agent: GPTBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
GPTBot 是由 OpenAI 运营的机器人，它会收集网页用于训练 AI 模型。数据用于训练现有和未来的模型，已移除付费墙内容、个人身份信息以及违反公司政策的数据。它遵守 robots.txt，自称 GPTBot 的请求可通过以下方式核验：已公布的 IP 范围文件。
是。运营方在文档中说明 GPTBot 会读取 robots.txt，并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效，可能是发布后数小时或数天。
OpenAI 以 JSON 文件形式发布 GPTBot 的出口 IP 范围。将请求 IP 与该文件比对即可；没有反向 DNS 约定。参考资料发布于 https://openai.com/gptbot.json。
在 robots.txt 中为 GPTBot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 GPTBot 可使你的网页不进入下一轮训练。它不会删除已收集的内容，也不会影响网站在普通搜索中的排名。