助手抓取器
ChatGPT-User 是由 OpenAI 运营的机器人,它会按需为 AI 助手抓取单个网页。ChatGPT-User 是 OpenAI 的网络爬虫,在 ChatGPT 用户请求信息时访问网站,使 ChatGPT 能够在回答中附上链接。它遵守 robots.txt,自称 ChatGPT-User 的请求可通过以下方式核验:已公布的 IP 范围文件。
请求声明
"ChatGPT-User/1.0"
核验依据
OpenAI 的公布的 IP 段
实时检查
粘贴日志中的地址,系统会将其与运营方公布的信息进行比对。
参考
| User agent | Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; ChatGPT-User/1.0; +https://openai.com/bot |
|---|---|
| 运营方 | OpenAI |
| 用途 | 助手抓取器 |
| 是否遵守 robots.txt | 遵守 |
| 验证方法 | IP 段已公布的 IP 范围文件 抓取由用户向 ChatGPT 询问某个 URL 触发,因此流量呈突发式,而非持续爬取。出口 IP 段以 JSON 格式公布。 |
| 抓取模式 | 仅在用户发出请求时。 |
| robots.txt 标识符 | ChatGPT-User |
| 运营方文档 | https://platform.openai.com/docs/bots |
ChatGPT-User 是 OpenAI 的网络爬虫,在 ChatGPT 用户请求信息时访问网站,使 ChatGPT 能够在回答中附上链接。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: ChatGPT-User
Disallow: /User-agent: ChatGPT-User
Allow: /User-agent: ChatGPT-User
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径,使其与你自己的 URL 一致。
FAQ
ChatGPT-User 是由 OpenAI 运营的机器人,它会按需为 AI 助手抓取单个网页。ChatGPT-User 是 OpenAI 的网络爬虫,在 ChatGPT 用户请求信息时访问网站,使 ChatGPT 能够在回答中附上链接。它遵守 robots.txt,自称 ChatGPT-User 的请求可通过以下方式核验:已公布的 IP 范围文件。
是。运营方在文档中说明 ChatGPT-User 会读取 robots.txt,并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效,可能是发布后数小时或数天。
抓取由用户向 ChatGPT 询问某个 URL 触发,因此流量呈突发式,而非持续爬取。出口 IP 段以 JSON 格式公布。参考资料发布于 https://openai.com/chatgpt-user.json。
在 robots.txt 中为 ChatGPT-User 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 ChatGPT-User 后,用户询问你的某个 URL 时将收到错误,而不是摘要。这是在用户支持和声誉之间的取舍,与训练无关。