自主代理

ChatGPT Agent

ChatGPT Agent 是由 OpenAI 运营的机器人,它会自主浏览网页以完成多步骤任务。ChatGPT Agent 是 OpenAI 开发的 AI 代理,能够使用网页浏览器。它遵守 robots.txt,自称 ChatGPT Agent 的请求可通过以下方式核验:已公布的 IP 范围文件。

OpenAIIP 段robots.txt:遵守

实时检查

验证自称 ChatGPT Agent 的 IP

粘贴日志中的地址,系统会将其与运营方公布的信息进行比对。

参考

ChatGPT Agent 概览

ChatGPT Agent 爬虫参考数据
User agentChatGPT Agent

仅为标识符:按子串匹配。

运营方OpenAI
用途自主代理
是否遵守 robots.txt遵守
验证方法IP 段已公布的 IP 范围文件

OpenAI 为每个爬虫单独公布一个 IP 段文件。请使用爬虫文档中为此代理列出的文件,而不是 GPTBot 的文件。

https://platform.openai.com/docs/bots

抓取模式未公布
robots.txt 标识符ChatGPT Agent
运营方文档https://platform.openai.com/docs/bots

ChatGPT Agent 是 OpenAI 开发的 AI 代理,能够使用网页浏览器。它可以智能地浏览网站并与之交互,代表用户完成多步骤任务…

robots.txt

允许或屏蔽 ChatGPT Agent

选择一项粘贴到域名根目录下。规则按标识符分别生效。

屏蔽 ChatGPT Agent
User-agent: ChatGPT Agent
Disallow: /
允许 ChatGPT Agent
User-agent: ChatGPT Agent
Allow: /
允许,但排除你不希望被引用的页面
User-agent: ChatGPT Agent
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

请修改 Disallow 路径,使其与你自己的 URL 一致。

屏蔽的实际代价

屏蔽 ChatGPT Agent 可阻止像已登录用户那样填写表单、逐步点击流程和阅读页面的自动化会话。在这种情况下,限速和人机验证通常比 robots.txt 规则更有效。

为所有爬虫生成文件

FAQ

ChatGPT Agent 常见问题

ChatGPT Agent 是什么?

ChatGPT Agent 是由 OpenAI 运营的机器人,它会自主浏览网页以完成多步骤任务。ChatGPT Agent 是 OpenAI 开发的 AI 代理,能够使用网页浏览器。它遵守 robots.txt,自称 ChatGPT Agent 的请求可通过以下方式核验:已公布的 IP 范围文件。

ChatGPT Agent 是否遵守 robots.txt?

是。运营方在文档中说明 ChatGPT Agent 会读取 robots.txt,并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效,可能是发布后数小时或数天。

如何验证请求确实来自 ChatGPT Agent?

OpenAI 为每个爬虫单独公布一个 IP 段文件。请使用爬虫文档中为此代理列出的文件,而不是 GPTBot 的文件。参考资料发布于 https://platform.openai.com/docs/bots。

如何屏蔽 ChatGPT Agent?

在 robots.txt 中为 ChatGPT Agent 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。

屏蔽 ChatGPT Agent 会影响我的搜索排名吗?

屏蔽 ChatGPT Agent 可阻止像已登录用户那样填写表单、逐步点击流程和阅读页面的自动化会话。在这种情况下,限速和人机验证通常比 robots.txt 规则更有效。

    ChatGPT Agent(OpenAI):User Agent、IP 验证与 robots.txt | IPScanner