AI 搜索爬虫
Googlebot 是由 Google 运营的机器人，它会为网页建立索引，供 AI 问答引擎引用。Googlebot 是 Google 搜索使用的爬虫。它遵守 robots.txt，自称 Googlebot 的请求可通过以下方式核验：已公布的 IP 范围文件或经正向确认的反向 DNS 查询。
请求声明
"Googlebot/2.1"
核验依据
Google 的IP 段和反向 DNS
实时检查
粘贴日志中的地址，系统会将其与运营方公布的信息进行比对。
参考
| User agent | Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html) |
|---|---|
| 运营方 | |
| 用途 | 搜索索引，同时为 AI 概览提供数据 |
| 是否遵守 robots.txt | 遵守来源 |
| 验证方法 | IP 段 + DNS已公布的 IP 范围或反向 DNS 两种方式：对来源 IP 进行反向 DNS 查询，结果须为 googlebot.com 或 google.com 下的主机，且对该主机进行正向查询须返回同一 IP；或者该 IP 须出现在 googlebot.json 中。 https://developers.google.com/static/search/apis/ipranges/googlebot.json |
| 抓取模式 | 持续抓取，频率根据各网站自动调整。 |
| robots.txt 标识符 | Googlebot |
| 运营方文档 | https://developers.google.com/search/docs/crawling-indexing/verifying-googlebot |
Googlebot 是 Google 搜索使用的爬虫。它不是 AI 训练爬虫，但它索引的网页可能会在 AI 概览中被总结，并用于 Gemini 的 grounding。因此，常见做法是屏蔽 Google-Extended 而不屏蔽 Googlebot，这样既能保留在搜索结果中，又能选择不参与训练。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: Googlebot
Disallow: /User-agent: Googlebot
Allow: /User-agent: Googlebot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
Googlebot 是由 Google 运营的机器人，它会为网页建立索引，供 AI 问答引擎引用。Googlebot 是 Google 搜索使用的爬虫。它遵守 robots.txt，自称 Googlebot 的请求可通过以下方式核验：已公布的 IP 范围文件或经正向确认的反向 DNS 查询。
是。运营方在文档中说明 Googlebot 会读取 robots.txt，并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效，可能是发布后数小时或数天。
两种方式：对来源 IP 进行反向 DNS 查询，结果须为 googlebot.com 或 google.com 下的主机，且对该主机进行正向查询须返回同一 IP；或者该 IP 须出现在 googlebot.json 中。参考资料发布于 https://developers.google.com/static/search/apis/ipranges/googlebot.json。
在 robots.txt 中为 Googlebot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 Googlebot 会使网站从其答案所依赖的索引中移除，不再被引用。如果你重视来自 AI 答案的引荐流量，请改为屏蔽训练爬虫，保留这个爬虫。