自主代理
Google-CloudVertexBot 是由 Google 运营的机器人，它会自主浏览网页以完成多步骤任务。Google-CloudVertexBot 在网站所有者构建 Vertex AI Agents 时，应其请求抓取网站。它遵守 robots.txt，自称 Google-CloudVertexBot 的请求可通过以下方式核验：已公布的 IP 范围文件。
请求声明
"Google-CloudVertexBot"
核验依据
Google 的公布的 IP 段
实时检查
粘贴日志中的地址，系统会将其与运营方公布的信息进行比对。
参考
| User agent | Google-CloudVertexBot仅为标识符：按子串匹配。 |
|---|---|
| 运营方 | |
| 用途 | 为企业构建和管理基于 Vertex AI 的 AI 模型 |
| 是否遵守 robots.txt | 遵守来源 |
| 验证方法 | IP 段已公布的 IP 范围文件 代表正在构建自有 grounding 代理的 Vertex AI 客户进行抓取。屏蔽它只会影响该客户，不会影响 Google 搜索。 https://developers.google.com/static/search/apis/ipranges/special-crawlers.json |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | Google-CloudVertexBotCloudVertexBot |
| 运营方文档 | https://developers.google.com/search/docs/crawling-indexing/overview-google-crawlers |
Google-CloudVertexBot 在网站所有者构建 Vertex AI Agents 时，应其请求抓取网站。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: Google-CloudVertexBot
User-agent: CloudVertexBot
Disallow: /User-agent: Google-CloudVertexBot
User-agent: CloudVertexBot
Allow: /User-agent: Google-CloudVertexBot
User-agent: CloudVertexBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
屏蔽 Google-CloudVertexBot 可阻止像已登录用户那样填写表单、逐步点击流程和阅读页面的自动化会话。在这种情况下，限速和人机验证通常比 robots.txt 规则更有效。
为所有爬虫生成文件FAQ
Google-CloudVertexBot 是由 Google 运营的机器人，它会自主浏览网页以完成多步骤任务。Google-CloudVertexBot 在网站所有者构建 Vertex AI Agents 时，应其请求抓取网站。它遵守 robots.txt，自称 Google-CloudVertexBot 的请求可通过以下方式核验：已公布的 IP 范围文件。
是。运营方在文档中说明 Google-CloudVertexBot 会读取 robots.txt，并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效，可能是发布后数小时或数天。
代表正在构建自有 grounding 代理的 Vertex AI 客户进行抓取。屏蔽它只会影响该客户，不会影响 Google 搜索。参考资料发布于 https://developers.google.com/static/search/apis/ipranges/special-crawlers.json。
在 robots.txt 中为这些 user agent 标识（Google-CloudVertexBot, CloudVertexBot）添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 Google-CloudVertexBot 可阻止像已登录用户那样填写表单、逐步点击流程和阅读页面的自动化会话。在这种情况下，限速和人机验证通常比 robots.txt 规则更有效。