自主代理程式
Google-CloudVertexBot 是由 Google 營運的機械人,會自行瀏覽網絡以完成多步驟任務。Google-CloudVertexBot 在網站擁有者建立 Vertex AI Agents 時,應其要求爬取網站。此機械人遵守 robots.txt;如請求聲稱來自 Google-CloudVertexBot,可用的核實依據為已公布的 IP 範圍檔案。
請求聲稱
"Google-CloudVertexBot"
核對依據
Google 的已公佈的 IP 範圍
即時檢查
貼上日誌記錄中的地址,系統會與營運者公布的資料核對。
參考資料
| User agent | Google-CloudVertexBot僅為標記:以子字串比對。 |
|---|---|
| 營運者 | |
| 用途 | 為使用 Vertex AI 的企業建立及管理 AI 模型 |
| 遵守 robots.txt | 遵守來源 |
| 驗證方法 | IP 範圍已公布的 IP 範圍檔案 代表正在建立自家 grounding 代理程式的 Vertex AI 客戶進行爬取。封鎖它只會封鎖該客戶,不會影響 Google Search。 https://developers.google.com/static/search/apis/ipranges/special-crawlers.json |
| 爬取模式 | 未公布 |
| robots.txt 標記 | Google-CloudVertexBotCloudVertexBot |
| 營運者文件 | https://developers.google.com/search/docs/crawling-indexing/overview-google-crawlers |
Google-CloudVertexBot 在網站擁有者建立 Vertex AI Agents 時,應其要求爬取網站。
robots.txt
選擇其中一項,貼到網域根目錄。規則按標記分別設定。
User-agent: Google-CloudVertexBot
User-agent: CloudVertexBot
Disallow: /User-agent: Google-CloudVertexBot
User-agent: CloudVertexBot
Allow: /User-agent: Google-CloudVertexBot
User-agent: CloudVertexBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search請修改 Disallow 路徑,使其符合你的網址。
封鎖 Google-CloudVertexBot 可阻止自動化工作階段像已登入用戶一樣填寫表格、逐步完成流程及閱讀網頁。在此情況下,速率限制和驗證挑戰通常比 robots.txt 規則更有效。
為所有爬蟲建立檔案FAQ
Google-CloudVertexBot 是由 Google 營運的機械人,會自行瀏覽網絡以完成多步驟任務。Google-CloudVertexBot 在網站擁有者建立 Vertex AI Agents 時,應其要求爬取網站。此機械人遵守 robots.txt;如請求聲稱來自 Google-CloudVertexBot,可用的核實依據為已公布的 IP 範圍檔案。
是。營運者的文件說明 Google-CloudVertexBot 會讀取 robots.txt,並遵守針對其標記的 Disallow 規則。規則會在下次擷取該檔案時生效,可能是發布後數小時或數天。
代表正在建立自家 grounding 代理程式的 Vertex AI 客戶進行爬取。封鎖它只會封鎖該客戶,不會影響 Google Search。參考資料發布於 https://developers.google.com/static/search/apis/ipranges/special-crawlers.json。
在 robots.txt 中為以下 user agent 標記(Google-CloudVertexBot, CloudVertexBot)加入 Disallow: /。如該爬蟲不遵守 robots.txt,請改為在 CDN 或反向代理伺服器比對 user agent,並在該處回傳 403。
封鎖 Google-CloudVertexBot 可阻止自動化工作階段像已登入用戶一樣填寫表格、逐步完成流程及閱讀網頁。在此情況下,速率限制和驗證挑戰通常比 robots.txt 規則更有效。