自主代理
Google-Agent 是由 Google 运营的机器人,它会自主浏览网页以完成多步骤任务。Google-Agent 供托管在 Google 基础设施上的代理使用,用于按用户请求浏览网页并执行操作。文档说明它遵守 robots.txt,但运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的。
请求声明
"Google-Agent"
核验依据
未公布
实时检查
Google-Agent 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。
参考
| User agent | Google-Agent仅为标识符:按子串匹配。 |
|---|---|
| 运营方 | |
| 用途 | 自主代理 |
| 是否遵守 robots.txt | 遵守来源 |
| 验证方法 | 仅自称未公布,仅凭 user agent 该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。 |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | Google-Agent |
| 运营方文档 | https://developers.google.com/search/docs/crawling-indexing/overview-google-crawlers |
Google-Agent 供托管在 Google 基础设施上的代理使用,用于按用户请求浏览网页并执行操作。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: Google-Agent
Disallow: /User-agent: Google-Agent
Allow: /User-agent: Google-Agent
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径,使其与你自己的 URL 一致。
屏蔽 Google-Agent 可阻止像已登录用户那样填写表单、逐步点击流程和阅读页面的自动化会话。在这种情况下,限速和人机验证通常比 robots.txt 规则更有效。
为所有爬虫生成文件FAQ
Google-Agent 是由 Google 运营的机器人,它会自主浏览网页以完成多步骤任务。Google-Agent 供托管在 Google 基础设施上的代理使用,用于按用户请求浏览网页并执行操作。文档说明它遵守 robots.txt,但运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的。
是。运营方在文档中说明 Google-Agent 会读取 robots.txt,并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效,可能是发布后数小时或数天。
无法验证,至少无法仅凭请求本身验证。该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对,并对任何表现得像爬虫的流量进行限速。
在 robots.txt 中为 Google-Agent 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 Google-Agent 可阻止像已登录用户那样填写表单、逐步点击流程和阅读页面的自动化会话。在这种情况下,限速和人机验证通常比 robots.txt 规则更有效。