自主代理

GoogleAgent-Mariner

GoogleAgent-Mariner 是由 Google 运营的机器人,它会自主浏览网页以完成多步骤任务。GoogleAgent-Mariner 是 Google 开发的 AI 代理,能够使用网页浏览器。运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的,仅靠 robots.txt 规则也无法阻止伪造请求。

Google仅自称robots.txt:未声明

实时检查

验证自称 GoogleAgent-Mariner 的 IP

GoogleAgent-Mariner 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。

参考

GoogleAgent-Mariner 概览

GoogleAgent-Mariner 爬虫参考数据
User agentGoogleAgent-Mariner

仅为标识符:按子串匹配。

运营方Google
用途自主代理
是否遵守 robots.txt未声明
验证方法仅自称未公布,仅凭 user agent

该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。

抓取模式未公布
robots.txt 标识符GoogleAgent-Mariner
运营方文档https://developers.google.com/search/docs/crawling-indexing/overview-google-crawlers

GoogleAgent-Mariner 是 Google 开发的 AI 代理,能够使用网页浏览器。它可以智能地浏览网站并与之交互,以完成多步骤任务……

robots.txt

允许或屏蔽 GoogleAgent-Mariner

选择一项粘贴到域名根目录下。规则按标识符分别生效。

屏蔽 GoogleAgent-Mariner
User-agent: GoogleAgent-Mariner
Disallow: /
允许 GoogleAgent-Mariner
User-agent: GoogleAgent-Mariner
Allow: /
允许,但排除你不希望被引用的页面
User-agent: GoogleAgent-Mariner
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

请修改 Disallow 路径,使其与你自己的 URL 一致。

屏蔽的实际代价

屏蔽 GoogleAgent-Mariner 可阻止像已登录用户那样填写表单、逐步点击流程和阅读页面的自动化会话。在这种情况下,限速和人机验证通常比 robots.txt 规则更有效。

为所有爬虫生成文件

FAQ

GoogleAgent-Mariner 常见问题

GoogleAgent-Mariner 是什么?

GoogleAgent-Mariner 是由 Google 运营的机器人,它会自主浏览网页以完成多步骤任务。GoogleAgent-Mariner 是 Google 开发的 AI 代理,能够使用网页浏览器。运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的,仅靠 robots.txt 规则也无法阻止伪造请求。

GoogleAgent-Mariner 是否遵守 robots.txt?

无文档说明。运营方未说明 GoogleAgent-Mariner 是否读取 robots.txt,因此请添加规则,并通过日志确认请求确实已停止。

如何验证请求确实来自 GoogleAgent-Mariner?

无法验证,至少无法仅凭请求本身验证。该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对,并对任何表现得像爬虫的流量进行限速。

如何屏蔽 GoogleAgent-Mariner?

在 robots.txt 中为 GoogleAgent-Mariner 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。

屏蔽 GoogleAgent-Mariner 会影响我的搜索排名吗?

屏蔽 GoogleAgent-Mariner 可阻止像已登录用户那样填写表单、逐步点击流程和阅读页面的自动化会话。在这种情况下,限速和人机验证通常比 robots.txt 规则更有效。

    GoogleAgent-Mariner(Google):User Agent、IP 验证与 robots.txt | IPScanner