AI 搜索爬虫

Amzn-SearchBot

Amzn-SearchBot 是由 Amazon 运营的机器人,它会为网页建立索引,供 AI 问答引擎引用。Amzn-SearchBot 为 Amazon 购物和助手搜索界面抓取页面。它是否遵守 robots.txt 尚无文档说明,自称 Amzn-SearchBot 的请求可通过以下方式核验:经正向确认的反向 DNS 查询。

Amazon反向 DNSrobots.txt:未声明

实时检查

验证自称 Amzn-SearchBot 的 IP

粘贴日志中的地址,系统会将其与运营方公布的信息进行比对。

参考

Amzn-SearchBot 概览

Amzn-SearchBot 爬虫参考数据
User agentAmzn-SearchBot

仅为标识符:按子串匹配。

运营方Amazon
用途AI 搜索爬虫
是否遵守 robots.txt未声明
验证方法反向 DNS反向 DNS(经正向确认)

属于 Amazon 爬虫系列,其说明与 Amazonbot 列在一起。使用相同的先反向、后正向 DNS 检查进行验证。

https://developer.amazon.com/amazonbot

抓取模式未公布
robots.txt 标识符Amzn-SearchBot
运营方文档未发布

Amzn-SearchBot 为 Amazon 购物和助手搜索界面抓取页面。其说明与 Amazonbot 列在一起,验证方式也相同。

robots.txt

允许或屏蔽 Amzn-SearchBot

选择一项粘贴到域名根目录下。规则按标识符分别生效。

屏蔽 Amzn-SearchBot
User-agent: Amzn-SearchBot
Disallow: /
允许 Amzn-SearchBot
User-agent: Amzn-SearchBot
Allow: /
允许,但排除你不希望被引用的页面
User-agent: Amzn-SearchBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

请修改 Disallow 路径,使其与你自己的 URL 一致。

屏蔽的实际代价

屏蔽 Amzn-SearchBot 会使网站从其答案所依赖的索引中移除,不再被引用。如果你重视来自 AI 答案的引荐流量,请改为屏蔽训练爬虫,保留这个爬虫。

为所有爬虫生成文件

FAQ

Amzn-SearchBot 常见问题

Amzn-SearchBot 是什么?

Amzn-SearchBot 是由 Amazon 运营的机器人,它会为网页建立索引,供 AI 问答引擎引用。Amzn-SearchBot 为 Amazon 购物和助手搜索界面抓取页面。它是否遵守 robots.txt 尚无文档说明,自称 Amzn-SearchBot 的请求可通过以下方式核验:经正向确认的反向 DNS 查询。

Amzn-SearchBot 是否遵守 robots.txt?

无文档说明。运营方未说明 Amzn-SearchBot 是否读取 robots.txt,因此请添加规则,并通过日志确认请求确实已停止。

如何验证请求确实来自 Amzn-SearchBot?

属于 Amazon 爬虫系列,其说明与 Amazonbot 列在一起。使用相同的先反向、后正向 DNS 检查进行验证。参考资料发布于 https://developer.amazon.com/amazonbot。

如何屏蔽 Amzn-SearchBot?

在 robots.txt 中为 Amzn-SearchBot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。

屏蔽 Amzn-SearchBot 会影响我的搜索排名吗?

屏蔽 Amzn-SearchBot 会使网站从其答案所依赖的索引中移除,不再被引用。如果你重视来自 AI 答案的引荐流量,请改为屏蔽训练爬虫,保留这个爬虫。

    Amzn-SearchBot(Amazon):User Agent、IP 验证与 robots.txt | IPScanner