AI 搜索爬虫

amazon-kendra

amazon-kendra 是由 Amazon 运营的机器人,它会为网页建立索引,供 AI 问答引擎引用。Amazon Kendra 是一项智能搜索服务,用户可以用自然语言搜索非结构化数据。文档说明它遵守 robots.txt,但运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的。

Amazon仅自称robots.txt:遵守

实时检查

验证自称 amazon-kendra 的 IP

amazon-kendra 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。

参考

amazon-kendra 概览

amazon-kendra 爬虫参考数据
User agentamazon-kendra

仅为标识符:按子串匹配。

运营方Amazon
用途为 AI 自然语言搜索收集数据
是否遵守 robots.txt遵守
验证方法仅自称未公布,仅凭 user agent

该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。

抓取模式未公布
robots.txt 标识符amazon-kendra
运营方文档未发布

Amazon Kendra 是一项智能搜索服务,用户可以用自然语言搜索非结构化数据。它会针对问题返回具体答案,使用体验接近向人类专家提问。该服务可扩展性强,能够满足性能需求,与 Amazon S3、Amazon Lex 等其他 AWS 服务紧密集成,并提供企业级安全保障。

robots.txt

允许或屏蔽 amazon-kendra

选择一项粘贴到域名根目录下。规则按标识符分别生效。

屏蔽 amazon-kendra
User-agent: amazon-kendra
Disallow: /
允许 amazon-kendra
User-agent: amazon-kendra
Allow: /
允许,但排除你不希望被引用的页面
User-agent: amazon-kendra
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

请修改 Disallow 路径,使其与你自己的 URL 一致。

屏蔽的实际代价

屏蔽 amazon-kendra 会使网站从其答案所依赖的索引中移除,不再被引用。如果你重视来自 AI 答案的引荐流量,请改为屏蔽训练爬虫,保留这个爬虫。

为所有爬虫生成文件

FAQ

amazon-kendra 常见问题

amazon-kendra 是什么?

amazon-kendra 是由 Amazon 运营的机器人,它会为网页建立索引,供 AI 问答引擎引用。Amazon Kendra 是一项智能搜索服务,用户可以用自然语言搜索非结构化数据。文档说明它遵守 robots.txt,但运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的。

amazon-kendra 是否遵守 robots.txt?

是。运营方在文档中说明 amazon-kendra 会读取 robots.txt,并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效,可能是发布后数小时或数天。

如何验证请求确实来自 amazon-kendra?

无法验证,至少无法仅凭请求本身验证。该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对,并对任何表现得像爬虫的流量进行限速。

如何屏蔽 amazon-kendra?

在 robots.txt 中为 amazon-kendra 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。

屏蔽 amazon-kendra 会影响我的搜索排名吗?

屏蔽 amazon-kendra 会使网站从其答案所依赖的索引中移除,不再被引用。如果你重视来自 AI 答案的引荐流量,请改为屏蔽训练爬虫,保留这个爬虫。

    amazon-kendra(Amazon):User Agent、IP 验证与 robots.txt | IPScanner