AI 搜索爬虫

ExaSearchBot

ExaSearchBot 是由 Exa 运营的机器人,它会为网页建立索引,供 AI 问答引擎引用。ExaSearchBot 是由 Exa 运营的网页爬虫,用于发现公开网页并建立索引,使其内容可以通过 Exa 被查找、获取和引用。运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的,仅靠 robots.txt 规则也无法阻止伪造请求。

Exa仅自称robots.txt:未声明

实时检查

验证自称 ExaSearchBot 的 IP

ExaSearchBot 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。

参考

ExaSearchBot 概览

ExaSearchBot 爬虫参考数据
User agentExaSearchBot

仅为标识符:按子串匹配。

运营方Exa
用途AI 搜索爬虫
是否遵守 robots.txt未声明
验证方法仅自称未公布,仅凭 user agent

该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。

抓取模式未公布
robots.txt 标识符ExaSearchBot
运营方文档未发布

ExaSearchBot 是由 Exa 运营的网页爬虫,用于发现公开网页并建立索引,使其内容可以通过 Exa 被查找、获取和引用。

robots.txt

允许或屏蔽 ExaSearchBot

选择一项粘贴到域名根目录下。规则按标识符分别生效。

屏蔽 ExaSearchBot
User-agent: ExaSearchBot
Disallow: /
允许 ExaSearchBot
User-agent: ExaSearchBot
Allow: /
允许,但排除你不希望被引用的页面
User-agent: ExaSearchBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

请修改 Disallow 路径,使其与你自己的 URL 一致。

屏蔽的实际代价

屏蔽 ExaSearchBot 会使网站从其答案所依赖的索引中移除,不再被引用。如果你重视来自 AI 答案的引荐流量,请改为屏蔽训练爬虫,保留这个爬虫。

为所有爬虫生成文件

FAQ

ExaSearchBot 常见问题

ExaSearchBot 是什么?

ExaSearchBot 是由 Exa 运营的机器人,它会为网页建立索引,供 AI 问答引擎引用。ExaSearchBot 是由 Exa 运营的网页爬虫,用于发现公开网页并建立索引,使其内容可以通过 Exa 被查找、获取和引用。运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的,仅靠 robots.txt 规则也无法阻止伪造请求。

ExaSearchBot 是否遵守 robots.txt?

无文档说明。运营方未说明 ExaSearchBot 是否读取 robots.txt,因此请添加规则,并通过日志确认请求确实已停止。

如何验证请求确实来自 ExaSearchBot?

无法验证,至少无法仅凭请求本身验证。该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据,而任何客户端都可以发送该字符串,因此匹配结果只能视为一种声称,不能作为证明。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对,并对任何表现得像爬虫的流量进行限速。

如何屏蔽 ExaSearchBot?

在 robots.txt 中为 ExaSearchBot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。

屏蔽 ExaSearchBot 会影响我的搜索排名吗?

屏蔽 ExaSearchBot 会使网站从其答案所依赖的索引中移除,不再被引用。如果你重视来自 AI 答案的引荐流量,请改为屏蔽训练爬虫,保留这个爬虫。

    ExaSearchBot(Exa):User Agent、IP 验证与 robots.txt | IPScanner