AI 搜索爬虫

PerplexityBot

PerplexityBot 是由 Perplexity 运营的机器人,它会为网页建立索引,供 AI 问答引擎引用。抓取网站内容,使其出现在 Perplexity 的结果中。它遵守 robots.txt,自称 PerplexityBot 的请求可通过以下方式核验:已公布的 IP 范围文件。

PerplexityIP 段robots.txt:遵守

实时检查

验证自称 PerplexityBot 的 IP

粘贴日志中的地址,系统会将其与运营方公布的信息进行比对。

参考

PerplexityBot 概览

PerplexityBot 爬虫参考数据
User agentMozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/124.0.0.0 Safari/537.36; compatible; PerplexityBot/1.0; +https://perplexity.ai/perplexitybot
运营方Perplexity
用途生成搜索结果。
是否遵守 robots.txt遵守来源
验证方法IP 段已公布的 IP 范围文件

Perplexity 以 JSON 格式发布爬虫的 IP 范围。有独立研究人员报告,存在来自这些范围之外、自称 PerplexityBot 的流量,因此对它而言,IP 检查比其他爬虫更为重要。

https://www.perplexity.com/perplexitybot.json

抓取模式未公布
robots.txt 标识符PerplexityBot
运营方文档https://docs.perplexity.ai/guides/bots

抓取网站内容,使其出现在 Perplexity 的结果中。

robots.txt

允许或屏蔽 PerplexityBot

选择一项粘贴到域名根目录下。规则按标识符分别生效。

屏蔽 PerplexityBot
User-agent: PerplexityBot
Disallow: /
允许 PerplexityBot
User-agent: PerplexityBot
Allow: /
允许,但排除你不希望被引用的页面
User-agent: PerplexityBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

请修改 Disallow 路径,使其与你自己的 URL 一致。

屏蔽的实际代价

屏蔽 PerplexityBot 会使网站从其答案所依赖的索引中移除,不再被引用。如果你重视来自 AI 答案的引荐流量,请改为屏蔽训练爬虫,保留这个爬虫。

为所有爬虫生成文件

FAQ

PerplexityBot 常见问题

PerplexityBot 是什么?

PerplexityBot 是由 Perplexity 运营的机器人,它会为网页建立索引,供 AI 问答引擎引用。抓取网站内容,使其出现在 Perplexity 的结果中。它遵守 robots.txt,自称 PerplexityBot 的请求可通过以下方式核验:已公布的 IP 范围文件。

PerplexityBot 是否遵守 robots.txt?

是。运营方在文档中说明 PerplexityBot 会读取 robots.txt,并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效,可能是发布后数小时或数天。

如何验证请求确实来自 PerplexityBot?

Perplexity 以 JSON 格式发布爬虫的 IP 范围。有独立研究人员报告,存在来自这些范围之外、自称 PerplexityBot 的流量,因此对它而言,IP 检查比其他爬虫更为重要。参考资料发布于 https://www.perplexity.com/perplexitybot.json。

如何屏蔽 PerplexityBot?

在 robots.txt 中为 PerplexityBot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。

屏蔽 PerplexityBot 会影响我的搜索排名吗?

屏蔽 PerplexityBot 会使网站从其答案所依赖的索引中移除,不再被引用。如果你重视来自 AI 答案的引荐流量,请改为屏蔽训练爬虫,保留这个爬虫。

    PerplexityBot(Perplexity):User Agent、IP 验证与 robots.txt | IPScanner