助手抓取器
Perplexity-User 是由 Perplexity 运营的机器人,它会按需为 AI 助手抓取单个网页。Perplexity-User 用于支持用户在 Perplexity 中的操作。文档说明它不遵守 robots.txt,自称 Perplexity-User 的请求可通过以下方式核验:已公布的 IP 范围文件。
请求声明
"Perplexity-User"
核验依据
Perplexity 的公布的 IP 段
实时检查
粘贴日志中的地址,系统会将其与运营方公布的信息进行比对。
参考
| User agent | Perplexity-User仅为标识符:按子串匹配。 |
|---|---|
| 运营方 | Perplexity |
| 用途 | 助手抓取器 |
| 是否遵守 robots.txt | 忽略来源 |
| 验证方法 | IP 段已公布的 IP 范围文件 由用户触发的抓取,有单独发布的 IP 范围文件。Perplexity 在文档中说明,由于页面是用户主动请求的,该代理会忽略 robots.txt。 |
| 抓取模式 | 仅在用户发出请求时。 |
| robots.txt 标识符 | Perplexity-User |
| 运营方文档 | https://docs.perplexity.ai/guides/bots |
Perplexity-User 用于支持用户在 Perplexity 中的操作。当用户向 Perplexity 提问时,它可能会访问网页以帮助提供准确的回答,并附上…
robots.txt
据记录,Perplexity-User 不遵守 robots.txt。请同时在 CDN 上执行屏蔽。
User-agent: Perplexity-User
Disallow: /User-agent: Perplexity-User
Allow: /User-agent: Perplexity-User
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径,使其与你自己的 URL 一致。
FAQ
Perplexity-User 是由 Perplexity 运营的机器人,它会按需为 AI 助手抓取单个网页。Perplexity-User 用于支持用户在 Perplexity 中的操作。文档说明它不遵守 robots.txt,自称 Perplexity-User 的请求可通过以下方式核验:已公布的 IP 范围文件。
否。文档说明 Perplexity-User 不遵守 robots.txt,因此 Disallow 规则无法阻止它。需要在边缘按 user agent 或来源地址进行屏蔽。
由用户触发的抓取,有单独发布的 IP 范围文件。Perplexity 在文档中说明,由于页面是用户主动请求的,该代理会忽略 robots.txt。参考资料发布于 https://www.perplexity.com/perplexity-user.json。
在 robots.txt 中为 Perplexity-User 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 Perplexity-User 后,用户询问你的某个 URL 时将收到错误,而不是摘要。这是在用户支持和声誉之间的取舍,与训练无关。