AI 搜索爬虫

PetalBot

PetalBot 是由 Huawei 运营的机器人,它会为网页建立索引,供 AI 问答引擎引用。由 Huawei 运营,用于提供搜索和 AI 助手服务。文档说明它遵守 robots.txt,但运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的。

Huawei仅自称robots.txt:遵守

实时检查

验证自称 PetalBot 的 IP

PetalBot 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。

参考

PetalBot 概览

PetalBot 爬虫参考数据
User agentPetalBot

仅为标识符:按子串匹配。

运营方Huawei
用途用于在 Huawei 助手和 AI 搜索服务中提供推荐。
是否遵守 robots.txt遵守
验证方法仅自称未公布,仅凭 user agent

Huawei 在其站长帮助文档中介绍了该爬虫。流量来自 Huawei Cloud 的 IP 段,但未公布各爬虫的 IP 列表。

https://webmaster.petalsearch.com/site/petalbot

抓取模式未明确说明抓取频率。
robots.txt 标识符PetalBot
运营方文档未发布

由 Huawei 运营,用于提供搜索和 AI 助手服务。

PetalBot 使用 Huawei Cloud 位于新加坡的地址进行抓取,因此在服务器日志和 Cloudflare 分析中显示为新加坡流量。 中国和新加坡的机器人流量一文介绍了如何区分云端机器人与真实访客。

robots.txt

允许或屏蔽 PetalBot

选择一项粘贴到域名根目录下。规则按标识符分别生效。

屏蔽 PetalBot
User-agent: PetalBot
Disallow: /
允许 PetalBot
User-agent: PetalBot
Allow: /
允许,但排除你不希望被引用的页面
User-agent: PetalBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

请修改 Disallow 路径,使其与你自己的 URL 一致。

屏蔽的实际代价

屏蔽 PetalBot 会使网站从其答案所依赖的索引中移除,不再被引用。如果你重视来自 AI 答案的引荐流量,请改为屏蔽训练爬虫,保留这个爬虫。

为所有爬虫生成文件

FAQ

PetalBot 常见问题

PetalBot 是什么?

PetalBot 是由 Huawei 运营的机器人,它会为网页建立索引,供 AI 问答引擎引用。由 Huawei 运营,用于提供搜索和 AI 助手服务。文档说明它遵守 robots.txt,但运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的。

PetalBot 是否遵守 robots.txt?

是。运营方在文档中说明 PetalBot 会读取 robots.txt,并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效,可能是发布后数小时或数天。

如何验证请求确实来自 PetalBot?

无法验证,至少无法仅凭请求本身验证。Huawei 在其站长帮助文档中介绍了该爬虫。流量来自 Huawei Cloud 的 IP 段,但未公布各爬虫的 IP 列表。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对,并对任何表现得像爬虫的流量进行限速。

如何屏蔽 PetalBot?

在 robots.txt 中为 PetalBot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。

屏蔽 PetalBot 会影响我的搜索排名吗?

屏蔽 PetalBot 会使网站从其答案所依赖的索引中移除,不再被引用。如果你重视来自 AI 答案的引荐流量,请改为屏蔽训练爬虫,保留这个爬虫。

    PetalBot(Huawei):User Agent、IP 验证与 robots.txt | IPScanner