AI 搜索爬虫
meta-webindexer 是由 Meta 运营的机器人，它会为网页建立索引，供 AI 问答引擎引用。根据其文档：“Meta-WebIndexer 爬虫在网络上抓取内容，用于为用户提升 Meta AI 搜索结果的质量。它是否遵守 robots.txt 尚无文档说明，自称 meta-webindexer 的请求可通过以下方式核验：运营方公布的 ASN。
请求声明
"meta-webindexer"
核验依据
Meta 的ASN
实时检查
粘贴日志中的地址，系统会将其与运营方公布的信息进行比对。
参考
| User agent | meta-webindexer仅为标识符：按子串匹配。 |
|---|---|
| 运营方 | Meta |
| 用途 | AI 搜索爬虫 |
| 是否遵守 robots.txt | 未声明 |
| 验证方法 | 运营方 ASN运营方 ASN 核验 请核对源 IP 是否属于 AS32934。Meta 没有发布按爬虫划分的 IP 范围文件。 https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/ |
| 抓取模式 | 毫无节制，每秒超过 1 次。 |
| robots.txt 标识符 | meta-webindexer |
| 运营方文档 | https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/ |
根据其文档：“Meta-WebIndexer 爬虫在网络上抓取内容，用于为用户提升 Meta AI 搜索结果的质量。在此过程中，Meta 会分析在线内容，以提高 Meta AI 的相关性和准确性。在 robots.txt 文件中允许 Meta-WebIndexer，有助于我们在 Meta AI 的回答中引用并链接到您的内容。”
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: meta-webindexer
Disallow: /User-agent: meta-webindexer
Allow: /User-agent: meta-webindexer
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
meta-webindexer 是由 Meta 运营的机器人，它会为网页建立索引，供 AI 问答引擎引用。根据其文档：“Meta-WebIndexer 爬虫在网络上抓取内容，用于为用户提升 Meta AI 搜索结果的质量。它是否遵守 robots.txt 尚无文档说明，自称 meta-webindexer 的请求可通过以下方式核验：运营方公布的 ASN。
无文档说明。运营方未说明 meta-webindexer 是否读取 robots.txt，因此请添加规则，并通过日志确认请求确实已停止。
请核对源 IP 是否属于 AS32934。Meta 没有发布按爬虫划分的 IP 范围文件。参考资料发布于 https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/。
在 robots.txt 中为 meta-webindexer 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 meta-webindexer 会使网站从其答案所依赖的索引中移除，不再被引用。如果你重视来自 AI 答案的引荐流量，请改为屏蔽训练爬虫，保留这个爬虫。