训练爬虫
Meta-ExternalAgent 是由 Meta 运营的机器人，它会收集网页用于训练 AI 模型。Meta-ExternalAgent 是 Meta 使用的网络爬虫，用于为其 AI 模型下载训练数据，并通过直接索引内容来改进其产品。它遵守 robots.txt，自称 Meta-ExternalAgent 的请求可通过以下方式核验：运营方公布的 ASN。
请求声明
"Meta-ExternalAgent"
核验依据
Meta 的ASN
实时检查
粘贴日志中的地址，系统会将其与运营方公布的信息进行比对。
参考
| User agent | Meta-ExternalAgent仅为标识符：按子串匹配。 |
|---|---|
| 运营方 | Meta |
| 用途 | 训练爬虫 |
| 是否遵守 robots.txt | 遵守来源 |
| 验证方法 | 运营方 ASN运营方 ASN 核验 Meta 未发布按爬虫划分的 IP 范围文件。实际可行的检查方法是确认源 IP 是否由 AS32934（Facebook）宣告，可通过路由注册库查询。 https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/ |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | Meta-ExternalAgentmeta-externalagent |
| 运营方文档 | https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/ |
Meta-ExternalAgent 是 Meta 使用的网络爬虫，用于为其 AI 模型下载训练数据，并通过直接索引内容来改进其产品。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: Meta-ExternalAgent
User-agent: meta-externalagent
Disallow: /User-agent: Meta-ExternalAgent
User-agent: meta-externalagent
Allow: /User-agent: Meta-ExternalAgent
User-agent: meta-externalagent
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
Meta-ExternalAgent 是由 Meta 运营的机器人，它会收集网页用于训练 AI 模型。Meta-ExternalAgent 是 Meta 使用的网络爬虫，用于为其 AI 模型下载训练数据，并通过直接索引内容来改进其产品。它遵守 robots.txt，自称 Meta-ExternalAgent 的请求可通过以下方式核验：运营方公布的 ASN。
是。运营方在文档中说明 Meta-ExternalAgent 会读取 robots.txt，并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效，可能是发布后数小时或数天。
Meta 未发布按爬虫划分的 IP 范围文件。实际可行的检查方法是确认源 IP 是否由 AS32934（Facebook）宣告，可通过路由注册库查询。参考资料发布于 https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/。
在 robots.txt 中为这些 user agent 标识（Meta-ExternalAgent, meta-externalagent）添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 Meta-ExternalAgent 可使你的网页不进入下一轮训练。它不会删除已收集的内容，也不会影响网站在普通搜索中的排名。