其他自动化爬虫
facebookexternalhit 是由 Meta/Facebook 运营的机器人，它会自动抓取网页。请注意，屏蔽 FacebookExternalHit 后，在社交媒体上分享时将无法使用 OpenGraph 数据，包括 Apple“信息”应用中的富链接。文档说明它不遵守 robots.txt，自称 facebookexternalhit 的请求可通过以下方式核验：运营方公布的 ASN。
请求声明
"facebookexternalhit"
核验依据
Meta/Facebook 的ASN
实时检查
粘贴日志中的地址，系统会将其与运营方公布的信息进行比对。
参考
| User agent | facebookexternalhit仅为标识符：按子串匹配。 |
|---|---|
| 运营方 | Meta/Facebook |
| 用途 | 表面上仅用于分享，但很可能也被用作 AI 爬虫 |
| 是否遵守 robots.txt | 忽略来源 |
| 验证方法 | 运营方 ASN运营方 ASN 核验 链接预览抓取工具。它的出现远早于各类 AI 智能体，也是最常被冒充的 Meta 标识，因此在信任它之前请先核对 AS32934。 https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/ |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | facebookexternalhit |
| 运营方文档 | https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/ |
请注意，屏蔽 FacebookExternalHit 后，在社交媒体上分享时将无法使用 OpenGraph 数据，包括 Apple“信息”应用中的富链接。据 Meta 称，其用途是“抓取在 Meta 旗下某款应用中分享的应用或网站的内容…”。但也有相反的证据，请参阅此处和此处的讨论。
robots.txt
据记录，facebookexternalhit 不遵守 robots.txt。请同时在 CDN 上执行屏蔽。
User-agent: facebookexternalhit
Disallow: /User-agent: facebookexternalhit
Allow: /User-agent: facebookexternalhit
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
facebookexternalhit 是由 Meta/Facebook 运营的机器人，它会自动抓取网页。请注意，屏蔽 FacebookExternalHit 后，在社交媒体上分享时将无法使用 OpenGraph 数据，包括 Apple“信息”应用中的富链接。文档说明它不遵守 robots.txt，自称 facebookexternalhit 的请求可通过以下方式核验：运营方公布的 ASN。
否。文档说明 facebookexternalhit 不遵守 robots.txt，因此 Disallow 规则无法阻止它。需要在边缘按 user agent 或来源地址进行屏蔽。
链接预览抓取工具。它的出现远早于各类 AI 智能体，也是最常被冒充的 Meta 标识，因此在信任它之前请先核对 AS32934。参考资料发布于 https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/。
在 robots.txt 中为 facebookexternalhit 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 facebookexternalhit 只能阻止这个特定标识。之后请检查日志，因为不遵守 robots.txt 的运营方常常会换个名称再来。