Trainings-Crawler
Meta-ExternalAgent ist ein von Meta betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. Meta-ExternalAgent ist ein Webcrawler, mit dem Meta Trainingsdaten für seine KI-Modelle herunterlädt und seine Produkte durch direktes Indexieren von Inhalten verbessert. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als Meta-ExternalAgent ausgibt, dient die vom Betreiber angekündigte ASN.
Anfrage gibt an
"Meta-ExternalAgent"
Geprüft anhand
ASN von Meta
Live-Prüfung
Fügen Sie die Adresse aus der Logzeile ein. Sie wird mit den Angaben des Betreibers abgeglichen.
Referenz
| User-Agent | Meta-ExternalAgentNur Token: auf den Teilstring prüfen. |
|---|---|
| Betreiber | Meta |
| Zweck | Trainings-Crawler |
| Beachtet robots.txt | BeachtetQuelle |
| Verifizierungsmethode | ASN des BetreibersPrüfung der Betreiber-ASN Meta veröffentlicht keine Datei mit IP-Bereichen pro Bot. In der Praxis prüfen Sie, ob die Quell-IP von AS32934 (Facebook) announced wird. Das können Sie in einer Routing-Registry abfragen. https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/ |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | Meta-ExternalAgentmeta-externalagent |
| Dokumentation des Betreibers | https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/ |
Meta-ExternalAgent ist ein Webcrawler, mit dem Meta Trainingsdaten für seine KI-Modelle herunterlädt und seine Produkte durch direktes Indexieren von Inhalten verbessert.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: Meta-ExternalAgent
User-agent: meta-externalagent
Disallow: /User-agent: Meta-ExternalAgent
User-agent: meta-externalagent
Allow: /User-agent: Meta-ExternalAgent
User-agent: meta-externalagent
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie Meta-ExternalAgent blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.
Eine Datei für alle Crawler erstellenFAQ
Meta-ExternalAgent ist ein von Meta betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. Meta-ExternalAgent ist ein Webcrawler, mit dem Meta Trainingsdaten für seine KI-Modelle herunterlädt und seine Produkte durch direktes Indexieren von Inhalten verbessert. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als Meta-ExternalAgent ausgibt, dient die vom Betreiber angekündigte ASN.
Ja. Der Betreiber dokumentiert, dass Meta-ExternalAgent robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
Meta veröffentlicht keine Datei mit IP-Bereichen pro Bot. In der Praxis prüfen Sie, ob die Quell-IP von AS32934 (Facebook) announced wird. Das können Sie in einer Routing-Registry abfragen. Die Referenz ist unter https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/ veröffentlicht.
Tragen Sie diese User-Agent-Tokens (Meta-ExternalAgent, meta-externalagent) mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie Meta-ExternalAgent blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.