Trainings-Crawler
FacebookBot ist ein von Meta/Facebook betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. Offiziell für das Training der „Spracherkennungstechnologie“ von Meta verwendet. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als FacebookBot ausgibt, dient die vom Betreiber angekündigte ASN.
Anfrage gibt an
"FacebookBot"
Geprüft anhand
ASN von Meta/Facebook
Live-Prüfung
Fügen Sie die Adresse aus der Logzeile ein. Sie wird mit den Angaben des Betreibers abgeglichen.
Referenz
| User-Agent | FacebookBotNur Token: auf den Teilstring prüfen. |
|---|---|
| Betreiber | Meta/Facebook |
| Zweck | Training von Sprachmodellen |
| Beachtet robots.txt | BeachtetQuelle |
| Verifizierungsmethode | ASN des BetreibersPrüfung der Betreiber-ASN Prüfen Sie die Quell-IP gegen AS32934. Meta veröffentlicht keine Bereichsdatei pro Bot. https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/ |
| Crawl-Muster | Bis zu 1 Seite pro Sekunde |
| robots.txt-Tokens | FacebookBot |
| Dokumentation des Betreibers | https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/ |
Offiziell für das Training der „Spracherkennungstechnologie“ von Meta verwendet. Ob er speziell zum Training von Meta AI dient, ist nicht bekannt.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: FacebookBot
Disallow: /User-agent: FacebookBot
Allow: /User-agent: FacebookBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie FacebookBot blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.
Eine Datei für alle Crawler erstellenFAQ
FacebookBot ist ein von Meta/Facebook betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. Offiziell für das Training der „Spracherkennungstechnologie“ von Meta verwendet. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als FacebookBot ausgibt, dient die vom Betreiber angekündigte ASN.
Ja. Der Betreiber dokumentiert, dass FacebookBot robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
Prüfen Sie die Quell-IP gegen AS32934. Meta veröffentlicht keine Bereichsdatei pro Bot. Die Referenz ist unter https://developers.facebook.com/docs/sharing/webmasters/web-crawlers/ veröffentlicht.
Tragen Sie das Token FacebookBot mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie FacebookBot blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.