Trainings-Crawler
Bytespider ist ein von ByteDance betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. Lädt Daten zum Trainieren von LLMs herunter, darunter Konkurrenten von ChatGPT. Es gibt keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen, und eine robots.txt-Regel allein hält eine Fälschung nicht auf.
Anfrage gibt an
"Bytespider"
Geprüft anhand
Nichts veröffentlicht
Live-Prüfung
Für Bytespider gibt es keine Prüfung anhand von Angaben des Betreibers. Sie sehen trotzdem, was die Adresse tatsächlich ist.
Referenz
| User-Agent | BytespiderNur Token: auf den Teilstring prüfen. |
|---|---|
| Betreiber | ByteDance |
| Zweck | LLM-Training. |
| Beachtet robots.txt | Ignoriert |
| Verifizierungsmethode | Nur AngabeNichts veröffentlicht, nur User-Agent ByteDance veröffentlicht für Bytespider weder IP-Bereiche noch eine Reverse-DNS-Konvention. Zudem wurde vielfach berichtet, dass Bytespider aggressiv von Adressen aus crawlt, die nicht auf ByteDance zurückverweisen. Eine Ratenbegrenzung ist zuverlässiger als eine robots.txt-Regel. |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | Bytespider |
| Dokumentation des Betreibers | Keine veröffentlicht |
Lädt Daten zum Trainieren von LLMs herunter, darunter Konkurrenten von ChatGPT.
Bytespider wird von ByteDance betrieben. Dessen Cloud BytePlus gehört zu den Netzen hinter dem Traffic aus Singapur, den viele Websites in ihren Analysen sehen. Bot-Traffic aus China und Singapur trennt die Cloud-Bots von echten Besuchern.
robots.txt
Laut Dokumentation ignoriert Bytespider robots.txt. Setzen Sie eine Sperre zusätzlich in Ihrem CDN durch.
User-agent: Bytespider
Disallow: /User-agent: Bytespider
Allow: /User-agent: Bytespider
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie Bytespider blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.
Eine Datei für alle Crawler erstellenFAQ
Bytespider ist ein von ByteDance betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. Lädt Daten zum Trainieren von LLMs herunter, darunter Konkurrenten von ChatGPT. Es gibt keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen, und eine robots.txt-Regel allein hält eine Fälschung nicht auf.
Berichte von Websitebetreibern deuten darauf hin, dass Bytespider robots.txt nicht zuverlässig befolgt. Fügen Sie die Regel trotzdem hinzu und prüfen Sie dann Ihre Logs. Wenn weiterhin Anfragen eingehen, blockieren Sie am Edge anhand des User-Agents oder der Quelladresse.
Das ist nicht möglich, zumindest nicht anhand der Anfrage selbst. ByteDance veröffentlicht für Bytespider weder IP-Bereiche noch eine Reverse-DNS-Konvention. Zudem wurde vielfach berichtet, dass Bytespider aggressiv von Adressen aus crawlt, die nicht auf ByteDance zurückverweisen. Eine Ratenbegrenzung ist zuverlässiger als eine robots.txt-Regel. Gleichen Sie stattdessen die Quell-IP mit Hosting- und Rechenzentrumsbereichen ab und begrenzen Sie die Rate bei allem, was sich wie ein Crawler verhält.
Tragen Sie das Token Bytespider mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie Bytespider blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.