Trainings-Crawler
Scrapy ist ein von Zyte betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. „KI- und Machine-Learning-Anwendungen benötigen oft große Mengen hochwertiger Daten, und die Extraktion von Webdaten ist ein schneller, effizienter Weg, strukturierte Datensätze aufzubauen.“. Es gibt keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen, und eine robots.txt-Regel allein hält eine Fälschung nicht auf.
Anfrage gibt an
"Scrapy"
Geprüft anhand
Nichts veröffentlicht
Live-Prüfung
Für Scrapy gibt es keine Prüfung anhand von Angaben des Betreibers. Sie sehen trotzdem, was die Adresse tatsächlich ist.
Referenz
| User-Agent | ScrapyNur Token: auf den Teilstring prüfen. |
|---|---|
| Betreiber | Zyte |
| Zweck | Sammelt Daten für verschiedene Zwecke, darunter das Training von KI. |
| Beachtet robots.txt | Keine Richtlinie |
| Verifizierungsmethode | Nur AngabeNichts veröffentlicht, nur User-Agent Scrapy ist ein Open-Source-Framework und kein einzelner Betreiber. Das Token bedeutet, dass jemand die Standardeinstellungen verwendet hat. Jeder kann es ändern, daher sagt es mehr über die Nachlässigkeit des Betreibers aus als über seine Identität. |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | Scrapy |
| Dokumentation des Betreibers | Keine veröffentlicht |
„KI- und Machine-Learning-Anwendungen benötigen oft große Mengen hochwertiger Daten, und die Extraktion von Webdaten ist ein schneller, effizienter Weg, strukturierte Datensätze aufzubauen.“
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: Scrapy
Disallow: /User-agent: Scrapy
Allow: /User-agent: Scrapy
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie Scrapy blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.
Eine Datei für alle Crawler erstellenFAQ
Scrapy ist ein von Zyte betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. „KI- und Machine-Learning-Anwendungen benötigen oft große Mengen hochwertiger Daten, und die Extraktion von Webdaten ist ein schneller, effizienter Weg, strukturierte Datensätze aufzubauen.“. Es gibt keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen, und eine robots.txt-Regel allein hält eine Fälschung nicht auf.
Nicht dokumentiert. Es gibt keine Aussage eines Betreibers dazu, ob Scrapy robots.txt liest. Fügen Sie die Regel hinzu, prüfen Sie aber in Ihren Logs, ob die Anfragen tatsächlich aufhören.
Das ist nicht möglich, zumindest nicht anhand der Anfrage selbst. Scrapy ist ein Open-Source-Framework und kein einzelner Betreiber. Das Token bedeutet, dass jemand die Standardeinstellungen verwendet hat. Jeder kann es ändern, daher sagt es mehr über die Nachlässigkeit des Betreibers aus als über seine Identität. Gleichen Sie stattdessen die Quell-IP mit Hosting- und Rechenzentrumsbereichen ab und begrenzen Sie die Rate bei allem, was sich wie ein Crawler verhält.
Tragen Sie das Token Scrapy mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie Scrapy blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.