Datensatz-Ersteller
LAIONDownloader ist ein von Large-scale Artificial Intelligence Open Network betriebener Bot, der Seiten für einen Datensatz crawlt, der weiterverwendet oder an Dritte weitergegeben werden kann. LAIONDownloader ist ein Bot von LAION, einer gemeinnützigen Organisation, die Datensätze, Tools und Modelle bereitstellt, um die Machine-Learning-Forschung frei zugänglich zu machen. Es gibt keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen, und eine robots.txt-Regel allein hält eine Fälschung nicht auf.
Anfrage gibt an
"LAIONDownloader"
Geprüft anhand
Nichts veröffentlicht
Live-Prüfung
Für LAIONDownloader gibt es keine Prüfung anhand von Angaben des Betreibers. Sie sehen trotzdem, was die Adresse tatsächlich ist.
Referenz
| User-Agent | LAIONDownloaderNur Token: auf den Teilstring prüfen. |
|---|---|
| Betreiber | Large-scale Artificial Intelligence Open Network |
| Zweck | KI-Tools und Modelle für die Machine-Learning-Forschung. |
| Beachtet robots.txt | IgnoriertQuelle |
| Verifizierungsmethode | Nur AngabeNichts veröffentlicht, nur User-Agent Für diesen Agenten wurden weder eine Datei mit IP-Bereichen noch eine Reverse-DNS-Konvention veröffentlicht. Der User-Agent-String ist das einzige Merkmal, und jeder Client kann ihn senden. Werten Sie eine Übereinstimmung daher als Behauptung, nicht als Beweis. |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | LAIONDownloader |
| Dokumentation des Betreibers | Keine veröffentlicht |
LAIONDownloader ist ein Bot von LAION, einer gemeinnützigen Organisation, die Datensätze, Tools und Modelle bereitstellt, um die Machine-Learning-Forschung frei zugänglich zu machen.
robots.txt
Laut Dokumentation ignoriert LAIONDownloader robots.txt. Setzen Sie eine Sperre zusätzlich in Ihrem CDN durch.
User-agent: LAIONDownloader
Disallow: /User-agent: LAIONDownloader
Allow: /User-agent: LAIONDownloader
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie LAIONDownloader blockieren, gelangen Ihre Seiten nicht in die Datensätze, die er aus künftigen Crawls erstellt. Früher gesammelte Inhalte werden dadurch nicht entfernt. Wie die einzelnen Betreiber ihre Daten nutzen oder weitergeben, ist unterschiedlich, prüfen Sie daher deren Richtlinien.
Eine Datei für alle Crawler erstellenFAQ
LAIONDownloader ist ein von Large-scale Artificial Intelligence Open Network betriebener Bot, der Seiten für einen Datensatz crawlt, der weiterverwendet oder an Dritte weitergegeben werden kann. LAIONDownloader ist ein Bot von LAION, einer gemeinnützigen Organisation, die Datensätze, Tools und Modelle bereitstellt, um die Machine-Learning-Forschung frei zugänglich zu machen. Es gibt keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen, und eine robots.txt-Regel allein hält eine Fälschung nicht auf.
Nein. Laut Dokumentation befolgt LAIONDownloader robots.txt nicht, eine Disallow-Zeile hält ihn also nicht auf. Die Blockierung muss am Edge erfolgen, anhand des User-Agents oder der Quelladresse.
Das ist nicht möglich, zumindest nicht anhand der Anfrage selbst. Für diesen Agenten wurden weder eine Datei mit IP-Bereichen noch eine Reverse-DNS-Konvention veröffentlicht. Der User-Agent-String ist das einzige Merkmal, und jeder Client kann ihn senden. Werten Sie eine Übereinstimmung daher als Behauptung, nicht als Beweis. Gleichen Sie stattdessen die Quell-IP mit Hosting- und Rechenzentrumsbereichen ab und begrenzen Sie die Rate bei allem, was sich wie ein Crawler verhält.
Tragen Sie das Token LAIONDownloader mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie LAIONDownloader blockieren, gelangen Ihre Seiten nicht in die Datensätze, die er aus künftigen Crawls erstellt. Früher gesammelte Inhalte werden dadurch nicht entfernt. Wie die einzelnen Betreiber ihre Daten nutzen oder weitergeben, ist unterschiedlich, prüfen Sie daher deren Richtlinien.