Trainings-Crawler
AI2Bot ist ein von Ai2 betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. Durchsucht „bestimmte Domains“, um Webinhalte zu finden. Laut Dokumentation beachtet er robots.txt, es gibt jedoch keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen.
Anfrage gibt an
"AI2Bot"
Geprüft anhand
Nichts veröffentlicht
Live-Prüfung
Für AI2Bot gibt es keine Prüfung anhand von Angaben des Betreibers. Sie sehen trotzdem, was die Adresse tatsächlich ist.
Referenz
| User-Agent | AI2BotNur Token: auf den Teilstring prüfen. |
|---|---|
| Betreiber | Ai2 |
| Zweck | Die Inhalte werden zum Training offener Sprachmodelle verwendet. |
| Beachtet robots.txt | Beachtet |
| Verifizierungsmethode | Nur AngabeNichts veröffentlicht, nur User-Agent Ai2 dokumentiert den Crawler und eine Opt-out-Möglichkeit, veröffentlicht aber keine Adressliste. Die gesammelten Daten fließen in die offenen Datensätze OLMo und Dolma ein. Eine Sperre entfernt die Website daher nicht nur aus einem Modell, sondern auch aus öffentlichen Forschungskorpora. |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | AI2BotAi2Bot-Dolma |
| Dokumentation des Betreibers | https://allenai.org/crawler |
Durchsucht „bestimmte Domains“, um Webinhalte zu finden.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: AI2Bot
User-agent: Ai2Bot-Dolma
Disallow: /User-agent: AI2Bot
User-agent: Ai2Bot-Dolma
Allow: /User-agent: AI2Bot
User-agent: Ai2Bot-Dolma
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie AI2Bot blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.
Eine Datei für alle Crawler erstellenFAQ
AI2Bot ist ein von Ai2 betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. Durchsucht „bestimmte Domains“, um Webinhalte zu finden. Laut Dokumentation beachtet er robots.txt, es gibt jedoch keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen.
Ja. Der Betreiber dokumentiert, dass AI2Bot robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
Das ist nicht möglich, zumindest nicht anhand der Anfrage selbst. Ai2 dokumentiert den Crawler und eine Opt-out-Möglichkeit, veröffentlicht aber keine Adressliste. Die gesammelten Daten fließen in die offenen Datensätze OLMo und Dolma ein. Eine Sperre entfernt die Website daher nicht nur aus einem Modell, sondern auch aus öffentlichen Forschungskorpora. Gleichen Sie stattdessen die Quell-IP mit Hosting- und Rechenzentrumsbereichen ab und begrenzen Sie die Rate bei allem, was sich wie ein Crawler verhält.
Tragen Sie diese User-Agent-Tokens (AI2Bot, Ai2Bot-Dolma) mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie AI2Bot blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.