Robots d'entraînement
AI2Bot est un bot exploité par Ai2 qui collecte des pages servant à entraîner des modèles d'IA. Explore « certains domaines » pour trouver du contenu web. Il est documenté comme respectant le fichier robots.txt, mais aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique.
La requête annonce
"AI2Bot"
Comparé à
Rien de publié
Vérification en direct
Aucune vérification par l'opérateur n'existe pour AI2Bot. Vous verrez tout de même ce qu'est réellement l'adresse.
Référence
| User agent | AI2BotJeton seul : recherchez la sous-chaîne. |
|---|---|
| Opérateur | Ai2 |
| Finalité | Le contenu sert à entraîner des modèles de langage ouverts. |
| Respecte robots.txt | Respecte |
| Méthode de vérification | Déclaration uniquementRien de publié, user agent uniquement Ai2 documente son robot et un moyen de s'y opposer, mais ne publie aucune liste d'adresses. Les données collectées alimentent les jeux de données ouverts OLMo et Dolma : un blocage retire donc le site des corpus de recherche publics, et pas seulement d'un modèle. |
| Comportement d'exploration | Non publié |
| Jetons robots.txt | AI2BotAi2Bot-Dolma |
| Documentation de l'opérateur | https://allenai.org/crawler |
Explore « certains domaines » pour trouver du contenu web.
robots.txt
Placez l'un de ces fichiers à la racine de votre domaine. Les règles s'appliquent jeton par jeton.
User-agent: AI2Bot
User-agent: Ai2Bot-Dolma
Disallow: /User-agent: AI2Bot
User-agent: Ai2Bot-Dolma
Allow: /User-agent: AI2Bot
User-agent: Ai2Bot-Dolma
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchModifiez les chemins Disallow pour qu'ils correspondent à vos propres URL.
Bloquer AI2Bot exclut vos pages des prochaines sessions d'entraînement. Cela ne supprime pas les données déjà collectées et n'a aucun effet sur le classement du site dans les résultats de recherche classiques.
Générer un fichier pour tous les robotsFAQ
AI2Bot est un bot exploité par Ai2 qui collecte des pages servant à entraîner des modèles d'IA. Explore « certains domaines » pour trouver du contenu web. Il est documenté comme respectant le fichier robots.txt, mais aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique.
Oui. L'opérateur indique que AI2Bot lit le fichier robots.txt et respecte les règles Disallow visant son propre jeton. Les règles s'appliquent lors de la prochaine récupération du fichier, ce qui peut prendre plusieurs heures ou plusieurs jours après leur publication.
Ce n'est pas possible, du moins pas à partir de la requête elle-même. Ai2 documente son robot et un moyen de s'y opposer, mais ne publie aucune liste d'adresses. Les données collectées alimentent les jeux de données ouverts OLMo et Dolma : un blocage retire donc le site des corpus de recherche publics, et pas seulement d'un modèle. Comparez plutôt l'IP source aux plages d'hébergeurs et de datacenters, et limitez le débit de tout trafic qui se comporte comme un crawler.
Ajoutez ces jetons user agent (AI2Bot, Ai2Bot-Dolma) au fichier robots.txt avec Disallow: /. Si le crawler ignore robots.txt, filtrez le user agent au niveau de votre CDN ou de votre proxy inverse et renvoyez une erreur 403.
Bloquer AI2Bot exclut vos pages des prochaines sessions d'entraînement. Cela ne supprime pas les données déjà collectées et n'a aucun effet sur le classement du site dans les résultats de recherche classiques.