Robots d'entraînement
img2dataset est un bot qui collecte des pages servant à entraîner des modèles d'IA. Télécharge de grands ensembles d'images pour constituer des jeux de données destinés à l'entraînement de LLM ou à d'autres usages. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
La requête annonce
"img2dataset"
Comparé à
Rien de publié
Vérification en direct
Aucune vérification par l'opérateur n'existe pour img2dataset. Vous verrez tout de même ce qu'est réellement l'adresse.
Référence
| User agent | img2datasetJeton seul : recherchez la sous-chaîne. |
|---|---|
| Opérateur | img2dataset |
| Finalité | Collecte des images pour les utiliser dans des LLM. |
| Respecte robots.txt | Aucune politique |
| Méthode de vérification | Déclaration uniquementRien de publié, user agent uniquement Aucun fichier de plages IP ni aucune convention de DNS inverse n'a été publié pour cet agent. La chaîne user agent est le seul indice, et n'importe quel client peut l'envoyer : considérez donc une correspondance comme une simple déclaration, et non comme une preuve. |
| Comportement d'exploration | À la discrétion des utilisateurs d'img2dataset. |
| Jetons robots.txt | img2dataset |
| Documentation de l'opérateur | Aucune publiée |
Télécharge de grands ensembles d'images pour constituer des jeux de données destinés à l'entraînement de LLM ou à d'autres usages.
robots.txt
Placez l'un de ces fichiers à la racine de votre domaine. Les règles s'appliquent jeton par jeton.
User-agent: img2dataset
Disallow: /User-agent: img2dataset
Allow: /User-agent: img2dataset
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchModifiez les chemins Disallow pour qu'ils correspondent à vos propres URL.
Bloquer img2dataset exclut vos pages des prochaines sessions d'entraînement. Cela ne supprime pas les données déjà collectées et n'a aucun effet sur le classement du site dans les résultats de recherche classiques.
Générer un fichier pour tous les robotsFAQ
img2dataset est un bot qui collecte des pages servant à entraîner des modèles d'IA. Télécharge de grands ensembles d'images pour constituer des jeux de données destinés à l'entraînement de LLM ou à d'autres usages. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
Non documenté. Aucune déclaration de l'opérateur n'indique si img2dataset lit le fichier robots.txt. Ajoutez la règle, puis vérifiez dans vos journaux que les requêtes cessent réellement.
Ce n'est pas possible, du moins pas à partir de la requête elle-même. Aucun fichier de plages IP ni aucune convention de DNS inverse n'a été publié pour cet agent. La chaîne user agent est le seul indice, et n'importe quel client peut l'envoyer : considérez donc une correspondance comme une simple déclaration, et non comme une preuve. Comparez plutôt l'IP source aux plages d'hébergeurs et de datacenters, et limitez le débit de tout trafic qui se comporte comme un crawler.
Ajoutez le jeton img2dataset au fichier robots.txt avec Disallow: /. Si le crawler ignore robots.txt, filtrez le user agent au niveau de votre CDN ou de votre proxy inverse et renvoyez une erreur 403.
Bloquer img2dataset exclut vos pages des prochaines sessions d'entraînement. Cela ne supprime pas les données déjà collectées et n'a aucun effet sur le classement du site dans les résultats de recherche classiques.