Constructeurs de jeux de données
LAIONDownloader est un bot exploité par Large-scale Artificial Intelligence Open Network qui explore des pages pour constituer un jeu de données susceptible d'être réutilisé ou partagé avec des tiers. LAIONDownloader est un bot de LAION, une organisation à but non lucratif qui fournit des jeux de données, des outils et des modèles pour libérer la recherche en apprentissage automatique. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
La requête annonce
"LAIONDownloader"
Comparé à
Rien de publié
Vérification en direct
Aucune vérification par l'opérateur n'existe pour LAIONDownloader. Vous verrez tout de même ce qu'est réellement l'adresse.
Référence
| User agent | LAIONDownloaderJeton seul : recherchez la sous-chaîne. |
|---|---|
| Opérateur | Large-scale Artificial Intelligence Open Network |
| Finalité | Outils et modèles d'IA pour la recherche en apprentissage automatique. |
| Respecte robots.txt | Ignoresource |
| Méthode de vérification | Déclaration uniquementRien de publié, user agent uniquement Aucun fichier de plages IP ni aucune convention de DNS inverse n'a été publié pour cet agent. La chaîne user agent est le seul indice, et n'importe quel client peut l'envoyer : considérez donc une correspondance comme une simple déclaration, et non comme une preuve. |
| Comportement d'exploration | Non publié |
| Jetons robots.txt | LAIONDownloader |
| Documentation de l'opérateur | Aucune publiée |
LAIONDownloader est un bot de LAION, une organisation à but non lucratif qui fournit des jeux de données, des outils et des modèles pour libérer la recherche en apprentissage automatique.
robots.txt
Selon la documentation, LAIONDownloader ignore robots.txt. Appliquez également un blocage au niveau de votre CDN.
User-agent: LAIONDownloader
Disallow: /User-agent: LAIONDownloader
Allow: /User-agent: LAIONDownloader
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchModifiez les chemins Disallow pour qu'ils correspondent à vos propres URL.
Bloquer LAIONDownloader exclut vos pages des jeux de données qu'il constituera lors de ses prochaines explorations. Cela ne supprime pas les données collectées auparavant. L'usage et le partage des données varient selon les opérateurs : consultez leur politique.
Générer un fichier pour tous les robotsFAQ
LAIONDownloader est un bot exploité par Large-scale Artificial Intelligence Open Network qui explore des pages pour constituer un jeu de données susceptible d'être réutilisé ou partagé avec des tiers. LAIONDownloader est un bot de LAION, une organisation à but non lucratif qui fournit des jeux de données, des outils et des modèles pour libérer la recherche en apprentissage automatique. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
Non. LAIONDownloader est documenté comme ne respectant pas le fichier robots.txt : une ligne Disallow ne l'arrêtera pas. Le blocage doit se faire en périphérie, par user agent ou par adresse source.
Ce n'est pas possible, du moins pas à partir de la requête elle-même. Aucun fichier de plages IP ni aucune convention de DNS inverse n'a été publié pour cet agent. La chaîne user agent est le seul indice, et n'importe quel client peut l'envoyer : considérez donc une correspondance comme une simple déclaration, et non comme une preuve. Comparez plutôt l'IP source aux plages d'hébergeurs et de datacenters, et limitez le débit de tout trafic qui se comporte comme un crawler.
Ajoutez le jeton LAIONDownloader au fichier robots.txt avec Disallow: /. Si le crawler ignore robots.txt, filtrez le user agent au niveau de votre CDN ou de votre proxy inverse et renvoyez une erreur 403.
Bloquer LAIONDownloader exclut vos pages des jeux de données qu'il constituera lors de ses prochaines explorations. Cela ne supprime pas les données collectées auparavant. L'usage et le partage des données varient selon les opérateurs : consultez leur politique.