Robots d'entraînement
Scrapy est un bot exploité par Zyte qui collecte des pages servant à entraîner des modèles d'IA. « Les applications d'IA et d'apprentissage automatique ont souvent besoin de grandes quantités de données de qualité, et l'extraction de données web est un moyen rapide et efficace de constituer des jeux de données structurés. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
La requête annonce
"Scrapy"
Comparé à
Rien de publié
Vérification en direct
Aucune vérification par l'opérateur n'existe pour Scrapy. Vous verrez tout de même ce qu'est réellement l'adresse.
Référence
| User agent | ScrapyJeton seul : recherchez la sous-chaîne. |
|---|---|
| Opérateur | Zyte |
| Finalité | Extrait des données à des fins diverses, notamment l'entraînement de l'IA. |
| Respecte robots.txt | Aucune politique |
| Méthode de vérification | Déclaration uniquementRien de publié, user agent uniquement Scrapy est un framework open source, et non un opérateur unique. Ce jeton signifie que quelqu'un a conservé les paramètres par défaut ; n'importe qui peut le modifier, si bien que sa présence en dit plus sur la négligence de l'opérateur que sur son identité. |
| Comportement d'exploration | Non publié |
| Jetons robots.txt | Scrapy |
| Documentation de l'opérateur | Aucune publiée |
« Les applications d'IA et d'apprentissage automatique ont souvent besoin de grandes quantités de données de qualité, et l'extraction de données web est un moyen rapide et efficace de constituer des jeux de données structurés. »
robots.txt
Placez l'un de ces fichiers à la racine de votre domaine. Les règles s'appliquent jeton par jeton.
User-agent: Scrapy
Disallow: /User-agent: Scrapy
Allow: /User-agent: Scrapy
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchModifiez les chemins Disallow pour qu'ils correspondent à vos propres URL.
Bloquer Scrapy exclut vos pages des prochaines sessions d'entraînement. Cela ne supprime pas les données déjà collectées et n'a aucun effet sur le classement du site dans les résultats de recherche classiques.
Générer un fichier pour tous les robotsFAQ
Scrapy est un bot exploité par Zyte qui collecte des pages servant à entraîner des modèles d'IA. « Les applications d'IA et d'apprentissage automatique ont souvent besoin de grandes quantités de données de qualité, et l'extraction de données web est un moyen rapide et efficace de constituer des jeux de données structurés. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
Non documenté. Aucune déclaration de l'opérateur n'indique si Scrapy lit le fichier robots.txt. Ajoutez la règle, puis vérifiez dans vos journaux que les requêtes cessent réellement.
Ce n'est pas possible, du moins pas à partir de la requête elle-même. Scrapy est un framework open source, et non un opérateur unique. Ce jeton signifie que quelqu'un a conservé les paramètres par défaut ; n'importe qui peut le modifier, si bien que sa présence en dit plus sur la négligence de l'opérateur que sur son identité. Comparez plutôt l'IP source aux plages d'hébergeurs et de datacenters, et limitez le débit de tout trafic qui se comporte comme un crawler.
Ajoutez le jeton Scrapy au fichier robots.txt avec Disallow: /. Si le crawler ignore robots.txt, filtrez le user agent au niveau de votre CDN ou de votre proxy inverse et renvoyez une erreur 403.
Bloquer Scrapy exclut vos pages des prochaines sessions d'entraînement. Cela ne supprime pas les données déjà collectées et n'a aucun effet sur le classement du site dans les résultats de recherche classiques.