Robots d'entraînement
Bytespider est un bot exploité par ByteDance qui collecte des pages servant à entraîner des modèles d'IA. Télécharge des données pour entraîner des LLM, notamment des concurrents de ChatGPT. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
La requête annonce
"Bytespider"
Comparé à
Rien de publié
Vérification en direct
Aucune vérification par l'opérateur n'existe pour Bytespider. Vous verrez tout de même ce qu'est réellement l'adresse.
Référence
| User agent | BytespiderJeton seul : recherchez la sous-chaîne. |
|---|---|
| Opérateur | ByteDance |
| Finalité | Entraînement de LLM. |
| Respecte robots.txt | Ignore |
| Méthode de vérification | Déclaration uniquementRien de publié, user agent uniquement ByteDance ne publie ni plages d'IP ni convention de DNS inverse pour Bytespider, et de nombreux signalements font état d'une exploration agressive depuis des adresses qui ne pointent pas vers ByteDance. Une limitation du débit est plus fiable qu'une règle robots.txt. |
| Comportement d'exploration | Non publié |
| Jetons robots.txt | Bytespider |
| Documentation de l'opérateur | Aucune publiée |
Télécharge des données pour entraîner des LLM, notamment des concurrents de ChatGPT.
Bytespider est exploité par ByteDance, dont le cloud, BytePlus, fait partie des réseaux à l'origine du trafic singapourien que de nombreux sites constatent dans leurs statistiques. Trafic de robots en provenance de Chine et de Singapour : distinguer les robots cloud des vrais visiteurs.
robots.txt
Selon la documentation, Bytespider ignore robots.txt. Appliquez également un blocage au niveau de votre CDN.
User-agent: Bytespider
Disallow: /User-agent: Bytespider
Allow: /User-agent: Bytespider
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchModifiez les chemins Disallow pour qu'ils correspondent à vos propres URL.
Bloquer Bytespider exclut vos pages des prochaines sessions d'entraînement. Cela ne supprime pas les données déjà collectées et n'a aucun effet sur le classement du site dans les résultats de recherche classiques.
Générer un fichier pour tous les robotsFAQ
Bytespider est un bot exploité par ByteDance qui collecte des pages servant à entraîner des modèles d'IA. Télécharge des données pour entraîner des LLM, notamment des concurrents de ChatGPT. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
D'après des signalements de propriétaires de sites, Bytespider ne respecte pas le fichier robots.txt de manière fiable. Ajoutez tout de même la règle, puis consultez vos journaux. Si les requêtes continuent, bloquez-les en périphérie, par user agent ou par adresse source.
Ce n'est pas possible, du moins pas à partir de la requête elle-même. ByteDance ne publie ni plages d'IP ni convention de DNS inverse pour Bytespider, et de nombreux signalements font état d'une exploration agressive depuis des adresses qui ne pointent pas vers ByteDance. Une limitation du débit est plus fiable qu'une règle robots.txt. Comparez plutôt l'IP source aux plages d'hébergeurs et de datacenters, et limitez le débit de tout trafic qui se comporte comme un crawler.
Ajoutez le jeton Bytespider au fichier robots.txt avec Disallow: /. Si le crawler ignore robots.txt, filtrez le user agent au niveau de votre CDN ou de votre proxy inverse et renvoyez une erreur 403.
Bloquer Bytespider exclut vos pages des prochaines sessions d'entraînement. Cela ne supprime pas les données déjà collectées et n'a aucun effet sur le classement du site dans les résultats de recherche classiques.