Autres robots automatisés
Thinkbot est un bot qui explore le web de manière automatisée. Collecte des données pour analyser l'usage de l'IA et l'automatisation. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
La requête annonce
"Thinkbot"
Comparé à
Rien de publié
Vérification en direct
Aucune vérification par l'opérateur n'existe pour Thinkbot. Vous verrez tout de même ce qu'est réellement l'adresse.
Référence
| User agent | ThinkbotJeton seul : recherchez la sous-chaîne. |
|---|---|
| Opérateur | Thinkbot |
| Finalité | Analyses sur l'intégration de l'IA et l'automatisation. |
| Respecte robots.txt | Ignore |
| Méthode de vérification | Déclaration uniquementRien de publié, user agent uniquement Aucun fichier de plages IP ni aucune convention de DNS inverse n'a été publié pour cet agent. La chaîne user agent est le seul indice, et n'importe quel client peut l'envoyer : considérez donc une correspondance comme une simple déclaration, et non comme une preuve. |
| Comportement d'exploration | Non publié |
| Jetons robots.txt | Thinkbot |
| Documentation de l'opérateur | Aucune publiée |
Collecte des données pour analyser l'usage de l'IA et l'automatisation.
robots.txt
Selon la documentation, Thinkbot ignore robots.txt. Appliquez également un blocage au niveau de votre CDN.
User-agent: Thinkbot
Disallow: /User-agent: Thinkbot
Allow: /User-agent: Thinkbot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchModifiez les chemins Disallow pour qu'ils correspondent à vos propres URL.
Bloquer Thinkbot arrête uniquement ce jeton. Consultez ensuite vos journaux, car les opérateurs qui ignorent robots.txt reviennent souvent sous un autre nom.
Générer un fichier pour tous les robotsFAQ
Thinkbot est un bot qui explore le web de manière automatisée. Collecte des données pour analyser l'usage de l'IA et l'automatisation. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
D'après des signalements de propriétaires de sites, Thinkbot ne respecte pas le fichier robots.txt de manière fiable. Ajoutez tout de même la règle, puis consultez vos journaux. Si les requêtes continuent, bloquez-les en périphérie, par user agent ou par adresse source.
Ce n'est pas possible, du moins pas à partir de la requête elle-même. Aucun fichier de plages IP ni aucune convention de DNS inverse n'a été publié pour cet agent. La chaîne user agent est le seul indice, et n'importe quel client peut l'envoyer : considérez donc une correspondance comme une simple déclaration, et non comme une preuve. Comparez plutôt l'IP source aux plages d'hébergeurs et de datacenters, et limitez le débit de tout trafic qui se comporte comme un crawler.
Ajoutez le jeton Thinkbot au fichier robots.txt avec Disallow: /. Si le crawler ignore robots.txt, filtrez le user agent au niveau de votre CDN ou de votre proxy inverse et renvoyez une erreur 403.
Bloquer Thinkbot arrête uniquement ce jeton. Consultez ensuite vos journaux, car les opérateurs qui ignorent robots.txt reviennent souvent sous un autre nom.