Constructeurs de jeux de données
Diffbot est un bot qui explore des pages pour constituer un jeu de données susceptible d'être réutilisé ou partagé avec des tiers. Diffbot est un robot d'exploration qui extrait et structure le contenu des sites à l'aide d'une analyse visuelle fondée sur l'IA. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
La requête annonce
"Diffbot"
Comparé à
Rien de publié
Vérification en direct
Aucune vérification par l'opérateur n'existe pour Diffbot. Vous verrez tout de même ce qu'est réellement l'adresse.
Référence
| User agent | DiffbotJeton seul : recherchez la sous-chaîne. |
|---|---|
| Opérateur | Diffbot |
| Finalité | Constructeurs de jeux de données |
| Respecte robots.txt | Aucune politique |
| Méthode de vérification | Déclaration uniquementRien de publié, user agent uniquement Le respect du fichier robots.txt est configuré par client : deux explorations Diffbot d'un même site peuvent donc se comporter différemment. Aucune liste d'IP n'est publiée. |
| Comportement d'exploration | Non publié |
| Jetons robots.txt | Diffbot |
| Documentation de l'opérateur | Aucune publiée |
Diffbot est un robot d'exploration qui extrait et structure le contenu des sites à l'aide d'une analyse visuelle fondée sur l'IA. Il fournit des données de graphe de connaissances à des applications comme la veille m…
robots.txt
Placez l'un de ces fichiers à la racine de votre domaine. Les règles s'appliquent jeton par jeton.
User-agent: Diffbot
Disallow: /User-agent: Diffbot
Allow: /User-agent: Diffbot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchModifiez les chemins Disallow pour qu'ils correspondent à vos propres URL.
Bloquer Diffbot exclut vos pages des jeux de données qu'il constituera lors de ses prochaines explorations. Cela ne supprime pas les données collectées auparavant. L'usage et le partage des données varient selon les opérateurs : consultez leur politique.
Générer un fichier pour tous les robotsFAQ
Diffbot est un bot qui explore des pages pour constituer un jeu de données susceptible d'être réutilisé ou partagé avec des tiers. Diffbot est un robot d'exploration qui extrait et structure le contenu des sites à l'aide d'une analyse visuelle fondée sur l'IA. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
Non documenté. Aucune déclaration de l'opérateur n'indique si Diffbot lit le fichier robots.txt. Ajoutez la règle, puis vérifiez dans vos journaux que les requêtes cessent réellement.
Ce n'est pas possible, du moins pas à partir de la requête elle-même. Le respect du fichier robots.txt est configuré par client : deux explorations Diffbot d'un même site peuvent donc se comporter différemment. Aucune liste d'IP n'est publiée. Comparez plutôt l'IP source aux plages d'hébergeurs et de datacenters, et limitez le débit de tout trafic qui se comporte comme un crawler.
Ajoutez le jeton Diffbot au fichier robots.txt avec Disallow: /. Si le crawler ignore robots.txt, filtrez le user agent au niveau de votre CDN ou de votre proxy inverse et renvoyez une erreur 403.
Bloquer Diffbot exclut vos pages des jeux de données qu'il constituera lors de ses prochaines explorations. Cela ne supprime pas les données collectées auparavant. L'usage et le partage des données varient selon les opérateurs : consultez leur politique.