Agents autonomes
Crawl4AI est un bot exploité par Crawl4AI (open source) qui navigue sur le web de manière autonome pour accomplir des tâches en plusieurs étapes. Crawl4AI est une bibliothèque open source d'exploration qui convertit les pages en markdown pour les chaînes de traitement de LLM. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
La requête annonce
"Crawl4AI"
Comparé à
Rien de publié
Vérification en direct
Aucune vérification par l'opérateur n'existe pour Crawl4AI. Vous verrez tout de même ce qu'est réellement l'adresse.
Référence
| User agent | Crawl4AIJeton seul : recherchez la sous-chaîne. |
|---|---|
| Opérateur | Crawl4AI (open source) |
| Finalité | Agents autonomes |
| Respecte robots.txt | Aucune politique |
| Méthode de vérification | Déclaration uniquementRien de publié, user agent uniquement Bibliothèque open source d'exploration utilisée pour alimenter des chaînes de traitement de LLM en pages. N'importe qui peut l'exécuter sous n'importe quel user agent : ce jeton relève donc de la simple courtoisie et ne constitue pas une identité. |
| Comportement d'exploration | Non publié |
| Jetons robots.txt | Crawl4AI |
| Documentation de l'opérateur | Aucune publiée |
Crawl4AI est une bibliothèque open source d'exploration qui convertit les pages en markdown pour les chaînes de traitement de LLM. Le jeton correspond à ce que la personne qui l'exécute a laissé dans la configuration.
robots.txt
Placez l'un de ces fichiers à la racine de votre domaine. Les règles s'appliquent jeton par jeton.
User-agent: Crawl4AI
Disallow: /User-agent: Crawl4AI
Allow: /User-agent: Crawl4AI
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchModifiez les chemins Disallow pour qu'ils correspondent à vos propres URL.
Bloquer Crawl4AI arrête les sessions automatisées qui remplissent des formulaires, parcourent des étapes et lisent des pages comme le ferait un utilisateur connecté. La limitation de débit et les challenges sont généralement plus efficaces ici qu'une ligne dans robots.txt.
Générer un fichier pour tous les robotsFAQ
Crawl4AI est un bot exploité par Crawl4AI (open source) qui navigue sur le web de manière autonome pour accomplir des tâches en plusieurs étapes. Crawl4AI est une bibliothèque open source d'exploration qui convertit les pages en markdown pour les chaînes de traitement de LLM. Aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique, et une règle robots.txt ne suffira pas à bloquer une usurpation.
Non documenté. Aucune déclaration de l'opérateur n'indique si Crawl4AI lit le fichier robots.txt. Ajoutez la règle, puis vérifiez dans vos journaux que les requêtes cessent réellement.
Ce n'est pas possible, du moins pas à partir de la requête elle-même. Bibliothèque open source d'exploration utilisée pour alimenter des chaînes de traitement de LLM en pages. N'importe qui peut l'exécuter sous n'importe quel user agent : ce jeton relève donc de la simple courtoisie et ne constitue pas une identité. Comparez plutôt l'IP source aux plages d'hébergeurs et de datacenters, et limitez le débit de tout trafic qui se comporte comme un crawler.
Ajoutez le jeton Crawl4AI au fichier robots.txt avec Disallow: /. Si le crawler ignore robots.txt, filtrez le user agent au niveau de votre CDN ou de votre proxy inverse et renvoyez une erreur 403.
Bloquer Crawl4AI arrête les sessions automatisées qui remplissent des formulaires, parcourent des étapes et lisent des pages comme le ferait un utilisateur connecté. La limitation de débit et les challenges sont généralement plus efficaces ici qu'une ligne dans robots.txt.