Robots de recherche IA
YouBot est un bot exploité par You qui indexe des pages afin qu'un moteur de réponses IA puisse les citer. Récupère des données utilisées par le moteur de recherche web et les LLM de You.com. Il est documenté comme respectant le fichier robots.txt, mais aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique.
La requête annonce
"YouBot"
Comparé à
Rien de publié
Vérification en direct
Aucune vérification par l'opérateur n'existe pour YouBot. Vous verrez tout de même ce qu'est réellement l'adresse.
Référence
| User agent | YouBotJeton seul : recherchez la sous-chaîne. |
|---|---|
| Opérateur | You |
| Finalité | Collecte des données pour un moteur de recherche et des LLM. |
| Respecte robots.txt | Respectesource |
| Méthode de vérification | Déclaration uniquementRien de publié, user agent uniquement You.com documente ce robot d'exploration, qui respecte robots.txt, mais ne publie aucune liste d'adresses. |
| Comportement d'exploration | Non publié |
| Jetons robots.txt | YouBot |
| Documentation de l'opérateur | https://about.you.com/youbot/ |
Récupère des données utilisées par le moteur de recherche web et les LLM de You.com.
robots.txt
Placez l'un de ces fichiers à la racine de votre domaine. Les règles s'appliquent jeton par jeton.
User-agent: YouBot
Disallow: /User-agent: YouBot
Allow: /User-agent: YouBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchModifiez les chemins Disallow pour qu'ils correspondent à vos propres URL.
Bloquer YouBot retire le site de l'index qui alimente ses réponses : il n'y sera plus cité. Si le trafic provenant des réponses IA compte pour vous, bloquez plutôt le crawler d'entraînement et laissez celui-ci accéder au site.
Générer un fichier pour tous les robotsFAQ
YouBot est un bot exploité par You qui indexe des pages afin qu'un moteur de réponses IA puisse les citer. Récupère des données utilisées par le moteur de recherche web et les LLM de You.com. Il est documenté comme respectant le fichier robots.txt, mais aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique.
Oui. L'opérateur indique que YouBot lit le fichier robots.txt et respecte les règles Disallow visant son propre jeton. Les règles s'appliquent lors de la prochaine récupération du fichier, ce qui peut prendre plusieurs heures ou plusieurs jours après leur publication.
Ce n'est pas possible, du moins pas à partir de la requête elle-même. You.com documente ce robot d'exploration, qui respecte robots.txt, mais ne publie aucune liste d'adresses. Comparez plutôt l'IP source aux plages d'hébergeurs et de datacenters, et limitez le débit de tout trafic qui se comporte comme un crawler.
Ajoutez le jeton YouBot au fichier robots.txt avec Disallow: /. Si le crawler ignore robots.txt, filtrez le user agent au niveau de votre CDN ou de votre proxy inverse et renvoyez une erreur 403.
Bloquer YouBot retire le site de l'index qui alimente ses réponses : il n'y sera plus cité. Si le trafic provenant des réponses IA compte pour vous, bloquez plutôt le crawler d'entraînement et laissez celui-ci accéder au site.