Crawlers de búsqueda con IA
YouBot es un bot operado por You que indexa páginas para que un motor de respuestas con IA pueda citarlas. Obtiene datos para el buscador web y los LLM de You.com. Está documentado que respeta robots.txt, pero no se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica.
La solicitud dice
"YouBot"
Se comprueba con
Nada publicado
Comprobación en directo
No hay ninguna verificación del operador para YouBot. Aun así, aquí ves qué es realmente la dirección.
Referencia
| User agent | YouBotSolo token: busca coincidencias con la subcadena. |
|---|---|
| Operador | You |
| Finalidad | Extrae datos para el buscador y los LLM. |
| Respeta robots.txt | Respetafuente |
| Método de verificación | Solo declaradoNada publicado, solo user agent You.com documenta el rastreador y respeta robots.txt, pero no publica ninguna lista de direcciones. |
| Patrón de rastreo | No publicado |
| Tokens de robots.txt | YouBot |
| Documentación del operador | https://about.you.com/youbot/ |
Obtiene datos para el buscador web y los LLM de You.com.
robots.txt
Pega una en la raíz de tu dominio. Las reglas se aplican por token.
User-agent: YouBot
Disallow: /User-agent: YouBot
Allow: /User-agent: YouBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchCambia las rutas de Disallow para que coincidan con tus URLs.
Bloquear YouBot saca el sitio del índice en el que se basan sus respuestas, así que deja de citarse allí. Si te importa el tráfico que llega desde respuestas de IA, bloquea mejor el rastreador de entrenamiento y deja este.
Crea un archivo para todos los rastreadoresFAQ
YouBot es un bot operado por You que indexa páginas para que un motor de respuestas con IA pueda citarlas. Obtiene datos para el buscador web y los LLM de You.com. Está documentado que respeta robots.txt, pero no se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica.
Sí. El operador documenta que YouBot lee robots.txt y respeta las reglas Disallow de su propio token. Las reglas se aplican la próxima vez que descarga el archivo, lo que puede ocurrir horas o días después de publicarlas.
No puedes, al menos no a partir de la propia solicitud. You.com documenta el rastreador y respeta robots.txt, pero no publica ninguna lista de direcciones. En su lugar, compara la IP de origen con rangos de hosting y de centros de datos, y limita la frecuencia de todo lo que se comporte como un rastreador.
Añade el token YouBot a robots.txt con Disallow: /. Si el rastreador ignora robots.txt, filtra el user agent en tu CDN o proxy inverso y devuelve allí un 403.
Bloquear YouBot saca el sitio del índice en el que se basan sus respuestas, así que deja de citarse allí. Si te importa el tráfico que llega desde respuestas de IA, bloquea mejor el rastreador de entrenamiento y deja este.