Crawlers de entrenamiento
ClaudeBot es un bot operado por Anthropic que recopila páginas para entrenar modelos de IA. Extrae datos para entrenar LLM y productos de IA ofrecidos por Anthropic. Respeta robots.txt, y una solicitud que dice ser de ClaudeBot puede comprobarse con un archivo publicado de rangos de IP.
La solicitud dice
"ClaudeBot/1.0"
Se comprueba con
rangos de IP publicados de Anthropic
Comprobación en directo
Pega la dirección de la línea del log. Se compara con lo que publica el operador.
Referencia
| User agent | Mozilla/5.0 (compatible; ClaudeBot/1.0; +claudebot@anthropic.com) |
|---|---|
| Operador | Anthropic |
| Finalidad | Extrae datos para entrenar los productos de IA de Anthropic. |
| Respeta robots.txt | Respetafuente |
| Método de verificación | Rangos de IPArchivo publicado de rangos de IP Anthropic publica un único archivo de prefijos que cubre ClaudeBot, Claude-User y Claude-SearchBot. Una solicitud que dice ser ClaudeBot y procede de fuera de esos prefijos es una falsificación. |
| Patrón de rastreo | No publicado |
| Tokens de robots.txt | ClaudeBot |
| Documentación del operador | https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler |
Extrae datos para entrenar LLM y productos de IA ofrecidos por Anthropic.
robots.txt
Pega una en la raíz de tu dominio. Las reglas se aplican por token.
User-agent: ClaudeBot
Disallow: /User-agent: ClaudeBot
Allow: /User-agent: ClaudeBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchCambia las rutas de Disallow para que coincidan con tus URLs.
Bloquear ClaudeBot deja tus páginas fuera del próximo entrenamiento. No elimina nada de lo ya recopilado y no afecta al posicionamiento del sitio en la búsqueda normal.
Crea un archivo para todos los rastreadoresFAQ
ClaudeBot es un bot operado por Anthropic que recopila páginas para entrenar modelos de IA. Extrae datos para entrenar LLM y productos de IA ofrecidos por Anthropic. Respeta robots.txt, y una solicitud que dice ser de ClaudeBot puede comprobarse con un archivo publicado de rangos de IP.
Sí. El operador documenta que ClaudeBot lee robots.txt y respeta las reglas Disallow de su propio token. Las reglas se aplican la próxima vez que descarga el archivo, lo que puede ocurrir horas o días después de publicarlas.
Anthropic publica un único archivo de prefijos que cubre ClaudeBot, Claude-User y Claude-SearchBot. Una solicitud que dice ser ClaudeBot y procede de fuera de esos prefijos es una falsificación. La referencia está publicada en https://claude.com/crawling/bots.json.
Añade el token ClaudeBot a robots.txt con Disallow: /. Si el rastreador ignora robots.txt, filtra el user agent en tu CDN o proxy inverso y devuelve allí un 403.
Bloquear ClaudeBot deja tus páginas fuera del próximo entrenamiento. No elimina nada de lo ya recopilado y no afecta al posicionamiento del sitio en la búsqueda normal.