Crawlers de entrenamiento
anthropic-ai es un bot operado por Anthropic que recopila páginas para entrenar modelos de IA. Extrae datos para entrenar LLM y productos de IA ofrecidos por Anthropic. No está documentado si respeta robots.txt, y una solicitud que dice ser de anthropic-ai puede comprobarse con un archivo publicado de rangos de IP.
La solicitud dice
"anthropic-ai"
Se comprueba con
rangos de IP publicados de Anthropic
Comprobación en directo
Pega la dirección de la línea del log. Se compara con lo que publica el operador.
Referencia
| User agent | anthropic-aiSolo token: busca coincidencias con la subcadena. |
|---|---|
| Operador | Anthropic |
| Finalidad | Extrae datos para entrenar los productos de IA de Anthropic. |
| Respeta robots.txt | Sin política |
| Método de verificación | Rangos de IPArchivo publicado de rangos de IP Un token antiguo que se ha copiado mucho en archivos robots.txt. Anthropic identifica ahora sus crawlers como ClaudeBot, Claude-User y Claude-SearchBot, así que mantén esta regla, pero no confíes solo en ella. |
| Patrón de rastreo | No publicado |
| Tokens de robots.txt | anthropic-ai |
| Documentación del operador | https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler |
Extrae datos para entrenar LLM y productos de IA ofrecidos por Anthropic.
robots.txt
Pega una en la raíz de tu dominio. Las reglas se aplican por token.
User-agent: anthropic-ai
Disallow: /User-agent: anthropic-ai
Allow: /User-agent: anthropic-ai
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchCambia las rutas de Disallow para que coincidan con tus URLs.
Bloquear anthropic-ai deja tus páginas fuera del próximo entrenamiento. No elimina nada de lo ya recopilado y no afecta al posicionamiento del sitio en la búsqueda normal.
Crea un archivo para todos los rastreadoresFAQ
anthropic-ai es un bot operado por Anthropic que recopila páginas para entrenar modelos de IA. Extrae datos para entrenar LLM y productos de IA ofrecidos por Anthropic. No está documentado si respeta robots.txt, y una solicitud que dice ser de anthropic-ai puede comprobarse con un archivo publicado de rangos de IP.
No está documentado. Ninguna declaración del operador indica si anthropic-ai lee robots.txt, así que añade la regla pero comprueba en tus registros que las solicitudes realmente se detienen.
Un token antiguo que se ha copiado mucho en archivos robots.txt. Anthropic identifica ahora sus crawlers como ClaudeBot, Claude-User y Claude-SearchBot, así que mantén esta regla, pero no confíes solo en ella. La referencia está publicada en https://claude.com/crawling/bots.json.
Añade el token anthropic-ai a robots.txt con Disallow: /. Si el rastreador ignora robots.txt, filtra el user agent en tu CDN o proxy inverso y devuelve allí un 403.
Bloquear anthropic-ai deja tus páginas fuera del próximo entrenamiento. No elimina nada de lo ya recopilado y no afecta al posicionamiento del sitio en la búsqueda normal.