Agentes autónomos
Crawl4AI es un bot operado por Crawl4AI (open source) que navega por la web por su cuenta para completar tareas de varios pasos. Crawl4AI es una biblioteca de rastreo de código abierto que convierte páginas a markdown para pipelines de LLM. No se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica, y una regla en robots.txt no basta para frenar una suplantación.
La solicitud dice
"Crawl4AI"
Se comprueba con
Nada publicado
Comprobación en directo
No hay ninguna verificación del operador para Crawl4AI. Aun así, aquí ves qué es realmente la dirección.
Referencia
| User agent | Crawl4AISolo token: busca coincidencias con la subcadena. |
|---|---|
| Operador | Crawl4AI (open source) |
| Finalidad | Agentes autónomos |
| Respeta robots.txt | Sin política |
| Método de verificación | Solo declaradoNada publicado, solo user agent Biblioteca de rastreo de código abierto que se usa para alimentar pipelines de LLM con páginas. Cualquiera puede ejecutarla con cualquier user agent, así que este token es una cortesía, no una identidad. |
| Patrón de rastreo | No publicado |
| Tokens de robots.txt | Crawl4AI |
| Documentación del operador | No hay ninguna publicada |
Crawl4AI es una biblioteca de rastreo de código abierto que convierte páginas a markdown para pipelines de LLM. El token es el que haya dejado en la configuración quien lo ejecute.
robots.txt
Pega una en la raíz de tu dominio. Las reglas se aplican por token.
User-agent: Crawl4AI
Disallow: /User-agent: Crawl4AI
Allow: /User-agent: Crawl4AI
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchCambia las rutas de Disallow para que coincidan con tus URLs.
Bloquear Crawl4AI detiene las sesiones automatizadas que rellenan formularios, recorren flujos y leen páginas como lo haría un usuario con sesión iniciada. Aquí suelen funcionar mejor los límites de frecuencia y los desafíos que una línea en robots.txt.
Crea un archivo para todos los rastreadoresFAQ
Crawl4AI es un bot operado por Crawl4AI (open source) que navega por la web por su cuenta para completar tareas de varios pasos. Crawl4AI es una biblioteca de rastreo de código abierto que convierte páginas a markdown para pipelines de LLM. No se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica, y una regla en robots.txt no basta para frenar una suplantación.
No está documentado. Ninguna declaración del operador indica si Crawl4AI lee robots.txt, así que añade la regla pero comprueba en tus registros que las solicitudes realmente se detienen.
No puedes, al menos no a partir de la propia solicitud. Biblioteca de rastreo de código abierto que se usa para alimentar pipelines de LLM con páginas. Cualquiera puede ejecutarla con cualquier user agent, así que este token es una cortesía, no una identidad. En su lugar, compara la IP de origen con rangos de hosting y de centros de datos, y limita la frecuencia de todo lo que se comporte como un rastreador.
Añade el token Crawl4AI a robots.txt con Disallow: /. Si el rastreador ignora robots.txt, filtra el user agent en tu CDN o proxy inverso y devuelve allí un 403.
Bloquear Crawl4AI detiene las sesiones automatizadas que rellenan formularios, recorren flujos y leen páginas como lo haría un usuario con sesión iniciada. Aquí suelen funcionar mejor los límites de frecuencia y los desafíos que una línea en robots.txt.