Otros crawlers automatizados
Thinkbot es un bot que rastrea la web de forma automática. Recopila datos para analizar el uso de la IA y la automatización. No se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica, y una regla en robots.txt no basta para frenar una suplantación.
La solicitud dice
"Thinkbot"
Se comprueba con
Nada publicado
Comprobación en directo
No hay ninguna verificación del operador para Thinkbot. Aun así, aquí ves qué es realmente la dirección.
Referencia
| User agent | ThinkbotSolo token: busca coincidencias con la subcadena. |
|---|---|
| Operador | Thinkbot |
| Finalidad | Información sobre integración de IA y automatización. |
| Respeta robots.txt | Ignora |
| Método de verificación | Solo declaradoNada publicado, solo user agent No se ha publicado ningún archivo de rangos de IP ni ninguna convención de DNS inverso para este agente. La cadena de user agent es la única señal y cualquier cliente puede enviarla, así que considera una coincidencia como una declaración y no como una prueba. |
| Patrón de rastreo | No publicado |
| Tokens de robots.txt | Thinkbot |
| Documentación del operador | No hay ninguna publicada |
Recopila datos para analizar el uso de la IA y la automatización.
robots.txt
Según la documentación, Thinkbot ignora robots.txt. Aplica también el bloqueo en tu CDN.
User-agent: Thinkbot
Disallow: /User-agent: Thinkbot
Allow: /User-agent: Thinkbot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchCambia las rutas de Disallow para que coincidan con tus URLs.
Bloquear Thinkbot detiene este token concreto. Revisa después tus registros, porque los operadores que ignoran robots.txt suelen volver con otro nombre.
Crea un archivo para todos los rastreadoresFAQ
Thinkbot es un bot que rastrea la web de forma automática. Recopila datos para analizar el uso de la IA y la automatización. No se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica, y una regla en robots.txt no basta para frenar una suplantación.
Según informan propietarios de sitios, Thinkbot no respeta robots.txt de forma fiable. Añade la regla de todos modos y revisa tus registros; si las solicitudes continúan, bloquéalo en el borde por user agent o por dirección de origen.
No puedes, al menos no a partir de la propia solicitud. No se ha publicado ningún archivo de rangos de IP ni ninguna convención de DNS inverso para este agente. La cadena de user agent es la única señal y cualquier cliente puede enviarla, así que considera una coincidencia como una declaración y no como una prueba. En su lugar, compara la IP de origen con rangos de hosting y de centros de datos, y limita la frecuencia de todo lo que se comporte como un rastreador.
Añade el token Thinkbot a robots.txt con Disallow: /. Si el rastreador ignora robots.txt, filtra el user agent en tu CDN o proxy inverso y devuelve allí un 403.
Bloquear Thinkbot detiene este token concreto. Revisa después tus registros, porque los operadores que ignoran robots.txt suelen volver con otro nombre.