Otros crawlers automatizados
Poseidon Research Crawler es un bot operado por Poseidon Research que rastrea la web de forma automática. Laboratorio centrado en escalar la investigación en interpretabilidad necesaria para hacer posibles mejores sistemas de IA. No se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica, y una regla en robots.txt no basta para frenar una suplantación.
La solicitud dice
"Poseidon Research Crawler"
Se comprueba con
Nada publicado
Comprobación en directo
No hay ninguna verificación del operador para Poseidon Research Crawler. Aun así, aquí ves qué es realmente la dirección.
Referencia
| User agent | Poseidon Research CrawlerSolo token: busca coincidencias con la subcadena. |
|---|---|
| Operador | Poseidon Research |
| Finalidad | Crawler de investigación en IA |
| Respeta robots.txt | Sin política |
| Método de verificación | Solo declaradoNada publicado, solo user agent No se ha publicado ningún archivo de rangos de IP ni ninguna convención de DNS inverso para este agente. La cadena de user agent es la única señal y cualquier cliente puede enviarla, así que considera una coincidencia como una declaración y no como una prueba. |
| Patrón de rastreo | No se indica una frecuencia concreta. |
| Tokens de robots.txt | Poseidon Research Crawler |
| Documentación del operador | No hay ninguna publicada |
Laboratorio centrado en escalar la investigación en interpretabilidad necesaria para hacer posibles mejores sistemas de IA.
robots.txt
Pega una en la raíz de tu dominio. Las reglas se aplican por token.
User-agent: Poseidon Research Crawler
Disallow: /User-agent: Poseidon Research Crawler
Allow: /User-agent: Poseidon Research Crawler
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchCambia las rutas de Disallow para que coincidan con tus URLs.
Bloquear Poseidon Research Crawler detiene este token concreto. Revisa después tus registros, porque los operadores que ignoran robots.txt suelen volver con otro nombre.
Crea un archivo para todos los rastreadoresFAQ
Poseidon Research Crawler es un bot operado por Poseidon Research que rastrea la web de forma automática. Laboratorio centrado en escalar la investigación en interpretabilidad necesaria para hacer posibles mejores sistemas de IA. No se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica, y una regla en robots.txt no basta para frenar una suplantación.
No está documentado. Ninguna declaración del operador indica si Poseidon Research Crawler lee robots.txt, así que añade la regla pero comprueba en tus registros que las solicitudes realmente se detienen.
No puedes, al menos no a partir de la propia solicitud. No se ha publicado ningún archivo de rangos de IP ni ninguna convención de DNS inverso para este agente. La cadena de user agent es la única señal y cualquier cliente puede enviarla, así que considera una coincidencia como una declaración y no como una prueba. En su lugar, compara la IP de origen con rangos de hosting y de centros de datos, y limita la frecuencia de todo lo que se comporte como un rastreador.
Añade el token Poseidon Research Crawler a robots.txt con Disallow: /. Si el rastreador ignora robots.txt, filtra el user agent en tu CDN o proxy inverso y devuelve allí un 403.
Bloquear Poseidon Research Crawler detiene este token concreto. Revisa después tus registros, porque los operadores que ignoran robots.txt suelen volver con otro nombre.