Crawlers de entrenamiento
Scrapy es un bot operado por Zyte que recopila páginas para entrenar modelos de IA. "Las aplicaciones de IA y aprendizaje automático suelen necesitar grandes cantidades de datos de calidad, y la extracción de datos web es una forma rápida y eficiente de crear conjuntos de datos estructurados.". No se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica, y una regla en robots.txt no basta para frenar una suplantación.
La solicitud dice
"Scrapy"
Se comprueba con
Nada publicado
Comprobación en directo
No hay ninguna verificación del operador para Scrapy. Aun así, aquí ves qué es realmente la dirección.
Referencia
| User agent | ScrapySolo token: busca coincidencias con la subcadena. |
|---|---|
| Operador | Zyte |
| Finalidad | Extrae datos para diversos usos, entre ellos el entrenamiento de IA. |
| Respeta robots.txt | Sin política |
| Método de verificación | Solo declaradoNada publicado, solo user agent Scrapy es un framework de código abierto, no un operador concreto. Este token indica que alguien usó la configuración predeterminada; cualquiera puede cambiarlo, así que verlo dice más del descuido del operador que de su identidad. |
| Patrón de rastreo | No publicado |
| Tokens de robots.txt | Scrapy |
| Documentación del operador | No hay ninguna publicada |
"Las aplicaciones de IA y aprendizaje automático suelen necesitar grandes cantidades de datos de calidad, y la extracción de datos web es una forma rápida y eficiente de crear conjuntos de datos estructurados."
robots.txt
Pega una en la raíz de tu dominio. Las reglas se aplican por token.
User-agent: Scrapy
Disallow: /User-agent: Scrapy
Allow: /User-agent: Scrapy
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchCambia las rutas de Disallow para que coincidan con tus URLs.
Bloquear Scrapy deja tus páginas fuera del próximo entrenamiento. No elimina nada de lo ya recopilado y no afecta al posicionamiento del sitio en la búsqueda normal.
Crea un archivo para todos los rastreadoresFAQ
Scrapy es un bot operado por Zyte que recopila páginas para entrenar modelos de IA. "Las aplicaciones de IA y aprendizaje automático suelen necesitar grandes cantidades de datos de calidad, y la extracción de datos web es una forma rápida y eficiente de crear conjuntos de datos estructurados.". No se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica, y una regla en robots.txt no basta para frenar una suplantación.
No está documentado. Ninguna declaración del operador indica si Scrapy lee robots.txt, así que añade la regla pero comprueba en tus registros que las solicitudes realmente se detienen.
No puedes, al menos no a partir de la propia solicitud. Scrapy es un framework de código abierto, no un operador concreto. Este token indica que alguien usó la configuración predeterminada; cualquiera puede cambiarlo, así que verlo dice más del descuido del operador que de su identidad. En su lugar, compara la IP de origen con rangos de hosting y de centros de datos, y limita la frecuencia de todo lo que se comporte como un rastreador.
Añade el token Scrapy a robots.txt con Disallow: /. Si el rastreador ignora robots.txt, filtra el user agent en tu CDN o proxy inverso y devuelve allí un 403.
Bloquear Scrapy deja tus páginas fuera del próximo entrenamiento. No elimina nada de lo ya recopilado y no afecta al posicionamiento del sitio en la búsqueda normal.