Creadores de datasets
LAIONDownloader es un bot operado por Large-scale Artificial Intelligence Open Network que rastrea páginas para crear un conjunto de datos que puede reutilizarse o compartirse con terceros. LAIONDownloader es un bot de LAION, una organización sin ánimo de lucro que ofrece datasets, herramientas y modelos para liberar la investigación en aprendizaje automático. No se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica, y una regla en robots.txt no basta para frenar una suplantación.
La solicitud dice
"LAIONDownloader"
Se comprueba con
Nada publicado
Comprobación en directo
No hay ninguna verificación del operador para LAIONDownloader. Aun así, aquí ves qué es realmente la dirección.
Referencia
| User agent | LAIONDownloaderSolo token: busca coincidencias con la subcadena. |
|---|---|
| Operador | Large-scale Artificial Intelligence Open Network |
| Finalidad | Herramientas y modelos de IA para la investigación en aprendizaje automático. |
| Respeta robots.txt | Ignorafuente |
| Método de verificación | Solo declaradoNada publicado, solo user agent No se ha publicado ningún archivo de rangos de IP ni ninguna convención de DNS inverso para este agente. La cadena de user agent es la única señal y cualquier cliente puede enviarla, así que considera una coincidencia como una declaración y no como una prueba. |
| Patrón de rastreo | No publicado |
| Tokens de robots.txt | LAIONDownloader |
| Documentación del operador | No hay ninguna publicada |
LAIONDownloader es un bot de LAION, una organización sin ánimo de lucro que ofrece datasets, herramientas y modelos para liberar la investigación en aprendizaje automático.
robots.txt
Según la documentación, LAIONDownloader ignora robots.txt. Aplica también el bloqueo en tu CDN.
User-agent: LAIONDownloader
Disallow: /User-agent: LAIONDownloader
Allow: /User-agent: LAIONDownloader
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchCambia las rutas de Disallow para que coincidan con tus URLs.
Bloquear LAIONDownloader deja tus páginas fuera de los conjuntos de datos que cree a partir de futuros rastreos. No elimina nada de lo recopilado antes, y cada operador usa o comparte sus datos de forma distinta, así que consulta su política.
Crea un archivo para todos los rastreadoresFAQ
LAIONDownloader es un bot operado por Large-scale Artificial Intelligence Open Network que rastrea páginas para crear un conjunto de datos que puede reutilizarse o compartirse con terceros. LAIONDownloader es un bot de LAION, una organización sin ánimo de lucro que ofrece datasets, herramientas y modelos para liberar la investigación en aprendizaje automático. No se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica, y una regla en robots.txt no basta para frenar una suplantación.
No. Está documentado que LAIONDownloader no respeta robots.txt, así que una línea Disallow no lo detendrá. Tienes que bloquearlo en el borde, por user agent o por dirección de origen.
No puedes, al menos no a partir de la propia solicitud. No se ha publicado ningún archivo de rangos de IP ni ninguna convención de DNS inverso para este agente. La cadena de user agent es la única señal y cualquier cliente puede enviarla, así que considera una coincidencia como una declaración y no como una prueba. En su lugar, compara la IP de origen con rangos de hosting y de centros de datos, y limita la frecuencia de todo lo que se comporte como un rastreador.
Añade el token LAIONDownloader a robots.txt con Disallow: /. Si el rastreador ignora robots.txt, filtra el user agent en tu CDN o proxy inverso y devuelve allí un 403.
Bloquear LAIONDownloader deja tus páginas fuera de los conjuntos de datos que cree a partir de futuros rastreos. No elimina nada de lo recopilado antes, y cada operador usa o comparte sus datos de forma distinta, así que consulta su política.