Creadores de datasets
omgili es un bot operado por Webz.io que rastrea páginas para crear un conjunto de datos que puede reutilizarse o compartirse con terceros. omgili rastrea sitios para Webz.io, que ofrece flujos de datos web usados por empresas de monitorización y análisis y licenciados para usos que pueden incluir la investigación y el entrenamiento de LLM. Está documentado que respeta robots.txt, pero no se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica.
La solicitud dice
"omgili"
Se comprueba con
Nada publicado
Comprobación en directo
No hay ninguna verificación del operador para omgili. Aun así, aquí ves qué es realmente la dirección.
Referencia
| User agent | omgiliSolo token: busca coincidencias con la subcadena. |
|---|---|
| Operador | Webz.io |
| Finalidad | Flujos de datos web licenciados a clientes. |
| Respeta robots.txt | Respetafuente |
| Método de verificación | Solo declaradoNada publicado, solo user agent Webz.io ofrece el resultado de sus rastreos como flujos de datos licenciados, así que bloquearlo limita la recopilación futura de tus páginas. No hay ninguna lista de direcciones publicada. https://webz.io/blog/web-data/what-is-the-omgili-bot-and-why-is-it-crawling-your-website/ |
| Patrón de rastreo | No publicado |
| Tokens de robots.txt | omgiliomgilibot |
| Documentación del operador | No hay ninguna publicada |
omgili rastrea sitios para Webz.io, que ofrece flujos de datos web usados por empresas de monitorización y análisis y licenciados para usos que pueden incluir la investigación y el entrenamiento de LLM.
robots.txt
Pega una en la raíz de tu dominio. Las reglas se aplican por token.
User-agent: omgili
User-agent: omgilibot
Disallow: /User-agent: omgili
User-agent: omgilibot
Allow: /User-agent: omgili
User-agent: omgilibot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchCambia las rutas de Disallow para que coincidan con tus URLs.
Bloquear omgili deja tus páginas fuera de los conjuntos de datos que cree a partir de futuros rastreos. No elimina nada de lo recopilado antes, y cada operador usa o comparte sus datos de forma distinta, así que consulta su política.
Crea un archivo para todos los rastreadoresFAQ
omgili es un bot operado por Webz.io que rastrea páginas para crear un conjunto de datos que puede reutilizarse o compartirse con terceros. omgili rastrea sitios para Webz.io, que ofrece flujos de datos web usados por empresas de monitorización y análisis y licenciados para usos que pueden incluir la investigación y el entrenamiento de LLM. Está documentado que respeta robots.txt, pero no se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica.
Sí. El operador documenta que omgili lee robots.txt y respeta las reglas Disallow de su propio token. Las reglas se aplican la próxima vez que descarga el archivo, lo que puede ocurrir horas o días después de publicarlas.
No puedes, al menos no a partir de la propia solicitud. Webz.io ofrece el resultado de sus rastreos como flujos de datos licenciados, así que bloquearlo limita la recopilación futura de tus páginas. No hay ninguna lista de direcciones publicada. En su lugar, compara la IP de origen con rangos de hosting y de centros de datos, y limita la frecuencia de todo lo que se comporte como un rastreador.
Añade estos tokens de user agent (omgili, omgilibot) a robots.txt con Disallow: /. Si el rastreador ignora robots.txt, filtra el user agent en tu CDN o proxy inverso y devuelve allí un 403.
Bloquear omgili deja tus páginas fuera de los conjuntos de datos que cree a partir de futuros rastreos. No elimina nada de lo recopilado antes, y cada operador usa o comparte sus datos de forma distinta, así que consulta su política.