Constructeurs de jeux de données
omgili est un bot exploité par Webz.io qui explore des pages pour constituer un jeu de données susceptible d'être réutilisé ou partagé avec des tiers. omgili explore les sites pour Webz.io, qui fournit des flux de données Web utilisés par des entreprises de veille et d'analyse, et concédés sous licence pour des usages pouvant inclure la recherche et l'entraînement de LLM. Il est documenté comme respectant le fichier robots.txt, mais aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique.
La requête annonce
"omgili"
Comparé à
Rien de publié
Vérification en direct
Aucune vérification par l'opérateur n'existe pour omgili. Vous verrez tout de même ce qu'est réellement l'adresse.
Référence
| User agent | omgiliJeton seul : recherchez la sous-chaîne. |
|---|---|
| Opérateur | Webz.io |
| Finalité | Flux de données Web concédés sous licence à des clients. |
| Respecte robots.txt | Respectesource |
| Méthode de vérification | Déclaration uniquementRien de publié, user agent uniquement Webz.io propose le résultat de ses explorations sous forme de flux de données sous licence : le bloquer limite donc la collecte future de vos pages. Aucune liste d'adresses publiée. https://webz.io/blog/web-data/what-is-the-omgili-bot-and-why-is-it-crawling-your-website/ |
| Comportement d'exploration | Non publié |
| Jetons robots.txt | omgiliomgilibot |
| Documentation de l'opérateur | Aucune publiée |
omgili explore les sites pour Webz.io, qui fournit des flux de données Web utilisés par des entreprises de veille et d'analyse, et concédés sous licence pour des usages pouvant inclure la recherche et l'entraînement de LLM.
robots.txt
Placez l'un de ces fichiers à la racine de votre domaine. Les règles s'appliquent jeton par jeton.
User-agent: omgili
User-agent: omgilibot
Disallow: /User-agent: omgili
User-agent: omgilibot
Allow: /User-agent: omgili
User-agent: omgilibot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchModifiez les chemins Disallow pour qu'ils correspondent à vos propres URL.
Bloquer omgili exclut vos pages des jeux de données qu'il constituera lors de ses prochaines explorations. Cela ne supprime pas les données collectées auparavant. L'usage et le partage des données varient selon les opérateurs : consultez leur politique.
Générer un fichier pour tous les robotsFAQ
omgili est un bot exploité par Webz.io qui explore des pages pour constituer un jeu de données susceptible d'être réutilisé ou partagé avec des tiers. omgili explore les sites pour Webz.io, qui fournit des flux de données Web utilisés par des entreprises de veille et d'analyse, et concédés sous licence pour des usages pouvant inclure la recherche et l'entraînement de LLM. Il est documenté comme respectant le fichier robots.txt, mais aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique.
Oui. L'opérateur indique que omgili lit le fichier robots.txt et respecte les règles Disallow visant son propre jeton. Les règles s'appliquent lors de la prochaine récupération du fichier, ce qui peut prendre plusieurs heures ou plusieurs jours après leur publication.
Ce n'est pas possible, du moins pas à partir de la requête elle-même. Webz.io propose le résultat de ses explorations sous forme de flux de données sous licence : le bloquer limite donc la collecte future de vos pages. Aucune liste d'adresses publiée. Comparez plutôt l'IP source aux plages d'hébergeurs et de datacenters, et limitez le débit de tout trafic qui se comporte comme un crawler.
Ajoutez ces jetons user agent (omgili, omgilibot) au fichier robots.txt avec Disallow: /. Si le crawler ignore robots.txt, filtrez le user agent au niveau de votre CDN ou de votre proxy inverse et renvoyez une erreur 403.
Bloquer omgili exclut vos pages des jeux de données qu'il constituera lors de ses prochaines explorations. Cela ne supprime pas les données collectées auparavant. L'usage et le partage des données varient selon les opérateurs : consultez leur politique.