Datensatz-Ersteller
omgili ist ein von Webz.io betriebener Bot, der Seiten für einen Datensatz crawlt, der weiterverwendet oder an Dritte weitergegeben werden kann. omgili durchsucht Websites für Webz.io. Laut Dokumentation beachtet er robots.txt, es gibt jedoch keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen.
Anfrage gibt an
"omgili"
Geprüft anhand
Nichts veröffentlicht
Live-Prüfung
Für omgili gibt es keine Prüfung anhand von Angaben des Betreibers. Sie sehen trotzdem, was die Adresse tatsächlich ist.
Referenz
| User-Agent | omgiliNur Token: auf den Teilstring prüfen. |
|---|---|
| Betreiber | Webz.io |
| Zweck | An Kunden lizenzierte Web-Datenfeeds. |
| Beachtet robots.txt | BeachtetQuelle |
| Verifizierungsmethode | Nur AngabeNichts veröffentlicht, nur User-Agent Webz.io bietet die Ergebnisse seiner Crawls als lizenzierte Datenfeeds an. Wenn Sie den Crawler blockieren, wird die künftige Erfassung Ihrer Seiten eingeschränkt. Es gibt keine veröffentlichte Adressliste. https://webz.io/blog/web-data/what-is-the-omgili-bot-and-why-is-it-crawling-your-website/ |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | omgiliomgilibot |
| Dokumentation des Betreibers | Keine veröffentlicht |
omgili durchsucht Websites für Webz.io. Das Unternehmen stellt Web-Datenfeeds bereit, die von Monitoring- und Analysefirmen genutzt und für Zwecke lizenziert werden, zu denen auch Forschung und LLM-Training gehören können.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: omgili
User-agent: omgilibot
Disallow: /User-agent: omgili
User-agent: omgilibot
Allow: /User-agent: omgili
User-agent: omgilibot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie omgili blockieren, gelangen Ihre Seiten nicht in die Datensätze, die er aus künftigen Crawls erstellt. Früher gesammelte Inhalte werden dadurch nicht entfernt. Wie die einzelnen Betreiber ihre Daten nutzen oder weitergeben, ist unterschiedlich, prüfen Sie daher deren Richtlinien.
Eine Datei für alle Crawler erstellenFAQ
omgili ist ein von Webz.io betriebener Bot, der Seiten für einen Datensatz crawlt, der weiterverwendet oder an Dritte weitergegeben werden kann. omgili durchsucht Websites für Webz.io. Laut Dokumentation beachtet er robots.txt, es gibt jedoch keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen.
Ja. Der Betreiber dokumentiert, dass omgili robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
Das ist nicht möglich, zumindest nicht anhand der Anfrage selbst. Webz.io bietet die Ergebnisse seiner Crawls als lizenzierte Datenfeeds an. Wenn Sie den Crawler blockieren, wird die künftige Erfassung Ihrer Seiten eingeschränkt. Es gibt keine veröffentlichte Adressliste. Gleichen Sie stattdessen die Quell-IP mit Hosting- und Rechenzentrumsbereichen ab und begrenzen Sie die Rate bei allem, was sich wie ein Crawler verhält.
Tragen Sie diese User-Agent-Tokens (omgili, omgilibot) mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie omgili blockieren, gelangen Ihre Seiten nicht in die Datensätze, die er aus künftigen Crawls erstellt. Früher gesammelte Inhalte werden dadurch nicht entfernt. Wie die einzelnen Betreiber ihre Daten nutzen oder weitergeben, ist unterschiedlich, prüfen Sie daher deren Richtlinien.