Sonstige automatisierte Crawler

YaK

YaK ist ein von Meltwater betriebener Bot, der das Web automatisch crawlt. Ruft Daten für die KI-gestützte Consumer-Intelligence-Suite von Meltwater ab. Es gibt keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen, und eine robots.txt-Regel allein hält eine Fälschung nicht auf.

MeltwaterNur Angaberobots.txt:Keine Richtlinie

Live-Prüfung

Eine IP prüfen, die sich als YaK ausgab

Für YaK gibt es keine Prüfung anhand von Angaben des Betreibers. Sie sehen trotzdem, was die Adresse tatsächlich ist.

Referenz

YaK im Überblick

Referenzdaten zum Crawler YaK
User-AgentYaK

Nur Token: auf den Teilstring prüfen.

BetreiberMeltwater
ZweckLaut der Seite zu Meltwater Consumer Intelligence gilt: „Durch den Einsatz von KI, Data Science und Marktforschungskompetenz auf einen Live-Feed globaler Datenquellen verwandeln wir unstrukturierte Daten in umsetzbare Erkenntnisse, die bessere Entscheidungen ermöglichen.“
Beachtet robots.txtKeine Richtlinie
VerifizierungsmethodeNur AngabeNichts veröffentlicht, nur User-Agent

Für diesen Agenten wurden weder eine Datei mit IP-Bereichen noch eine Reverse-DNS-Konvention veröffentlicht. Der User-Agent-String ist das einzige Merkmal, und jeder Client kann ihn senden. Werten Sie eine Übereinstimmung daher als Behauptung, nicht als Beweis.

Crawl-MusterNicht veröffentlicht
robots.txt-TokensYaK
Dokumentation des BetreibersKeine veröffentlicht

Ruft Daten für die KI-gestützte Consumer-Intelligence-Suite von Meltwater ab.

robots.txt

YaK zulassen oder blockieren

Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.

YaK blockieren
User-agent: YaK
Disallow: /
YaK zulassen
User-agent: YaK
Allow: /
Zulassen, außer für Seiten, die nie zitiert werden sollen
User-agent: YaK
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

Passen Sie die Disallow-Pfade an Ihre eigenen URLs an.

Was Sie eine Sperre tatsächlich kostet

Wenn Sie YaK blockieren, stoppen Sie nur dieses eine Token. Prüfen Sie danach Ihre Logs, denn Betreiber, die robots.txt ignorieren, kommen oft unter einem anderen Namen wieder.

Eine Datei für alle Crawler erstellen

FAQ

Fragen zu YaK

Was ist YaK?

YaK ist ein von Meltwater betriebener Bot, der das Web automatisch crawlt. Ruft Daten für die KI-gestützte Consumer-Intelligence-Suite von Meltwater ab. Es gibt keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen, und eine robots.txt-Regel allein hält eine Fälschung nicht auf.

Beachtet YaK robots.txt?

Nicht dokumentiert. Es gibt keine Aussage eines Betreibers dazu, ob YaK robots.txt liest. Fügen Sie die Regel hinzu, prüfen Sie aber in Ihren Logs, ob die Anfragen tatsächlich aufhören.

Wie kann ich prüfen, ob eine Anfrage wirklich von YaK stammt?

Das ist nicht möglich, zumindest nicht anhand der Anfrage selbst. Für diesen Agenten wurden weder eine Datei mit IP-Bereichen noch eine Reverse-DNS-Konvention veröffentlicht. Der User-Agent-String ist das einzige Merkmal, und jeder Client kann ihn senden. Werten Sie eine Übereinstimmung daher als Behauptung, nicht als Beweis. Gleichen Sie stattdessen die Quell-IP mit Hosting- und Rechenzentrumsbereichen ab und begrenzen Sie die Rate bei allem, was sich wie ein Crawler verhält.

Wie blockiere ich YaK?

Tragen Sie das Token YaK mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.

Schadet das Blockieren von YaK meinem Suchranking?

Wenn Sie YaK blockieren, stoppen Sie nur dieses eine Token. Prüfen Sie danach Ihre Logs, denn Betreiber, die robots.txt ignorieren, kommen oft unter einem anderen Namen wieder.

    YaK (Meltwater): User-Agent, IP-Verifizierung & robots.txt | IPScanner