KI-Such-Crawler
YouBot ist ein von You betriebener Bot, der Seiten indexiert, damit eine KI-Antwortmaschine sie zitieren kann. Ruft Daten für die Websuchmaschine und die LLMs von You.com ab. Laut Dokumentation beachtet er robots.txt, es gibt jedoch keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen.
Anfrage gibt an
"YouBot"
Geprüft anhand
Nichts veröffentlicht
Live-Prüfung
Für YouBot gibt es keine Prüfung anhand von Angaben des Betreibers. Sie sehen trotzdem, was die Adresse tatsächlich ist.
Referenz
| User-Agent | YouBotNur Token: auf den Teilstring prüfen. |
|---|---|
| Betreiber | You |
| Zweck | Sammelt Daten für Suchmaschine und LLMs. |
| Beachtet robots.txt | BeachtetQuelle |
| Verifizierungsmethode | Nur AngabeNichts veröffentlicht, nur User-Agent You.com dokumentiert den Crawler und beachtet robots.txt, veröffentlicht aber keine Adressliste. |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | YouBot |
| Dokumentation des Betreibers | https://about.you.com/youbot/ |
Ruft Daten für die Websuchmaschine und die LLMs von You.com ab.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: YouBot
Disallow: /User-agent: YouBot
Allow: /User-agent: YouBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie YouBot blockieren, wird die Website aus dem Index entfernt, auf dem seine Antworten beruhen, und dort nicht mehr zitiert. Wenn Ihnen Verweis-Traffic aus KI-Antworten wichtig ist, blockieren Sie stattdessen den Trainings-Crawler und lassen Sie diesen zu.
Eine Datei für alle Crawler erstellenFAQ
YouBot ist ein von You betriebener Bot, der Seiten indexiert, damit eine KI-Antwortmaschine sie zitieren kann. Ruft Daten für die Websuchmaschine und die LLMs von You.com ab. Laut Dokumentation beachtet er robots.txt, es gibt jedoch keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen.
Ja. Der Betreiber dokumentiert, dass YouBot robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
Das ist nicht möglich, zumindest nicht anhand der Anfrage selbst. You.com dokumentiert den Crawler und beachtet robots.txt, veröffentlicht aber keine Adressliste. Gleichen Sie stattdessen die Quell-IP mit Hosting- und Rechenzentrumsbereichen ab und begrenzen Sie die Rate bei allem, was sich wie ein Crawler verhält.
Tragen Sie das Token YouBot mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie YouBot blockieren, wird die Website aus dem Index entfernt, auf dem seine Antworten beruhen, und dort nicht mehr zitiert. Wenn Ihnen Verweis-Traffic aus KI-Antworten wichtig ist, blockieren Sie stattdessen den Trainings-Crawler und lassen Sie diesen zu.