KI-Such-Crawler
Googlebot ist ein von Google betriebener Bot, der Seiten indexiert, damit eine KI-Antwortmaschine sie zitieren kann. Googlebot ist der Crawler der Google Suche. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als Googlebot ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen oder ein vorwärts bestätigter Reverse-DNS-Lookup.
Anfrage gibt an
"Googlebot/2.1"
Geprüft anhand
IP-Bereiche und Reverse-DNS von Google
Live-Prüfung
Fügen Sie die Adresse aus der Logzeile ein. Sie wird mit den Angaben des Betreibers abgeglichen.
Referenz
| User-Agent | Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html) |
|---|---|
| Betreiber | |
| Zweck | Suchindexierung, die auch in AI Overviews einfließt |
| Beachtet robots.txt | BeachtetQuelle |
| Verifizierungsmethode | IP-Bereiche + DNSVeröffentlichte IP-Bereiche oder Reverse DNS Zwei Möglichkeiten: Der Reverse-DNS-Eintrag der Quell-IP muss einen Host unter googlebot.com oder google.com liefern, und ein Forward-Lookup dieses Hosts muss dieselbe IP ergeben. Oder die IP muss in googlebot.json enthalten sein. https://developers.google.com/static/search/apis/ipranges/googlebot.json |
| Crawl-Muster | Kontinuierlich, Crawlrate pro Website angepasst. |
| robots.txt-Tokens | Googlebot |
| Dokumentation des Betreibers | https://developers.google.com/search/docs/crawling-indexing/verifying-googlebot |
Googlebot ist der Crawler der Google Suche. Er ist kein Crawler für KI-Training, doch von ihm indexierte Seiten können in AI Overviews zusammengefasst und für das Grounding in Gemini verwendet werden. Um in der Suche zu bleiben und trotzdem dem Training zu widersprechen, blockieren Sie daher üblicherweise Google-Extended, nicht aber Googlebot.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: Googlebot
Disallow: /User-agent: Googlebot
Allow: /User-agent: Googlebot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie Googlebot blockieren, wird die Website aus dem Index entfernt, auf dem seine Antworten beruhen, und dort nicht mehr zitiert. Wenn Ihnen Verweis-Traffic aus KI-Antworten wichtig ist, blockieren Sie stattdessen den Trainings-Crawler und lassen Sie diesen zu.
Eine Datei für alle Crawler erstellenFAQ
Googlebot ist ein von Google betriebener Bot, der Seiten indexiert, damit eine KI-Antwortmaschine sie zitieren kann. Googlebot ist der Crawler der Google Suche. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als Googlebot ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen oder ein vorwärts bestätigter Reverse-DNS-Lookup.
Ja. Der Betreiber dokumentiert, dass Googlebot robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
Zwei Möglichkeiten: Der Reverse-DNS-Eintrag der Quell-IP muss einen Host unter googlebot.com oder google.com liefern, und ein Forward-Lookup dieses Hosts muss dieselbe IP ergeben. Oder die IP muss in googlebot.json enthalten sein. Die Referenz ist unter https://developers.google.com/static/search/apis/ipranges/googlebot.json veröffentlicht.
Tragen Sie das Token Googlebot mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie Googlebot blockieren, wird die Website aus dem Index entfernt, auf dem seine Antworten beruhen, und dort nicht mehr zitiert. Wenn Ihnen Verweis-Traffic aus KI-Antworten wichtig ist, blockieren Sie stattdessen den Trainings-Crawler und lassen Sie diesen zu.