KI-Such-Crawler
Claude-SearchBot ist ein von Anthropic betriebener Bot, der Seiten indexiert, damit eine KI-Antwortmaschine sie zitieren kann. Claude-SearchBot durchsucht das Web, um die Qualität der Suchergebnisse für Nutzer zu verbessern. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als Claude-SearchBot ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen.
Anfrage gibt an
"Claude-SearchBot/1.0"
Geprüft anhand
veröffentlichte IP-Bereiche von Anthropic
Live-Prüfung
Fügen Sie die Adresse aus der Logzeile ein. Sie wird mit den Angaben des Betreibers abgeglichen.
Referenz
| User-Agent | Mozilla/5.0 (compatible; Claude-SearchBot/1.0; +Claude-SearchBot@anthropic.com) |
|---|---|
| Betreiber | Anthropic |
| Zweck | Claude-SearchBot durchsucht das Web, um die Qualität der Suchergebnisse für Nutzer zu verbessern. Er analysiert Online-Inhalte gezielt, um Relevanz und Genauigkeit der Suchantworten zu erhöhen. |
| Beachtet robots.txt | BeachtetQuelle |
| Verifizierungsmethode | IP-BereicheVeröffentlichte Datei mit IP-Bereichen Indexiert Seiten, damit Claude sie in Suchantworten zitieren kann. Es gilt dieselbe veröffentlichte Präfixdatei wie für die anderen Anthropic-Agenten. |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | Claude-SearchBot |
| Dokumentation des Betreibers | https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler |
Claude-SearchBot durchsucht das Web, um die Qualität der Suchergebnisse für Nutzer zu verbessern. Er analysiert Online-Inhalte gezielt, um Relevanz und Genauigkeit der Suchantworten zu erhöhen.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: Claude-SearchBot
Disallow: /User-agent: Claude-SearchBot
Allow: /User-agent: Claude-SearchBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie Claude-SearchBot blockieren, wird die Website aus dem Index entfernt, auf dem seine Antworten beruhen, und dort nicht mehr zitiert. Wenn Ihnen Verweis-Traffic aus KI-Antworten wichtig ist, blockieren Sie stattdessen den Trainings-Crawler und lassen Sie diesen zu.
Eine Datei für alle Crawler erstellenFAQ
Claude-SearchBot ist ein von Anthropic betriebener Bot, der Seiten indexiert, damit eine KI-Antwortmaschine sie zitieren kann. Claude-SearchBot durchsucht das Web, um die Qualität der Suchergebnisse für Nutzer zu verbessern. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als Claude-SearchBot ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen.
Ja. Der Betreiber dokumentiert, dass Claude-SearchBot robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
Indexiert Seiten, damit Claude sie in Suchantworten zitieren kann. Es gilt dieselbe veröffentlichte Präfixdatei wie für die anderen Anthropic-Agenten. Die Referenz ist unter https://claude.com/crawling/bots.json veröffentlicht.
Tragen Sie das Token Claude-SearchBot mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie Claude-SearchBot blockieren, wird die Website aus dem Index entfernt, auf dem seine Antworten beruhen, und dort nicht mehr zitiert. Wenn Ihnen Verweis-Traffic aus KI-Antworten wichtig ist, blockieren Sie stattdessen den Trainings-Crawler und lassen Sie diesen zu.