Trainings-Crawler
ClaudeBot ist ein von Anthropic betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. Sammelt Daten zum Trainieren von LLMs und KI-Produkten von Anthropic. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als ClaudeBot ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen.
Anfrage gibt an
"ClaudeBot/1.0"
Geprüft anhand
veröffentlichte IP-Bereiche von Anthropic
Live-Prüfung
Fügen Sie die Adresse aus der Logzeile ein. Sie wird mit den Angaben des Betreibers abgeglichen.
Referenz
| User-Agent | Mozilla/5.0 (compatible; ClaudeBot/1.0; +claudebot@anthropic.com) |
|---|---|
| Betreiber | Anthropic |
| Zweck | Sammelt Daten zum Trainieren der KI-Produkte von Anthropic. |
| Beachtet robots.txt | BeachtetQuelle |
| Verifizierungsmethode | IP-BereicheVeröffentlichte Datei mit IP-Bereichen Anthropic veröffentlicht eine einzige Präfixdatei für ClaudeBot, Claude-User und Claude-SearchBot. Eine Anfrage, die sich als ClaudeBot ausgibt und von außerhalb dieser Präfixe kommt, ist gefälscht. |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | ClaudeBot |
| Dokumentation des Betreibers | https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler |
Sammelt Daten zum Trainieren von LLMs und KI-Produkten von Anthropic.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: ClaudeBot
Disallow: /User-agent: ClaudeBot
Allow: /User-agent: ClaudeBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie ClaudeBot blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.
Eine Datei für alle Crawler erstellenFAQ
ClaudeBot ist ein von Anthropic betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. Sammelt Daten zum Trainieren von LLMs und KI-Produkten von Anthropic. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als ClaudeBot ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen.
Ja. Der Betreiber dokumentiert, dass ClaudeBot robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
Anthropic veröffentlicht eine einzige Präfixdatei für ClaudeBot, Claude-User und Claude-SearchBot. Eine Anfrage, die sich als ClaudeBot ausgibt und von außerhalb dieser Präfixe kommt, ist gefälscht. Die Referenz ist unter https://claude.com/crawling/bots.json veröffentlicht.
Tragen Sie das Token ClaudeBot mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie ClaudeBot blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.