Autonome agents
Claude-Web is een bot van Anthropic die zelfstandig over het web surft om taken in meerdere stappen af te ronden. Claude-Web is een AI-gerelateerde agent van Anthropic. Of hij robots.txt respecteert is niet gedocumenteerd, en een verzoek dat zich uitgeeft als Claude-Web kun je controleren aan de hand van een gepubliceerd bestand met IP-ranges.
Verzoek meldt
"Claude-Web"
Gecontroleerd aan de hand van
gepubliceerde IP-bereiken van Anthropic
Live check
Plak het adres uit de logregel. Het wordt gecontroleerd aan de hand van wat de beheerder publiceert.
Referentie
| User agent | Claude-WebAlleen token: match op de substring. |
|---|---|
| Beheerder | Anthropic |
| Doel | Autonome agents |
| Respecteert robots.txt | Geen beleid |
| Verificatiemethode | IP-bereikenGepubliceerd bestand met IP-ranges Een verouderde token van vóór de huidige naam ClaudeBot. Sitebeheerders zien hem nog in oude logs en oude robots.txt-bestanden. Controleer het gepubliceerde prefixbestand voordat je hem vertrouwt. |
| Crawlpatroon | Niet gepubliceerd |
| robots.txt-tokens | Claude-Web |
| Documentatie van de beheerder | https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler |
Claude-Web is een AI-gerelateerde agent van Anthropic. Waar hij precies voor wordt gebruikt is nog onduidelijk, omdat er geen officiële documentatie is. Weet je meer? Neem dan contact met ons op.
robots.txt
Plak er een in de root van je domein. Regels gelden per token.
User-agent: Claude-Web
Disallow: /User-agent: Claude-Web
Allow: /User-agent: Claude-Web
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPas de Disallow-paden aan zodat ze overeenkomen met je eigen URL's.
Als je Claude-Web blokkeert, stop je geautomatiseerde sessies die formulieren invullen, door processen klikken en pagina's lezen zoals een ingelogde gebruiker dat doet. Rate limits en challenges werken hier meestal beter dan een regel in robots.txt.
Maak een bestand voor alle crawlersFAQ
Claude-Web is een bot van Anthropic die zelfstandig over het web surft om taken in meerdere stappen af te ronden. Claude-Web is een AI-gerelateerde agent van Anthropic. Of hij robots.txt respecteert is niet gedocumenteerd, en een verzoek dat zich uitgeeft als Claude-Web kun je controleren aan de hand van een gepubliceerd bestand met IP-ranges.
Niet gedocumenteerd. Geen enkele beheerder heeft verklaard of Claude-Web robots.txt leest. Voeg de regel dus toe, maar controleer in je logs of de verzoeken echt stoppen.
Een verouderde token van vóór de huidige naam ClaudeBot. Sitebeheerders zien hem nog in oude logs en oude robots.txt-bestanden. Controleer het gepubliceerde prefixbestand voordat je hem vertrouwt. De referentie is gepubliceerd op https://claude.com/crawling/bots.json.
Voeg het token Claude-Web toe aan robots.txt met Disallow: /. Negeert de crawler robots.txt, filter dan op de user agent in je CDN of reverse proxy en geef daar een 403 terug.
Als je Claude-Web blokkeert, stop je geautomatiseerde sessies die formulieren invullen, door processen klikken en pagina's lezen zoals een ingelogde gebruiker dat doet. Rate limits en challenges werken hier meestal beter dan een regel in robots.txt.