Sonstige automatisierte Crawler
Thinkbot ist ein Bot, der das Web automatisch crawlt. Sammelt Daten zur Analyse der Nutzung von KI und Automatisierung. Es gibt keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen, und eine robots.txt-Regel allein hält eine Fälschung nicht auf.
Anfrage gibt an
"Thinkbot"
Geprüft anhand
Nichts veröffentlicht
Live-Prüfung
Für Thinkbot gibt es keine Prüfung anhand von Angaben des Betreibers. Sie sehen trotzdem, was die Adresse tatsächlich ist.
Referenz
| User-Agent | ThinkbotNur Token: auf den Teilstring prüfen. |
|---|---|
| Betreiber | Thinkbot |
| Zweck | Einblicke in KI-Integration und Automatisierung. |
| Beachtet robots.txt | Ignoriert |
| Verifizierungsmethode | Nur AngabeNichts veröffentlicht, nur User-Agent Für diesen Agenten wurden weder eine Datei mit IP-Bereichen noch eine Reverse-DNS-Konvention veröffentlicht. Der User-Agent-String ist das einzige Merkmal, und jeder Client kann ihn senden. Werten Sie eine Übereinstimmung daher als Behauptung, nicht als Beweis. |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | Thinkbot |
| Dokumentation des Betreibers | Keine veröffentlicht |
Sammelt Daten zur Analyse der Nutzung von KI und Automatisierung.
robots.txt
Laut Dokumentation ignoriert Thinkbot robots.txt. Setzen Sie eine Sperre zusätzlich in Ihrem CDN durch.
User-agent: Thinkbot
Disallow: /User-agent: Thinkbot
Allow: /User-agent: Thinkbot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie Thinkbot blockieren, stoppen Sie nur dieses eine Token. Prüfen Sie danach Ihre Logs, denn Betreiber, die robots.txt ignorieren, kommen oft unter einem anderen Namen wieder.
Eine Datei für alle Crawler erstellenFAQ
Thinkbot ist ein Bot, der das Web automatisch crawlt. Sammelt Daten zur Analyse der Nutzung von KI und Automatisierung. Es gibt keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen, und eine robots.txt-Regel allein hält eine Fälschung nicht auf.
Berichte von Websitebetreibern deuten darauf hin, dass Thinkbot robots.txt nicht zuverlässig befolgt. Fügen Sie die Regel trotzdem hinzu und prüfen Sie dann Ihre Logs. Wenn weiterhin Anfragen eingehen, blockieren Sie am Edge anhand des User-Agents oder der Quelladresse.
Das ist nicht möglich, zumindest nicht anhand der Anfrage selbst. Für diesen Agenten wurden weder eine Datei mit IP-Bereichen noch eine Reverse-DNS-Konvention veröffentlicht. Der User-Agent-String ist das einzige Merkmal, und jeder Client kann ihn senden. Werten Sie eine Übereinstimmung daher als Behauptung, nicht als Beweis. Gleichen Sie stattdessen die Quell-IP mit Hosting- und Rechenzentrumsbereichen ab und begrenzen Sie die Rate bei allem, was sich wie ein Crawler verhält.
Tragen Sie das Token Thinkbot mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie Thinkbot blockieren, stoppen Sie nur dieses eine Token. Prüfen Sie danach Ihre Logs, denn Betreiber, die robots.txt ignorieren, kommen oft unter einem anderen Namen wieder.