KI-Such-Crawler
DuckDuckBot ist ein von DuckDuckGo betriebener Bot, der Seiten indexiert, damit eine KI-Antwortmaschine sie zitieren kann. DuckDuckBot crawlt für den eigenen Index von DuckDuckGo. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als DuckDuckBot ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen.
Anfrage gibt an
"DuckDuckBot"
Geprüft anhand
veröffentlichte IP-Bereiche von DuckDuckGo
Live-Prüfung
Fügen Sie die Adresse aus der Logzeile ein. Sie wird mit den Angaben des Betreibers abgeglichen.
Referenz
| User-Agent | DuckDuckBotNur Token: auf den Teilstring prüfen. |
|---|---|
| Betreiber | DuckDuckGo |
| Zweck | Suchindexierung |
| Beachtet robots.txt | BeachtetQuelle |
| Verifizierungsmethode | IP-BereicheVeröffentlichte Datei mit IP-Bereichen DuckDuckGo veröffentlicht die Adressen des Crawlers auf seinen Hilfeseiten. https://duckduckgo.com/duckduckgo-help-pages/results/duckduckbot/ |
| Crawl-Muster | Gering, die meisten Ergebnisse stammen aus Partnerindizes. |
| robots.txt-Tokens | DuckDuckBot |
| Dokumentation des Betreibers | https://duckduckgo.com/duckduckgo-help-pages/results/duckduckbot/ |
DuckDuckBot crawlt für den eigenen Index von DuckDuckGo. Er ist nicht mit DuckAssistBot zu verwechseln, der Seiten abruft, um Fragen im KI-Assistenten von DuckDuckGo zu beantworten.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: DuckDuckBot
Disallow: /User-agent: DuckDuckBot
Allow: /User-agent: DuckDuckBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie DuckDuckBot blockieren, wird die Website aus dem Index entfernt, auf dem seine Antworten beruhen, und dort nicht mehr zitiert. Wenn Ihnen Verweis-Traffic aus KI-Antworten wichtig ist, blockieren Sie stattdessen den Trainings-Crawler und lassen Sie diesen zu.
Eine Datei für alle Crawler erstellenFAQ
DuckDuckBot ist ein von DuckDuckGo betriebener Bot, der Seiten indexiert, damit eine KI-Antwortmaschine sie zitieren kann. DuckDuckBot crawlt für den eigenen Index von DuckDuckGo. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als DuckDuckBot ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen.
Ja. Der Betreiber dokumentiert, dass DuckDuckBot robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
DuckDuckGo veröffentlicht die Adressen des Crawlers auf seinen Hilfeseiten. Die Referenz ist unter https://duckduckgo.com/duckduckgo-help-pages/results/duckduckbot/ veröffentlicht.
Tragen Sie das Token DuckDuckBot mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie DuckDuckBot blockieren, wird die Website aus dem Index entfernt, auf dem seine Antworten beruhen, und dort nicht mehr zitiert. Wenn Ihnen Verweis-Traffic aus KI-Antworten wichtig ist, blockieren Sie stattdessen den Trainings-Crawler und lassen Sie diesen zu.