KI-Such-Crawler
Amazonbot ist ein von Amazon betriebener Bot, der Seiten indexiert, damit eine KI-Antwortmaschine sie zitieren kann. Verweist auf die gecrawlte Website, wenn Antworten über Alexa ausgegeben werden; weitere Verwendungszwecke werden nicht klar benannt. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als Amazonbot ausgibt, dient ein vorwärts bestätigter Reverse-DNS-Lookup.
Anfrage gibt an
"Amazonbot/0.1"
Geprüft anhand
Reverse-DNS von Amazon
Live-Prüfung
Fügen Sie die Adresse aus der Logzeile ein. Sie wird mit den Angaben des Betreibers abgeglichen.
Referenz
| User-Agent | Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/119.0.0.0 Safari/537.36 (compatible; Amazonbot/0.1; +https://developer.amazon.com/support/amazonbot) |
|---|---|
| Betreiber | Amazon |
| Zweck | Verbesserung des Dienstes und Bereitstellung von Antworten für Alexa-Nutzer. |
| Beachtet robots.txt | Beachtet |
| Verifizierungsmethode | Reverse DNSReverse DNS, vorwärts bestätigt Prüfen Sie dies mit einem Reverse-Lookup: Der PTR-Eintrag muss unter der Crawler-Domain von Amazon auflösen, und ein Forward-Lookup dieses Hostnamens muss die ursprüngliche IP zurückgeben. |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | Amazonbot |
| Dokumentation des Betreibers | https://developer.amazon.com/amazonbot |
Verweist auf die gecrawlte Website, wenn Antworten über Alexa ausgegeben werden; weitere Verwendungszwecke werden nicht klar benannt.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: Amazonbot
Disallow: /User-agent: Amazonbot
Allow: /User-agent: Amazonbot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie Amazonbot blockieren, wird die Website aus dem Index entfernt, auf dem seine Antworten beruhen, und dort nicht mehr zitiert. Wenn Ihnen Verweis-Traffic aus KI-Antworten wichtig ist, blockieren Sie stattdessen den Trainings-Crawler und lassen Sie diesen zu.
Eine Datei für alle Crawler erstellenFAQ
Amazonbot ist ein von Amazon betriebener Bot, der Seiten indexiert, damit eine KI-Antwortmaschine sie zitieren kann. Verweist auf die gecrawlte Website, wenn Antworten über Alexa ausgegeben werden; weitere Verwendungszwecke werden nicht klar benannt. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als Amazonbot ausgibt, dient ein vorwärts bestätigter Reverse-DNS-Lookup.
Ja. Der Betreiber dokumentiert, dass Amazonbot robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
Prüfen Sie dies mit einem Reverse-Lookup: Der PTR-Eintrag muss unter der Crawler-Domain von Amazon auflösen, und ein Forward-Lookup dieses Hostnamens muss die ursprüngliche IP zurückgeben. Die Referenz ist unter https://developer.amazon.com/amazonbot veröffentlicht.
Tragen Sie das Token Amazonbot mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie Amazonbot blockieren, wird die Website aus dem Index entfernt, auf dem seine Antworten beruhen, und dort nicht mehr zitiert. Wenn Ihnen Verweis-Traffic aus KI-Antworten wichtig ist, blockieren Sie stattdessen den Trainings-Crawler und lassen Sie diesen zu.