Trainings-Crawler
GPTBot ist ein von OpenAI betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. Die Daten werden zum Training aktueller und zukünftiger Modelle verwendet; Inhalte hinter Paywalls, personenbezogene Daten und Daten, die gegen die Richtlinien des Unternehmens verstoßen, werden entfernt. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als GPTBot ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen.
Anfrage gibt an
"GPTBot/1.2"
Geprüft anhand
veröffentlichte IP-Bereiche von OpenAI
Live-Prüfung
Fügen Sie die Adresse aus der Logzeile ein. Sie wird mit den Angaben des Betreibers abgeglichen.
Referenz
| User-Agent | Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; GPTBot/1.2; +https://openai.com/gptbot |
|---|---|
| Betreiber | OpenAI |
| Zweck | Sammelt Daten per Scraping, um die Produkte von OpenAI zu trainieren. |
| Beachtet robots.txt | Beachtet |
| Verifizierungsmethode | IP-BereicheVeröffentlichte Datei mit IP-Bereichen OpenAI veröffentlicht die ausgehenden IP-Bereiche von GPTBot als JSON-Datei. Gleichen Sie die IP der Anfrage mit dieser Datei ab; eine Reverse-DNS-Konvention gibt es nicht. |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | GPTBot |
| Dokumentation des Betreibers | https://platform.openai.com/docs/bots |
Die Daten werden zum Training aktueller und zukünftiger Modelle verwendet; Inhalte hinter Paywalls, personenbezogene Daten und Daten, die gegen die Richtlinien des Unternehmens verstoßen, werden entfernt.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: GPTBot
Disallow: /User-agent: GPTBot
Allow: /User-agent: GPTBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie GPTBot blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.
Eine Datei für alle Crawler erstellenFAQ
GPTBot ist ein von OpenAI betriebener Bot, der Seiten sammelt, mit denen KI-Modelle trainiert werden. Die Daten werden zum Training aktueller und zukünftiger Modelle verwendet; Inhalte hinter Paywalls, personenbezogene Daten und Daten, die gegen die Richtlinien des Unternehmens verstoßen, werden entfernt. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als GPTBot ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen.
Ja. Der Betreiber dokumentiert, dass GPTBot robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
OpenAI veröffentlicht die ausgehenden IP-Bereiche von GPTBot als JSON-Datei. Gleichen Sie die IP der Anfrage mit dieser Datei ab; eine Reverse-DNS-Konvention gibt es nicht. Die Referenz ist unter https://openai.com/gptbot.json veröffentlicht.
Tragen Sie das Token GPTBot mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie GPTBot blockieren, fließen Ihre Seiten nicht in den nächsten Trainingslauf ein. Bereits gesammelte Inhalte werden dadurch nicht entfernt, und auf das Ranking der Website in der normalen Suche hat das keinen Einfluss.