Sonstige automatisierte Crawler
OpenAI ist ein Bot, der das Web automatisch crawlt. Der Zweck dieses Bots ist derzeit unklar, er gehört jedoch zur Crawler-Familie von OpenAI. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als OpenAI ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen.
Anfrage gibt an
"OpenAI"
Geprüft anhand
veröffentlichte IP-Bereiche von OpenAI
Live-Prüfung
Fügen Sie die Adresse aus der Logzeile ein. Sie wird mit den Angaben des Betreibers abgeglichen.
Referenz
| User-Agent | OpenAINur Token: auf den Teilstring prüfen. |
|---|---|
| Betreiber | OpenAI |
| Zweck | Sonstige automatisierte Crawler |
| Beachtet robots.txt | Beachtet |
| Verifizierungsmethode | IP-BereicheVeröffentlichte Datei mit IP-Bereichen Ein bloßes „OpenAI“-Token gehört nicht zu den drei dokumentierten Crawlern. Behandeln Sie es als nicht verifiziert, sofern die Quell-IP nicht in einer der veröffentlichten IP-Bereichsdateien von OpenAI vorkommt. |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | OpenAI |
| Dokumentation des Betreibers | https://platform.openai.com/docs/bots |
Der Zweck dieses Bots ist derzeit unklar, er gehört jedoch zur Crawler-Familie von OpenAI.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: OpenAI
Disallow: /User-agent: OpenAI
Allow: /User-agent: OpenAI
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie OpenAI blockieren, stoppen Sie nur dieses eine Token. Prüfen Sie danach Ihre Logs, denn Betreiber, die robots.txt ignorieren, kommen oft unter einem anderen Namen wieder.
Eine Datei für alle Crawler erstellenFAQ
OpenAI ist ein Bot, der das Web automatisch crawlt. Der Zweck dieses Bots ist derzeit unklar, er gehört jedoch zur Crawler-Familie von OpenAI. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als OpenAI ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen.
Ja. Der Betreiber dokumentiert, dass OpenAI robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
Ein bloßes „OpenAI“-Token gehört nicht zu den drei dokumentierten Crawlern. Behandeln Sie es als nicht verifiziert, sofern die Quell-IP nicht in einer der veröffentlichten IP-Bereichsdateien von OpenAI vorkommt. Die Referenz ist unter https://platform.openai.com/docs/bots veröffentlicht.
Tragen Sie das Token OpenAI mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie OpenAI blockieren, stoppen Sie nur dieses eine Token. Prüfen Sie danach Ihre Logs, denn Betreiber, die robots.txt ignorieren, kommen oft unter einem anderen Namen wieder.