KI-Such-Crawler
AIWebIndex ist ein von Lyrenth (Aleksma Ai, Inc.) betriebener Bot, der Seiten indexiert, damit eine KI-Antwortmaschine sie zitieren kann. AIWebIndex ist ein von Lyrenth betriebener Webcrawler, der einen für KI lesbaren Index von Webinhalten aufbaut und Seiten mit Quellenangabe an KI-Agenten ausliefert. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als AIWebIndex ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen oder ein vorwärts bestätigter Reverse-DNS-Lookup.
Anfrage gibt an
"AIWebIndex/2.0"
Geprüft anhand
IP-Bereiche und Reverse-DNS von Lyrenth (Aleksma Ai, Inc.)
Live-Prüfung
Fügen Sie die Adresse aus der Logzeile ein. Sie wird mit den Angaben des Betreibers abgeglichen.
Referenz
| User-Agent | AIWebIndex/2.0 (+https://lyrenth.com/bot; AI-readable web index) |
|---|---|
| Betreiber | Lyrenth (Aleksma Ai, Inc.) |
| Zweck | Baut einen für KI lesbaren Webindex auf und liefert einzelne Seiten als strukturierten Text mit Quellenangabe und Link zur Quelle an KI-Agenten aus. |
| Beachtet robots.txt | BeachtetQuelle |
| Verifizierungsmethode | IP-Bereiche + DNSVeröffentlichte IP-Bereiche oder Reverse DNS Lyrenth veröffentlicht seine Crawl-IPs als JSON (im Format von gptbot.json). Reverse DNS löst unter lyrenth.com auf, und die Forward-Auflösung führt zur selben IP zurück. Zusätzlich wird unter api.lyrenth.com/.well-known/http-message-signatures-directory ein Schlüsselverzeichnis für Web Bot Auth (RFC 9421) veröffentlicht. Alle 22 veröffentlichten Adressen wurden am 24.08.2026 per Forward-Lookup bestätigt. |
| Crawl-Muster | Höchstens eine Anfrage pro Domain alle 2 Sekunden, langsamer, wenn robots.txt ein längeres Crawl-delay festlegt. |
| robots.txt-Tokens | AIWebIndexAIWebIndex-Agent |
| Dokumentation des Betreibers | https://lyrenth.com/crawler-policy |
AIWebIndex ist ein von Lyrenth betriebener Webcrawler, der einen für KI lesbaren Index von Webinhalten aufbaut und Seiten mit Quellenangabe an KI-Agenten ausliefert. Laut Lyrenth werden mit den gecrawlten Inhalten keine Foundation Models trainiert. Die Crawler-Richtlinie besagt, dass Inhaber, die eine Domain verifizieren, Lyrenth das Recht einräumen, die kanonischen Inhalte dieser Domain an KI-Labore zu lizenzieren. Dies gilt nur für verifizierte Domains, nicht für das normale Crawling.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: AIWebIndex
User-agent: AIWebIndex-Agent
Disallow: /User-agent: AIWebIndex
User-agent: AIWebIndex-Agent
Allow: /User-agent: AIWebIndex
User-agent: AIWebIndex-Agent
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie AIWebIndex blockieren, wird die Website aus dem Index entfernt, auf dem seine Antworten beruhen, und dort nicht mehr zitiert. Wenn Ihnen Verweis-Traffic aus KI-Antworten wichtig ist, blockieren Sie stattdessen den Trainings-Crawler und lassen Sie diesen zu.
Eine Datei für alle Crawler erstellenFAQ
AIWebIndex ist ein von Lyrenth (Aleksma Ai, Inc.) betriebener Bot, der Seiten indexiert, damit eine KI-Antwortmaschine sie zitieren kann. AIWebIndex ist ein von Lyrenth betriebener Webcrawler, der einen für KI lesbaren Index von Webinhalten aufbaut und Seiten mit Quellenangabe an KI-Agenten ausliefert. Er beachtet robots.txt, und zur Prüfung einer Anfrage, die sich als AIWebIndex ausgibt, dient eine veröffentlichte Datei mit IP-Bereichen oder ein vorwärts bestätigter Reverse-DNS-Lookup.
Ja. Der Betreiber dokumentiert, dass AIWebIndex robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
Lyrenth veröffentlicht seine Crawl-IPs als JSON (im Format von gptbot.json). Reverse DNS löst unter lyrenth.com auf, und die Forward-Auflösung führt zur selben IP zurück. Zusätzlich wird unter api.lyrenth.com/.well-known/http-message-signatures-directory ein Schlüsselverzeichnis für Web Bot Auth (RFC 9421) veröffentlicht. Alle 22 veröffentlichten Adressen wurden am 24.08.2026 per Forward-Lookup bestätigt. Die Referenz ist unter https://lyrenth.com/bot/ip-ranges.json veröffentlicht.
Tragen Sie diese User-Agent-Tokens (AIWebIndex, AIWebIndex-Agent) mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie AIWebIndex blockieren, wird die Website aus dem Index entfernt, auf dem seine Antworten beruhen, und dort nicht mehr zitiert. Wenn Ihnen Verweis-Traffic aus KI-Antworten wichtig ist, blockieren Sie stattdessen den Trainings-Crawler und lassen Sie diesen zu.