AI 搜尋爬蟲

AIWebIndex

AIWebIndex 是由 Lyrenth (Aleksma Ai, Inc.) 營運的機械人,會為網頁建立索引,供 AI 答案引擎引用。AIWebIndex 是由 Lyrenth 營運的網絡爬蟲,負責建立可供 AI 讀取的網頁內容索引,並在註明出處的情況下向 AI 代理提供網頁。此機械人遵守 robots.txt;如請求聲稱來自 AIWebIndex,可用的核實依據為已公布的 IP 範圍檔案或經正向確認的反向 DNS 查詢。

Lyrenth (Aleksma Ai, Inc.)IP 範圍 + DNSrobots.txt:遵守

即時檢查

驗證自稱為 AIWebIndex 的 IP

貼上日誌記錄中的地址,系統會與營運者公布的資料核對。

參考資料

AIWebIndex 概覽

AIWebIndex 爬蟲的參考資料
User agentAIWebIndex/2.0 (+https://lyrenth.com/bot; AI-readable web index)
營運者Lyrenth (Aleksma Ai, Inc.)
用途建立可供 AI 讀取的網頁索引,並將個別網頁以結構化文字的形式提供予 AI 代理,同時註明出處及附上來源連結。
遵守 robots.txt遵守來源
驗證方法IP 範圍 + DNS已公布的 IP 範圍或反向 DNS

Lyrenth 以 JSON(gptbot.json 格式)公佈其爬取 IP。反向 DNS 解析至 lyrenth.com 之下,並可正向解析回同一 IP。另外亦在 api.lyrenth.com/.well-known/http-message-signatures-directory 公佈 Web Bot Auth(RFC 9421)金鑰目錄。全部 22 個已公佈地址已於 2026-08-24 通過正向確認。

https://lyrenth.com/bot/ip-ranges.json

爬取模式每個網域最多每 2 秒請求一次;如 robots.txt 設定了較長的 Crawl-delay,則會相應減慢。
robots.txt 標記AIWebIndexAIWebIndex-Agent
營運者文件https://lyrenth.com/crawler-policy

AIWebIndex 是由 Lyrenth 營運的網絡爬蟲,負責建立可供 AI 讀取的網頁內容索引,並在註明出處的情況下向 AI 代理提供網頁。Lyrenth 表示不會以爬取的內容訓練基礎模型。其爬蟲政策指出,驗證網域的擁有人即授權 Lyrenth 將該網域的正式內容授權予 AI 實驗室使用;此條款只適用於已驗證的網域,不適用於一般爬取。

robots.txt

允許或封鎖 AIWebIndex

選擇其中一項,貼到網域根目錄。規則按標記分別設定。

封鎖 AIWebIndex
User-agent: AIWebIndex
User-agent: AIWebIndex-Agent
Disallow: /
允許 AIWebIndex
User-agent: AIWebIndex
User-agent: AIWebIndex-Agent
Allow: /
允許,但排除不希望被引用的頁面
User-agent: AIWebIndex
User-agent: AIWebIndex-Agent
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

請修改 Disallow 路徑,使其符合你的網址。

封鎖的實際代價

封鎖 AIWebIndex 會使網站從其答案所依據的索引中移除,網站將不再被引用。如你重視來自 AI 答案的轉介流量,請改為封鎖訓練用爬蟲,並保留此爬蟲。

為所有爬蟲建立檔案

FAQ

AIWebIndex 常見問題

AIWebIndex 是甚麼?

AIWebIndex 是由 Lyrenth (Aleksma Ai, Inc.) 營運的機械人,會為網頁建立索引,供 AI 答案引擎引用。AIWebIndex 是由 Lyrenth 營運的網絡爬蟲,負責建立可供 AI 讀取的網頁內容索引,並在註明出處的情況下向 AI 代理提供網頁。此機械人遵守 robots.txt;如請求聲稱來自 AIWebIndex,可用的核實依據為已公布的 IP 範圍檔案或經正向確認的反向 DNS 查詢。

AIWebIndex 是否遵守 robots.txt?

是。營運者的文件說明 AIWebIndex 會讀取 robots.txt,並遵守針對其標記的 Disallow 規則。規則會在下次擷取該檔案時生效,可能是發布後數小時或數天。

如何核實請求確實來自 AIWebIndex?

Lyrenth 以 JSON(gptbot.json 格式)公佈其爬取 IP。反向 DNS 解析至 lyrenth.com 之下,並可正向解析回同一 IP。另外亦在 api.lyrenth.com/.well-known/http-message-signatures-directory 公佈 Web Bot Auth(RFC 9421)金鑰目錄。全部 22 個已公佈地址已於 2026-08-24 通過正向確認。參考資料發布於 https://lyrenth.com/bot/ip-ranges.json。

如何封鎖 AIWebIndex?

在 robots.txt 中為以下 user agent 標記(AIWebIndex, AIWebIndex-Agent)加入 Disallow: /。如該爬蟲不遵守 robots.txt,請改為在 CDN 或反向代理伺服器比對 user agent,並在該處回傳 403。

封鎖 AIWebIndex 會否影響我的搜尋排名?

封鎖 AIWebIndex 會使網站從其答案所依據的索引中移除,網站將不再被引用。如你重視來自 AI 答案的轉介流量,請改為封鎖訓練用爬蟲,並保留此爬蟲。

    AIWebIndex(Lyrenth (Aleksma Ai, Inc.)):User Agent、IP 核實及 robots.txt | IPScanner