助手抓取器

Google-NotebookLM

Google-NotebookLM 是由 Google 运营的机器人,它会按需为 AI 助手抓取单个网页。Google-NotebookLM 是一款 AI 研究和笔记助手,帮助用户整合所上传来源中的信息,例如文档、转录文本或网页内……。它是否遵守 robots.txt 尚无文档说明,自称 Google-NotebookLM 的请求可通过以下方式核验:已公布的 IP 范围文件。

GoogleIP 段robots.txt:未声明

实时检查

验证自称 Google-NotebookLM 的 IP

粘贴日志中的地址,系统会将其与运营方公布的信息进行比对。

参考

Google-NotebookLM 概览

Google-NotebookLM 爬虫参考数据
User agentGoogle-NotebookLM

仅为标识符:按子串匹配。

运营方Google
用途助手抓取器
是否遵守 robots.txt未声明
验证方法IP 段已公布的 IP 范围文件

抓取 NotebookLM 用户粘贴的 URL。Google 将其归入用户触发的抓取器,这类抓取器有单独的 IP 范围文件。

https://developers.google.com/static/search/apis/ipranges/user-triggered-fetchers-google.json

抓取模式未公布
robots.txt 标识符Google-NotebookLMNotebookLM
运营方文档https://developers.google.com/search/docs/crawling-indexing/overview-google-crawlers

Google-NotebookLM 是一款 AI 研究和笔记助手,帮助用户整合所上传来源中的信息,例如文档、转录文本或网页内……

robots.txt

允许或屏蔽 Google-NotebookLM

选择一项粘贴到域名根目录下。规则按标识符分别生效。

屏蔽 Google-NotebookLM
User-agent: Google-NotebookLM
User-agent: NotebookLM
Disallow: /
允许 Google-NotebookLM
User-agent: Google-NotebookLM
User-agent: NotebookLM
Allow: /
允许,但排除你不希望被引用的页面
User-agent: Google-NotebookLM
User-agent: NotebookLM
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search

请修改 Disallow 路径,使其与你自己的 URL 一致。

屏蔽的实际代价

屏蔽 Google-NotebookLM 后,用户询问你的某个 URL 时将收到错误,而不是摘要。这是在用户支持和声誉之间的取舍,与训练无关。

为所有爬虫生成文件

FAQ

Google-NotebookLM 常见问题

Google-NotebookLM 是什么?

Google-NotebookLM 是由 Google 运营的机器人,它会按需为 AI 助手抓取单个网页。Google-NotebookLM 是一款 AI 研究和笔记助手,帮助用户整合所上传来源中的信息,例如文档、转录文本或网页内……。它是否遵守 robots.txt 尚无文档说明,自称 Google-NotebookLM 的请求可通过以下方式核验:已公布的 IP 范围文件。

Google-NotebookLM 是否遵守 robots.txt?

无文档说明。运营方未说明 Google-NotebookLM 是否读取 robots.txt,因此请添加规则,并通过日志确认请求确实已停止。

如何验证请求确实来自 Google-NotebookLM?

抓取 NotebookLM 用户粘贴的 URL。Google 将其归入用户触发的抓取器,这类抓取器有单独的 IP 范围文件。参考资料发布于 https://developers.google.com/static/search/apis/ipranges/user-triggered-fetchers-google.json。

如何屏蔽 Google-NotebookLM?

在 robots.txt 中为这些 user agent 标识(Google-NotebookLM, NotebookLM)添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。

屏蔽 Google-NotebookLM 会影响我的搜索排名吗?

屏蔽 Google-NotebookLM 后,用户询问你的某个 URL 时将收到错误,而不是摘要。这是在用户支持和声誉之间的取舍,与训练无关。

    Google-NotebookLM(Google):User Agent、IP 验证与 robots.txt | IPScanner