AI 搜索爬虫
YouBot 是由 You 运营的机器人，它会为网页建立索引，供 AI 问答引擎引用。获取用于 You.com 网页搜索引擎和 LLM 的数据。文档说明它遵守 robots.txt，但运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的。
请求声明
"YouBot"
核验依据
未公布
实时检查
YouBot 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。
参考
| User agent | YouBot仅为标识符：按子串匹配。 |
|---|---|
| 运营方 | You |
| 用途 | 为搜索引擎和 LLM 抓取数据。 |
| 是否遵守 robots.txt | 遵守来源 |
| 验证方法 | 仅自称未公布，仅凭 user agent You.com 提供了该爬虫的文档，并遵守 robots.txt，但没有公布地址列表。 |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | YouBot |
| 运营方文档 | https://about.you.com/youbot/ |
获取用于 You.com 网页搜索引擎和 LLM 的数据。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: YouBot
Disallow: /User-agent: YouBot
Allow: /User-agent: YouBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
YouBot 是由 You 运营的机器人，它会为网页建立索引，供 AI 问答引擎引用。获取用于 You.com 网页搜索引擎和 LLM 的数据。文档说明它遵守 robots.txt，但运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的。
是。运营方在文档中说明 YouBot 会读取 robots.txt，并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效，可能是发布后数小时或数天。
无法验证，至少无法仅凭请求本身验证。You.com 提供了该爬虫的文档，并遵守 robots.txt，但没有公布地址列表。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对，并对任何表现得像爬虫的流量进行限速。
在 robots.txt 中为 YouBot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 YouBot 会使网站从其答案所依赖的索引中移除，不再被引用。如果你重视来自 AI 答案的引荐流量，请改为屏蔽训练爬虫，保留这个爬虫。