数据集构建器
CCBot 是由 Common Crawl Foundation 运营的机器人，它会将网页抓取到数据集中，这些数据集可能被复用或与第三方共享。网页存档可追溯至 2008 年。文档说明它遵守 robots.txt，但运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的。
请求声明
"CCBot/2.0"
核验依据
未公布
实时检查
CCBot 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。
参考
| User agent | CCBot/2.0 (https://commoncrawl.org/faq/) |
|---|---|
| 运营方 | Common Crawl Foundation |
| 用途 | 提供开放的爬取数据集，用途广泛，包括机器学习和 AI。 |
| 是否遵守 robots.txt | 遵守来源 |
| 验证方法 | 仅自称未公布，仅凭 user agent Common Crawl 不公布 IP 列表，且运行在租用的云资源上，因此仅凭地址无法证明任何事情。它的存档是许多模型的训练数据来源，所以屏蔽它会产生连带影响。 |
| 抓取模式 | 目前每月一次。 |
| robots.txt 标识符 | CCBot |
| 运营方文档 | https://commoncrawl.org/ccbot |
网页存档可追溯至 2008 年。每年被数千篇研究论文引用。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: CCBot
Disallow: /User-agent: CCBot
Allow: /User-agent: CCBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
CCBot 是由 Common Crawl Foundation 运营的机器人，它会将网页抓取到数据集中，这些数据集可能被复用或与第三方共享。网页存档可追溯至 2008 年。文档说明它遵守 robots.txt，但运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的。
是。运营方在文档中说明 CCBot 会读取 robots.txt，并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效，可能是发布后数小时或数天。
无法验证，至少无法仅凭请求本身验证。Common Crawl 不公布 IP 列表，且运行在租用的云资源上，因此仅凭地址无法证明任何事情。它的存档是许多模型的训练数据来源，所以屏蔽它会产生连带影响。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对，并对任何表现得像爬虫的流量进行限速。
在 robots.txt 中为 CCBot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 CCBot 可使你的网页不进入其通过后续抓取构建的数据集。它不会删除之前已收集的内容。各运营方使用或共享数据的方式不同，请查阅其政策。