数据集构建器
Diffbot 是一个机器人，它会将网页抓取到数据集中，这些数据集可能被复用或与第三方共享。Diffbot 是一款网页爬虫，利用基于 AI 的视觉理解技术提取网站内容并进行结构化处理，为市场情报等应用提供知识图谱数据…。运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的，仅靠 robots.txt 规则也无法阻止伪造请求。
请求声明
"Diffbot"
核验依据
未公布
实时检查
Diffbot 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。
参考
| User agent | Diffbot仅为标识符：按子串匹配。 |
|---|---|
| 运营方 | Diffbot |
| 用途 | 数据集构建器 |
| 是否遵守 robots.txt | 未声明 |
| 验证方法 | 仅自称未公布，仅凭 user agent 是否遵守 robots.txt 由每个客户单独设置，因此 Diffbot 对同一网站的两次抓取可能表现不同。没有公开的 IP 列表。 |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | Diffbot |
| 运营方文档 | 未发布 |
Diffbot 是一款网页爬虫，利用基于 AI 的视觉理解技术提取网站内容并进行结构化处理，为市场情报等应用提供知识图谱数据…
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: Diffbot
Disallow: /User-agent: Diffbot
Allow: /User-agent: Diffbot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
Diffbot 是一个机器人，它会将网页抓取到数据集中，这些数据集可能被复用或与第三方共享。Diffbot 是一款网页爬虫，利用基于 AI 的视觉理解技术提取网站内容并进行结构化处理，为市场情报等应用提供知识图谱数据…。运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的，仅靠 robots.txt 规则也无法阻止伪造请求。
无文档说明。运营方未说明 Diffbot 是否读取 robots.txt，因此请添加规则，并通过日志确认请求确实已停止。
无法验证，至少无法仅凭请求本身验证。是否遵守 robots.txt 由每个客户单独设置，因此 Diffbot 对同一网站的两次抓取可能表现不同。没有公开的 IP 列表。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对，并对任何表现得像爬虫的流量进行限速。
在 robots.txt 中为 Diffbot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 Diffbot 可使你的网页不进入其通过后续抓取构建的数据集。它不会删除之前已收集的内容。各运营方使用或共享数据的方式不同，请查阅其政策。