训练爬虫
cohere-ai 是由 Cohere 运营的机器人,它会收集网页用于训练 AI 模型。根据用户提示获取数据。运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的,仅靠 robots.txt 规则也无法阻止伪造请求。
请求声明
"cohere-ai"
核验依据
未公布
实时检查
cohere-ai 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。
参考
| User agent | cohere-ai仅为标识符:按子串匹配。 |
|---|---|
| 运营方 | Cohere |
| 用途 | 获取数据,用于回答用户发起的提示。 |
| 是否遵守 robots.txt | 未声明 |
| 验证方法 | 仅自称未公布,仅凭 user agent Cohere 未公布此标识的 IP 段列表。用于模型训练的是另一个标识 cohere-training-data-crawler。 |
| 抓取模式 | 根据用户提示执行操作。 |
| robots.txt 标识符 | cohere-ai |
| 运营方文档 | 未发布 |
根据用户提示获取数据。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: cohere-ai
Disallow: /User-agent: cohere-ai
Allow: /User-agent: cohere-ai
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径,使其与你自己的 URL 一致。
FAQ
cohere-ai 是由 Cohere 运营的机器人,它会收集网页用于训练 AI 模型。根据用户提示获取数据。运营方未公布 IP 范围列表或反向 DNS 规则,因此无法证明带有此 user agent 的请求是真实的,仅靠 robots.txt 规则也无法阻止伪造请求。
无文档说明。运营方未说明 cohere-ai 是否读取 robots.txt,因此请添加规则,并通过日志确认请求确实已停止。
无法验证,至少无法仅凭请求本身验证。Cohere 未公布此标识的 IP 段列表。用于模型训练的是另一个标识 cohere-training-data-crawler。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对,并对任何表现得像爬虫的流量进行限速。
在 robots.txt 中为 cohere-ai 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt,请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 cohere-ai 可使你的网页不进入下一轮训练。它不会删除已收集的内容,也不会影响网站在普通搜索中的排名。