自主代理
Crawl4AI 是由 Crawl4AI (open source) 运营的机器人，它会自主浏览网页以完成多步骤任务。Crawl4AI 是开源爬虫库，可将网页转换为 markdown，供 LLM 流水线使用。运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的，仅靠 robots.txt 规则也无法阻止伪造请求。
请求声明
"Crawl4AI"
核验依据
未公布
实时检查
Crawl4AI 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。
参考
| User agent | Crawl4AI仅为标识符：按子串匹配。 |
|---|---|
| 运营方 | Crawl4AI (open source) |
| 用途 | 自主代理 |
| 是否遵守 robots.txt | 未声明 |
| 验证方法 | 仅自称未公布，仅凭 user agent 开源爬虫库，用于将网页输入 LLM 流水线。任何人都可以用任意 user agent 运行它，因此这个标识只是一种礼节性声明，不能代表身份。 |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | Crawl4AI |
| 运营方文档 | 未发布 |
Crawl4AI 是开源爬虫库，可将网页转换为 markdown，供 LLM 流水线使用。其标识取决于运行者在配置中填写的内容。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: Crawl4AI
Disallow: /User-agent: Crawl4AI
Allow: /User-agent: Crawl4AI
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
Crawl4AI 是由 Crawl4AI (open source) 运营的机器人，它会自主浏览网页以完成多步骤任务。Crawl4AI 是开源爬虫库，可将网页转换为 markdown，供 LLM 流水线使用。运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的，仅靠 robots.txt 规则也无法阻止伪造请求。
无文档说明。运营方未说明 Crawl4AI 是否读取 robots.txt，因此请添加规则，并通过日志确认请求确实已停止。
无法验证，至少无法仅凭请求本身验证。开源爬虫库，用于将网页输入 LLM 流水线。任何人都可以用任意 user agent 运行它，因此这个标识只是一种礼节性声明，不能代表身份。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对，并对任何表现得像爬虫的流量进行限速。
在 robots.txt 中为 Crawl4AI 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 Crawl4AI 可阻止像已登录用户那样填写表单、逐步点击流程和阅读页面的自动化会话。在这种情况下，限速和人机验证通常比 robots.txt 规则更有效。