AI 搜索爬虫
AzureAI-SearchBot 是由 Microsoft 运营的机器人，它会为网页建立索引，供 AI 问答引擎引用。AzureAI-SearchBot 代表 Azure AI Search 客户抓取网页，这些客户将索引器指向某个公开网站。运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的，仅靠 robots.txt 规则也无法阻止伪造请求。
请求声明
"AzureAI-SearchBot"
核验依据
未公布
实时检查
AzureAI-SearchBot 没有可供核验的运营方信息。此处仍会显示该地址的真实情况。
参考
| User agent | AzureAI-SearchBot仅为标识符：按子串匹配。 |
|---|---|
| 运营方 | Microsoft |
| 用途 | AI 搜索爬虫 |
| 是否遵守 robots.txt | 未声明 |
| 验证方法 | 仅自称未公布，仅凭 user agent 该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据，而任何客户端都可以发送该字符串，因此匹配结果只能视为一种声称，不能作为证明。 |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | AzureAI-SearchBot |
| 运营方文档 | 未发布 |
AzureAI-SearchBot 代表 Azure AI Search 客户抓取网页，这些客户将索引器指向某个公开网站。此类流量属于该客户，而非 Microsoft Search。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: AzureAI-SearchBot
Disallow: /User-agent: AzureAI-SearchBot
Allow: /User-agent: AzureAI-SearchBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
AzureAI-SearchBot 是由 Microsoft 运营的机器人，它会为网页建立索引，供 AI 问答引擎引用。AzureAI-SearchBot 代表 Azure AI Search 客户抓取网页，这些客户将索引器指向某个公开网站。运营方未公布 IP 范围列表或反向 DNS 规则，因此无法证明带有此 user agent 的请求是真实的，仅靠 robots.txt 规则也无法阻止伪造请求。
无文档说明。运营方未说明 AzureAI-SearchBot 是否读取 robots.txt，因此请添加规则，并通过日志确认请求确实已停止。
无法验证，至少无法仅凭请求本身验证。该代理尚未公布 IP 范围文件或反向 DNS 约定。user agent 字符串是唯一的识别依据，而任何客户端都可以发送该字符串，因此匹配结果只能视为一种声称，不能作为证明。可改为将来源 IP 与托管和数据中心的 IP 范围进行比对，并对任何表现得像爬虫的流量进行限速。
在 robots.txt 中为 AzureAI-SearchBot 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 AzureAI-SearchBot 会使网站从其答案所依赖的索引中移除，不再被引用。如果你重视来自 AI 答案的引荐流量，请改为屏蔽训练爬虫，保留这个爬虫。