训练爬虫
Applebot-Extended 是由 Apple 运营的机器人，它会收集网页用于训练 AI 模型。Apple 还有一个辅助 user agent，即 Applebot-Extended……[它] 用于训练 Apple 的基础模型，这些模型为 Apple 各产品中的生成式 AI 功能提供支持，包括 Apple Intelligence、服务和开发者工具。该名称不会出现在 User-Agent 请求头中：它仅用作 robots.txt 指令，因此在请求时无可核验。
robots.txt 行
User-agent: Applebot-Extended
核验依据
无：从不作为 user agent 发送
实时检查
粘贴日志中的地址，系统会将其与运营方公布的信息进行比对。
参考
| User agent | Applebot-Extended仅为标识符：按子串匹配。 |
|---|---|
| 运营方 | Apple |
| 用途 | 为 Siri、Spotlight、Safari、Apple Intelligence 等功能提供支持。 |
| 是否遵守 robots.txt | 遵守 |
| 验证方法 | 仅标识不适用，仅为 robots.txt 标识 Applebot-Extended 从不会作为 User-Agent 发送。它是一个 robots.txt 标识，用于告知 Apple 不要将已抓取的页面用于 Apple Intelligence 训练，而 Applebot 仍会继续为 Siri 和 Spotlight 抓取。 |
| 抓取模式 | 未公布 |
| robots.txt 标识符 | Applebot-Extended |
| 运营方文档 | https://support.apple.com/en-us/119829 |
Apple 还有一个辅助 user agent，即 Applebot-Extended……[它] 用于训练 Apple 的基础模型，这些模型为 Apple 各产品中的生成式 AI 功能提供支持，包括 Apple Intelligence、服务和开发者工具。
robots.txt
选择一项粘贴到域名根目录下。规则按标识符分别生效。
User-agent: Applebot-Extended
Disallow: /User-agent: Applebot-Extended
Allow: /User-agent: Applebot-Extended
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /search请修改 Disallow 路径，使其与你自己的 URL 一致。
FAQ
Applebot-Extended 是由 Apple 运营的机器人，它会收集网页用于训练 AI 模型。Apple 还有一个辅助 user agent，即 Applebot-Extended……[它] 用于训练 Apple 的基础模型，这些模型为 Apple 各产品中的生成式 AI 功能提供支持，包括 Apple Intelligence、服务和开发者工具。该名称不会出现在 User-Agent 请求头中：它仅用作 robots.txt 指令，因此在请求时无可核验。
是。运营方在文档中说明 Applebot-Extended 会读取 robots.txt，并遵守针对其自身标识的 Disallow 规则。规则在下次抓取该文件时生效，可能是发布后数小时或数天。
Applebot-Extended 从不会作为 User-Agent 发送。它是一个 robots.txt 标识，用于告知 Apple 不要将已抓取的页面用于 Apple Intelligence 训练，而 Applebot 仍会继续为 Siri 和 Spotlight 抓取。
在 robots.txt 中为 Applebot-Extended 标识添加 Disallow: /。如果该爬虫不遵守 robots.txt，请在 CDN 或反向代理上匹配其 user agent 并返回 403。
屏蔽 Applebot-Extended 可使你的网页不进入下一轮训练。它不会删除已收集的内容，也不会影响网站在普通搜索中的排名。