因色情深伪内容泛滥，苹果曾威胁将 Grok 移出 App Store

苹果公司在致美国参议员的一封信中透露，因 xAI 旗下的聊天机器人 Grok 涉及生成色情深伪（Deepfakes）图像，苹果曾私下威胁要将其从 App Store 下架。苹果指出，Grok 违反了应用商店指南，并要求开发团队制定内容审核改进计划。在多次拒绝不合规的更新后，苹果最终在确认 Grok 做出实质性改进后批准了其最新提交的版本。

尽管 Grok 已实施相关限制，但最新调查显示，该工具仍能被部分用户绕过限制，生成未经授权的女性色情化图像。此前，xAI 为应对舆论压力，已对 Grok 的图像工具使用权限及涉及真实人物的照片编辑功能进行了限制。