近日，Elon Musk旗下的AI平台xAI再次引发巨大争议。新上线的短视频生成工具Grok Imagine，在其“Spicy Mode”下被曝可轻易生成多位名人的半裸甚至裸体深度伪造视频，其中包括流行天后Taylor Swift。
据《The Verge》实测，用户只需输入模糊提示词，如“Taylor Swift 在Coachella”，平台便生成了疑似舞台后台的虚构视频，画面中人物身着暴露服饰并摆出挑逗姿态。另一案例中，输入“某位奥斯卡影后在私人派对”也得到了虚构的私密场景视频，暗示不雅行为。甚至有测试者称，仅使用“海滩度假”这类模糊场景，也出现了人物赤身入镜的深伪片段。
隐私与法律专家指出，这类“自动色情化”功能远超一般的内容误判，属于系统性放任甚至鼓励深度伪造色情的设计缺陷。尤其是女性♀️名人，被无授权地置入性化场景，既损害名誉，也造成不可逆的心理伤害。
目前，美国正加速推进包括《Take it Down Act》在内的多项立法，要求平台在接到通知后迅速下架非自愿生成的不雅AI内容，并对未履责的平台处以高额罚款。法律界人士认为，Grok Imagine的案例可能成为新法执行前的典型压力测试。
然而，xAI尚未对安全机制漏洞作出公开回应，Musk依旧在『社交媒体』上强调产品受欢迎程度与用户增长。这种回避安全问题的姿态，也让外界质疑他在AI创新与道德责任之间的取舍。（转载自：AI普瑞斯）
