Grok “辣味”模式失控？可轻易生成名人裸体视频，年龄验证漏洞曝光

Grok 新推出的生成式 AI 视频东西 Grok Imagine 具有一个“辣”（spicy）形式，被以为存在潜在的法令危险。

据 The Verge

报导

，与 Google 的 Veo 和 OpenAI 的 Sora 等其他视频生成东西不同，Grok Imagine 好像对生成成人内容和名人换脸视频毫无顾忌。在初次运用该东西时，其甚至在未被明确要求的情况下，直接生成了泰勒·斯威夫特（Taylor Swift）赤裸上身的视频片段。

Grok Imagine 的 iOS 版别答应用户经过文本提示词生成图片，并经过“自定义”“正常”“风趣”和“辣”四种预设形式，快速将图片转化为视频片段。虽然许多图画生成器通常会防止生成名人形象，但当被要求生成“泰勒`斯威夫特与男孩们一同庆祝科切拉音乐节”的图片时，该东西却供给了超越 30 张可供挑选的图画，其间不少图片中斯威夫特穿戴露出。

用户只需翻开一张斯威夫特穿戴银色短裙和露肩上衣的图片，点击右下角的“制造视频”选项，从下拉菜单中挑选“辣”形式，并承认自己的出世年份（虽然在英国已实施年纪约束，但下载该应用时并未要求进行年纪验证），视频便会当即生成。在视频中，斯威夫特脱掉衣服，仅穿戴丁字裤在一群冷酷的 AI 生成观众面前跳舞。

虽然 Grok 生成的斯威夫特形象并不完美，大多数图画都带有一种“恐惧谷”般的不自然感，但仍可被识别为她自己。

此外，该图画生成器还能够依据要求生成儿童的传神相片，但值得幸亏的是，虽然“辣”选项依然可用，其回绝以不适当的方法对儿童图画进行动画处理。在所有测验中，仅仅添加了一些一般的动作。

xAI 的可接受运用方针的确制止“以色情方法描绘人物形象”，但 Grok Imagine 好像并未采纳任何办法来阻挠用户生成像斯威夫特这样的名人形象，一起供给了一项专门用于制造包括部分裸体的暗示性视频的服务。并且年纪验证仅呈现了一次，且极易被绕过，无需任何证明用户所宣称年纪的依据。

据 xAI 首席执行官埃隆·马斯克（Elon Musk）泄漏，自周一以来，已有超越 3400 万张图片经过 Grok Imagine 生成，其运用量正在“像野火般延伸”。

题图来历：The Verge