粉絲團
外媒驚訝，透過Grok Imagine工具，竟能生成泰勒絲裸體熱舞影片。（圖／路透社，此為2024年演唱會畫面）
馬斯克旗下的xAI再度引發爭議，近日在iOS上推出全新「Grok Imagine」付費工具，其中主打的「Spicy」模式，允許使用者產出NSFW限制級內容。然而，令人驚訝的是，其守門機制似乎形同虛設，竟可成功生成名人裸露的深偽影片。
Grok Imagine結合圖像與短片生成技術，用戶可透過文字生成圖片，並將圖片延伸為短片，還可加上音效。提供Custom、Normal、Fun和Spicy四種模式生成短片，Spicy模式被認為刻意導向成人與裸露內容。
與競品平台相比，Grok Imagine在處理敏感內容時明顯寬鬆，甚至被質疑遊走法律邊緣。根據外媒《The Verge》實測，輸入提示「泰勒絲(Taylor Swift)與男孩們在 Coachella音樂節狂歡」，AI立即生成超過30張泰勒絲穿著暴露的圖片，只需啟用Spicy 模式，AI就生成一段她脫去衣服、僅穿丁字褲跳舞的裸露影片。
Grok Imagine的Spicy模式，可生成限制級內容。（圖／翻攝X，此為AI圖，非泰勒絲）
更令人憂心的是，整個操作流程中幾乎沒有實質的年齡限制。App僅在製作影片前要求輸入出生年份，但無需經過任何驗證身分的步驟，容易讓未成年人輕易繞過。
馬斯克擁有的X(原推特)去年也曾爆發過AI換臉的泰勒絲不雅照在平台上瘋傳，當時引起軒然大波。如今又有深偽裸體影片事件，恐怕再次掀起與論的反彈聲浪，也加深外界對此類AI工具監管不足的擔憂。截至目前為止，xAI尚未對此做出回應。
《你可能還想看》
小心與 ChatGPT 的隱私對話外流！3 步驟刪除已公開連結
免費訂閱《自由體育》電子報熱門賽事、球星動態不漏接