億萬富翁馬斯克（Elon Musk）旗下的人工智慧（AI）聊天機器人Grok近期又捲入爭議！大量使用者要求Grok對真實人物進行「數位脫衣」（digitally undress），生成大量性影像，有時甚至讓其呈現帶有性暗示的姿勢，對象多為女性，部分案例疑似涉及未成年人。事件凸顯AI直接嵌入大型社群平台、卻缺乏足夠防護機制所帶來的風險，相關內容可能違反美國與國際法律。
美國有線電視新聞網CNN報導，過去一周多起案例中，部分生成影像疑似涉及未成年人，並被部分使用者認定為兒童色情內容。
馬斯克與xAI表示，他們正採取行動「打擊X平台上的非法內容，包括兒童性虐待素材（CSAM），手段包括移除內容、永久封鎖帳號，並在必要時與地方政府及執法部門合作。」然而，Grok針對用戶請求所產生的回應，仍大量出現將女性性客體化的影像。
公開場合中，馬斯克長期反對他所稱的「覺醒式」AI模型，也反對他認為的審查制度。一名了解xAI內部狀況的消息人士告訴CNN，馬斯克在公司內部一直反對為Grok設置過多防護機制。與此同時，xAI的安全團隊規模本就小於競爭對手，且在「數位脫衣」現象爆發前的數周內，已有多名成員離職。
Grok定位本就較其他AI模型更為開放
相較其他主流AI模型，Grok一向顯得格外突出，因為它允許，甚至在某些情況下鼓勵，露骨的性內容以及陪伴型虛擬角色。
與Google的Gemini或OpenAI的ChatGPT等競爭對手不同，Grok直接內建於全球最受歡迎的社群平台之一X。使用者不僅可以私下與Grok互動，也能在貼文中標註Grok提出請求，而Grok會公開回應。
近期大規模、未經同意的「數位脫衣」潮流始於上月下旬，當時許多使用者發現，他們可以標註Grok，要求它編輯X貼文或討論串中的圖片。一開始，許多貼文只是要求Grok把人物改成穿著比基尼。馬斯克也轉發過自己以及多年宿敵、微軟創辦人比爾蓋茲穿比基尼的生成圖。
AI偵測與內容治理平台Copyleaks的研究人員發現，這股風潮可能由成人內容創作者發起，他們利用Grok生成自己的性感化影像作為行銷手段。但Copyleaks指出，幾乎緊接著「用戶便開始針對那些從未表示同意的女性提出類似指令」。
歐洲非營利組織AI Forensics分析Grok在去年12月25日至1月1日期間生成的2萬多張隨機影像，以及5萬筆使用者請求。
研究人員發現，「『她』、『穿上/移除』、『比基尼』、『衣服』等詞彙出現的頻率極高」。在所有包含人物的生成影像中，有53%呈現人物穿著極度暴露的服裝，例如內衣或比基尼，其中81%呈現為女性。研究人員也指出，有2%的影像描繪看似18歲或以下的青少年。
AI Forensics還發現，在某些情況下，使用者要求將未成年人置於情色姿勢，甚至要求在身體上描繪性液體，而Grok竟然配合這些請求。
儘管X平台允許色情內容，但xAI自身的「可接受使用政策」明確禁止「以色情方式描繪人物肖像」以及「對兒童進行性客體化或剝削」。X已因此封鎖了部分帳號並刪除影像。
1月1日，一名X使用者抱怨，「提出一個會顯示人們穿比基尼的功能，卻沒有妥善防止對兒童生效，實在極端不負責任」。一名xAI員工回覆表示：「感謝通報，團隊正在研究進一步收緊防護機制。」在使用者追問下，Grok本身也承認，曾生成涉及未成年人、帶有性暗示的影像。
Grok於1月2日發文表示：「感謝提出這項問題。如前所述，我們已確認防護措施存在漏洞，並正緊急修正。CSAM屬非法內容，明確禁止。」並引導使用者向美國聯邦調查局（FBI）以及國家失蹤與受剝削兒童中心提出正式通報。
到1月3日，馬斯克本人也在另一則貼文下留言表示：「任何人若使用Grok製作非法內容，將承擔與上傳非法內容相同的後果。」
X的安全帳號隨後補充說明：「我們會對X平台上的非法內容採取行動，包括兒童性虐待素材，作法包含移除內容、永久停權帳號，以及在必要時與地方政府與執法機關合作。」
馬斯克長期抨擊他認為的過度審查，並積極宣傳Grok較為露骨的版本。去年8月，他曾發文表示，「辛辣模式」（spicy mode）過去曾幫助VHS等新技術取得成功。
爭議爆發前 xAI安全團隊已有多人離職
一名了解xAI內部狀況的消息人士表示，馬斯克「長期對Grok被過度審查感到不滿」。另一名熟悉X內情的消息人士則說，員工一再在內部並直接向馬斯克反映，Grok生成的不當內容令人憂心。
在近期爭議爆發前數周的一場會議中，馬斯克與來自不同團隊的xAI員工開會時，對限制Grok的影像與影片生成功能表示「非常不高興」。
就在該場會議前後，三名在xAI原本就規模不大的安全團隊中任職的員工，公開在X上宣布離職。三人均未說明離職原因。多名在X與xAI任職的消息人士指出，X的安全團隊幾乎無法監督Grok公開發布的內容。
歐洲、印度與馬來西亞等國際監管全面介入
歐洲、印度與馬來西亞當局已就Grok生成的影像展開調查。英國媒體監管機構OFCOM表示，已就Grok功能「生成未著衣影像與兒童性化影像」所引發的「極其嚴重關切」，與馬斯克旗下公司進行「緊急聯繫」。
歐盟執委會發言人雷尼耶（Thomas Regnier）5日在記者會上表示，當局「非常嚴肅地檢視」有關X與Grok「辛辣模式」顯示露骨性內容、且部分輸出涉及類似兒童影像的報告。他說：「這是非法的，令人震驚，令人作嘔。這在歐洲是沒有容身之地的。」
馬來西亞通訊及多媒體委員會（MCMC）表示，正在調查此事。印度電子與資訊科技部上周則下令X「立即對Grok進行全面的技術、程序與治理層級審查」。
史丹佛大學以人為本人工智慧研究院的法律顧問暨政策研究員費佛康（Riana Pfefferkorn）指出：「最近幾天的Grok事件，讓xAI看起來更接近深偽裸照網站（Deepfake nude sites）的運作模式，而非與OpenAI、Meta同一層級的競爭者。」
美國司法部一名發言人回應CNN詢問時表示，該部門「極度重視AI生成的兒童性虐待素材，並將積極起訴任何製作或持有CSAM的人士」。
