【梅花評論】「AI深偽」政治爭議 回歸AI基本法

台北巿議員楊植斗(右)、台北市議員參選人陳冠安(左)到台北地檢署控訴台南市長黃偉哲等涉人工智慧(AI)深偽台北市長蔣萬安聲音。圖/中央社
台北巿議員楊植斗(右)、台北市議員參選人陳冠安(左)到台北地檢署控訴台南市長黃偉哲等涉人工智慧(AI)深偽台北市長蔣萬安聲音。圖/中央社

蔡炫/台灣資深媒體人

國民黨新媒體部前主任韋淳祐因為《油不得你》影片利用AI深偽風波延燒,由於合成總統賴清德語音內容,引發警方介入調查,也讓朝野圍繞言論自由、深度偽造與刑事責任展開激烈攻防。隨著台北市長蔣萬安力挺喊出「衝著我來」,坦承自己委託團隊製作影片;台南市長黃偉哲緊接公布一段深偽蔣萬安的「音檔回擊」,連續播放多段訊息開轟。如今兩位市長雙雙遭到揚言提告,無論最後法律如何認定個案,重點並非深偽內容是否違法,而是台灣應當回到具前瞻性的基本法治架構,才能避免「AI深偽」的法律戰野火燎原。

當生成式AI快速普及,法律仍停留在事後追究刑責,加上欠缺事前治理原則,類似提告勢必一再重演。當前社會真正需要思考的是,AI創作如何兼顧創新、言論自由及公共利益。事實上,這場爭議始於違法構成要件不明的結構困境,第一、民主社會如何保障言論自由及政治擬仿未定界線;第二、深度偽造內容如何建立風險控管機制沒有答案,導致凡事訴諸刑法亂象;第三、沒有回歸AI基本法的制度設計,欠缺一套可信賴的AI治理標準,最終陷入無限循環的AI深偽之亂。

AI生成警示作為界線 言論自由不能陪葬

AI生成警示用語公開註明是否可以規避法律?目前尚無一套標準依循,尤其當模仿政治人物的政策評論、諷刺創作及戲仿文化,涉及公共事務議題,是否違反了個人形象與善良風俗,成為此次深偽內容的最大爭議。事實上,過去無論是真人模仿、配音惡搞、漫畫諷刺或網路迷因,閱聽大眾一般也都理解為「人物模仿」及「時事改編」,也能掀起公共討論的另一熱潮。如今,隨著AI科技日新月異,若以刑法介入AI創作內容,不僅會對作者本身與評論議題造成寒蟬效應,也會實質壓縮言論自由。

言論自由當然不是毫無界限,各界應該討論的是,一旦影片透過AI生成技術高度模擬特定人物的外貌聲音,使得一般大眾誤認為真實發言,甚至帶有實際惡意,法律規範是否還能從寬認定?如果是以明顯戲仿及誇張口吻呈現,社會多半可以辨識評論及娛樂性質,生成內容並不足以造成混淆而影響公共判斷,法律是否不應苛薄少恩?因此,《油不得你》「賴清德AI配音有沒有問題」的核心在於,不該只是因為模仿總統,而應檢視是否足以誤導大眾、造成具體危害以及公共利益。

AI深偽賴總統聲音 綠營赴北檢告發。圖/中央社

AI深偽賴總統聲音 綠營赴北檢告發。圖/中央社

深偽內容的風險治理 避免全面刑事化

深度偽造技術已經真假難辨,確實提高了身分冒用、假訊息以及選舉操弄等風險,近年全球各國開始討論如何規範AI生成內容,例如要求揭露AI生成資訊、建立平台標示機制,並且針對身分冒充、訊息詐欺及性影像偽造等高風險用途訂定嚴格規範。因此,我們不該針對AI技術本身,而該對於造成的不同風險設定層級;治理重點應該放在「風險管理」,而非「技術禁止」,才能避免全面刑事化濫訴。

刑事濫訴最終可能導致漏斗效應的司法浪費,一旦AI生成總統聲音可能涉及法律責任,那麼生成政治人物影像、企業代言、影視歌星、網路紅人,甚至一般民眾聲音,又該如何認定?如果法律沒有一致標準,只要出現使用AI隨即進行興訟,可能還會受到對象、議題甚至政治敏感或社會關注,形成不同執法尺度,也增加了法律成文困境。因此,我們應該建立的是一套AI風險分級制度,區分公共政策、商業用途、新聞使用、娛樂創作及惡意詐欺等不同情境,跳脫數發部頒布的「人工智慧風險分類框架」三大類型(AI系統本身之技術設計缺陷、部署後操作及人機互動問題、社會結構與環境衝擊),依此風險高低配置不同法律責任,別讓每起案件都得回到刑法尋找答案。

AI基本法才是AI治理起點

台灣面對生成式AI的快速發展,真正欠缺的並非零散的禁止規定,當行政院今年浩浩蕩蕩宣布成立「國家AI特別戰略委員會」,而由行政院長卓榮泰親自領軍,要求各部會建立 AI 風險管理制度;表面看似因應全球 AI 浪潮,卻像是在《國家 AI 發展綱領》下疊床架屋。相較之下,台灣仍以行政指引及個別法令因應AI發展,尚未建立具體AI基本法體系。

相較歐盟已經透過《AI Act》建立完整的AI治理制度,主要在於建立高風險 AI 系統的監管邏輯,例如招聘、金融、醫療等面向,由設有高級、特定、極小以及不可接受風險。台灣缺乏一部可以統整人民權利、透明義務、權責分工及風險分類的AI基本法,導致每逢AI新興爭議,只能回到既有法制,而無法從制度面提供一致且可預期的治理標準。

《油不得你》事件所揭露的,不僅僅是深偽技術的法律爭議,也凸顯出台灣面對AI發展缺乏完整治理架構。AI規範不該依賴事後刑責,而需兼顧言論自由、公共利益與科技創新;建立生成標示、風險分級與責任制度,避免過度刑事化;制定AI基本法,建立明確且可預期的治理標準,才能在科技進步與民主價值間取得平衡。AI時代更需以制度追上技術,避免真假難辨成為民主國家亂源,否則「等到讓真相穿上鞋子,謊言早已經跑遍半個世界」。

※以上言論不代表梅花媒體集團立場※

延伸閱讀

熱門文章

分享