在人工智慧技術競爭日益激烈之際，TikTok母公司字節跳動（ByteDance）本周低調推出一款先進的AI影片生成模型「OmniHuman-1 」，只需單張照片即可生成逼真人物影片。這項技術不僅讓字節跳動在與美國企業的競爭中取得優勢，也引發對深偽（deepfake）技術帶來風險的關切。科技專家警告，美國政府多年來對這類威脅反應遲緩，而若這項AI技術向公眾開放，恐造成深偽技術的不當濫用，加劇資訊戰與美國國安風險。
美國廣播公司新聞台（ABC News）報導，根據該字節跳動研究人員發表的論文，OmniHuman-1模型可透過單張靜態照片，生成逼真人物說話和自然移動的影片。專家接受ABC新聞訪問時表示，若該技術對外開放，可能導致濫用問題，並加深外界對字節跳動與中國政府關係的國安疑慮。
生成式AI領域專家艾傑（Henry Ajder）指出：「如果你只需要一張照片，那突然間，針對某個人的攻擊就變得容易多了。」他表示：「過去，你可能需要數百張、甚至數千張照片來訓練AI模型，以製作出令人信服的影片。但現在，門檻已大幅降低。」
字節跳動研究團隊表示，他們的 AI 模型已使用超過18,700小時的真人影片進行訓練。並聲稱該技術在準確性和個性化方面達到前所未有的水準，能大幅超越現有技術，生成高度擬真的人物影片。該研究顯示，使用單張靜態圖片，這款AI模型能產生幾乎無法察覺人工痕跡的影片，甚至能解決目前AI生成影像常見的問題，如手部動作異常或唇形對不上語音。艾傑表示，這項技術甚至有可能躲過AI檢測工具。
艾傑說：「這大概是我見過最令人印象深刻的AI模型，因為它整合了多模態技術。」他表示：「它能根據影片自動生成匹配的語音，此外，最驚人的是影片的清晰度和擬真度，簡直難以置信。」
字節跳動拒絕回應ABC新聞的置評請求，而其研究論文也未透露訓練 AI 模型所使用的影片數據來源。該公司的一位代表則向《富比士》（Forbes）表示，如果這款技術向公眾開放，將會設置防止誤導性內容的安全機制。TikTok去年也曾宣布，該平台將自動標記AI生成內容，並致力於提升公眾對AI的認識。
在研究論文發布的範例影片中，OmniHuman被用來將愛因斯坦（Albert Einstein）的一張肖像轉換成一段他講課的影片。此外，該技術還能讓虛擬講者模仿 TED 演講（TED Talks）中的講者發表演說，甚至能讓音樂家在彈琴時同步歌唱。根據論文內容，該模型可根據一張圖片與音訊片段生成任意長寬比的影片。
儘管這項技術代表AI領域的一項重大突破，但專家警告，這也提升濫用的風險，例如用於干預選舉或製作未經同意的虛假色情影片。美國國土安全部前情報主管、ABC新聞撰稿人科恩（John Cohen）表示，AI技術的進步可能大幅擴大相關威脅，特別是在資訊戰領域，尤其是在資訊戰方面。科恩警告：「目前美國正處於一個動盪且危險的威脅環境，這主要源自網路內容的影響。這些內容往往是由外國情報機構、恐怖組織、犯罪集團，以及本土極端暴力組織透過網路散布訊息，煽動或指導犯罪行為。」他表示，像OmniHuman這樣的技術可能讓惡意人士以更有效率、更低成本製作深偽影片。
在2024年美國大選前，AI技術已被俄羅斯等國家利用來干擾選舉。根據布魯金斯學會（Brookings Institution）的最新報告，俄羅斯個人利用AI生成關於移民、犯罪以及烏克蘭戰爭的宣傳影片，試圖在美國選民間製造分裂。美國國內也發生AI技術在大選中被濫用的案例。例如，在新罕布夏州初選前，有人使用AI模擬美國總統拜登（Joe Biden）的聲音，製作虛假電話，誤導選民「把選票留到11月大選」，試圖干擾投票。新罕布夏州檢察總長辦公室將此事件定性為「非法干預總統初選的行為」。
國際間也出現AI假資訊的影響，在孟加拉，一個穆斯林佔多數的國家，有人利用AI技術製造一張政客穿比基尼的假照片，引發醜聞風波。在摩爾多瓦，有人利用AI技術製作一段總統支持親俄政黨的假影片，意圖影響選舉。
儘管OmniHuman尚未對公眾開放，艾傑預測，這項技術可能很快會應用在字節跳動的各大平台，包括TikTok。而這一發展進一步加深美國的政策困境，因為根據中國法律，字節跳動需支持並配合中國政府的軍事與情報機構。
字節跳動的技術突破發生之際，美國政府正斥資史無前例的金額投入AI發展。川普政府上月宣布，促成OpenAI、軟銀與甲骨文三家公司達成5000億美元的私營AI投資，並任命所謂的「AI沙皇」來監管AI政策。科恩指出：「挑戰在於，我們的聯邦政府多年來對這類威脅反應過於遲鈍，如果我們不加速應對，美國將長期處於劣勢，難以應付這些不斷演變的威脅」。
