美軍分析師誤信AI產生「幻覺」 誤判陸船載核組件險釀美中開戰 

一名隸屬於太平洋特種作戰司令部的分析師因使用人工智慧(AI)聊天機器人,產出完全錯誤的「AI幻覺」情報,誤將一艘大陸籍船隻判定為載有「核武器計畫組件」,導致美軍戰機緊急升空,所幸最後美國軍方及時踩煞車。示意畫面。圖/取自US Department of War 臉書
一名隸屬於太平洋特種作戰司令部的分析師因使用人工智慧(AI)聊天機器人,產出完全錯誤的「AI幻覺」情報,誤將一艘大陸籍船隻判定為載有「核武器計畫組件」,導致美軍戰機緊急升空,所幸最後美國軍方及時踩煞車。示意畫面。圖/取自US Department of War 臉書

《CNN》引述多名知情官員獨家報導指出,美軍在中東執行美伊戰事任務期間,曾發生一起險些引爆第三次世界大戰的情報重大失誤;據多名國防部知情官員的披露,美軍在中東執行美伊軍事任務期間,因一名情報分析師濫用AI機器人撰寫評估報告,竟將一艘行經該區域的陸籍貨輪誤判為「載有核武器計畫組件」。美軍接報後急調戰機升空、武裝特遣隊準備強制登艦攔截,直到發動攻勢前最後一刻,高層發現情報完全是AI虛構才緊急取消行動,化解了一場美中兩大強權直接爆發武裝衝突的世紀浩劫。

據了解,這起極具災難風險的情報漏洞發生於美伊戰事正熾之際。當時隸屬於美國太平洋特種作戰司令部(SOCPAC)的一名分析師,為釐清一艘行經中東水域之陸籍貨輪的貨物清單,使用AI聊天機器人輔助查詢。不料,該系統在運算過程中產生嚴重的「AI幻覺」(AI hallucination),將開源網路數據與美國政府內部的機密訊號情報(SIGINT)混淆,最終憑空捏造出一份完全偏離事實的結論,聲稱該船載有「核武計畫組件」。

誇張的是,該名分析師並未進行交叉比對與人工驗證,隨即再度利用AI將這項虛假結論快速產製成符合五角大廈標準規範的軍事情報報告並陳報發布。美軍指揮鏈接獲這份超高風險告警後不敢怠慢,火速啟動緊急應變程序,不僅派遣武裝部隊預備發動強制登艦臨檢,甚至已指派軍機升空實施戰術警戒與掩護。

直至登艦部隊即將採取行動前夕,幾名美軍情報高層對該報告細節提出質疑,經深入複核其原始數據來源,才震驚揭發整份報告竟是AI系統「憑空幻想」的產物。知情官員事後坦言,該份情報「徹底是假的」,並餘悸猶存地指出,美軍若當真對陸籍船隻發動武力臨檢或開火,極可能在數小時之內升級為美中兩國間不可逆的直接軍事對抗,「差點點燃第三次世界大戰」。

赫格塞斯推「AI優先」備忘錄 官員急示警:無標準驗證等同拿國安開玩笑

針對該艘陸籍船隻的實際載運物,以及涉案分析師使用的是商業版AI工具還是軍用機密系統,《CNN》目前尚無法獨立證實。不過前美軍高層透露,軍方內部現行推廣的許多AI輔助軟體,實質上僅是「換了軍用包裝的商業聊天機器人」,根本缺乏應對戰場複雜情勢的抗干擾與精準度驗證。

美國國防部長赫格塞斯(Pete Hegseth)今年 1 月才剛簽署「AI加速戰略」備忘錄,全面貫徹「AI優先」方針,並積極推動將OpenAI、SpaceXAI、NVIDIA、微軟(Microsoft)與亞馬遜(Amazon)等科技巨頭的AI模型,下放給全美約300萬名文職與軍職人員使用。

然而,這起險些釀禍的事件在五角大廈內部引發巨浪。多名軍事專家與國安官員警惕指出,美軍各部門在缺乏統一核驗標準的情況下急於將AI導入目標篩選與戰場決策,等同於將國家安全暴露在巨大風險之中。一名情報官員更不客氣地直言,「AI根本不會讓你變聰明,它只會讓你更快得到一個爛點子。」針對此報導,美國太平洋特種作戰司令部與五角大廈目前均拒絕發表評論。

延伸閱讀

熱門文章

分享