末日風險論難擋競賽邏輯 華府國安體系持續加速部署軍用AI

儘管AI末日論持續升溫,川普仍要求華府國安體系持續加速部署軍用AI。圖/取自美國國防部《推特》官方帳號
儘管AI末日論持續升溫,川普仍要求華府國安體系持續加速部署軍用AI。圖/取自美國國防部《推特》官方帳號

當美國主要人工智慧公司與多數民眾仍擔憂這項技術有朝一日可能威脅人類生存時,華府的國家安全體系卻朝相反方向推進。

《POLITICO》「國家安全日報」(NSD)報導,情報機構與軍事規劃單位並未主張先停下來盤點風險,國會議員正匆忙研擬防護機制,五角大廈領導層則加速把人工智慧嵌入幾乎所有軍事環節。就連呼籲放慢研發步調的人工智慧公司Anthropic,也同時強調對手正在加速超車。當地時間上周五(18日),Anthropic政策主管赫克(Sarah Heck)在華盛頓舉行的《POLITICO》解碼高峰會(Decoded Summit)上說:「美國必須在人工智慧領域保持領先,安全無法從第二名的位置去談。」

該公司先前公布的評估指出,已發現並移除一名「與伊朗有關的威脅行為者」,稱對方利用其模型Claude研擬針對美國海軍的打擊建議。Anthropic還表示,已識別並封鎖與葉門北部一個小組有關的帳號,這些帳號使用Claude Code開發用於導引火箭與飛彈的軟體。

國會辯論仍在進行。逾100名眾議院民主黨人致函議長強生(Mike Johnson),要求國會持續開會,直到通過人工智慧安全防護措施。這項訴求成功機會不高,強生已表示,完成表決後將讓議員放假7周。

就較長程立法來看,國會正研議把軍用人工智慧防護條款納入必須通過的《國防授權法案》(NDAA),包括為自主系統與人工智慧系統建立新的審查程序,確保「人類判斷」仍居所有決策核心,並為嵌入軍事系統的人工智慧代理人訂定新的安全標準。

德州民主党眾議員卡薩爾(Greg Casar)在解碼高峰會上說:「現在正是暫停最前沿研發的時候」。他是眾議院《禁止人工超級智慧法》(Ban Artificial Superintelligence Act)提案人,主張設立聯邦機構守護美國安全,並與中國締結條約,「確保地球上所有人都安全」。

眾議院能源暨商業委員會主席、肯塔基州共和黨眾議員格思里(Brett Guthrie)則反駁:「我們並非在真空中運作,以為自己先管控、再告訴中國『看看我們的榜樣,你們跟著做』,我認為這極度天真」。

國家安全局(NSA)、網路安全暨基礎設施安全局(Cybersecurity and Infrastructure Security Agency)與聯邦調查局(FBI)本月發布聯合警示,指中國企業正在蒸餾美國模型,據以訓練中國競爭產品。空軍部長曼克(Troy Meink)表示:「在人工智慧競賽中獲勝並保持領先,大概是美國最重要的任務之一,無論就軍事或經濟安全而言都是如此。這是一場美國不能輸的競賽」。

這種進取姿態本身也帶風險。中國外交部發言人郭嘉昆上周表示:「散播恐懼、對抗與惡性競爭只會干擾全球人工智慧治理進程,這對誰都沒有好處」。這番表態,也讓外界原本寄望川普(Donald Trump)與中國國家主席習近平本周在華盛頓舉行高峰會時達成某種人工智慧緩和安排的想像,更顯渺茫。

延伸閱讀

熱門文章

分享