人工智慧(AI)公司Anthropic 12日表示,美國政府以國家安全疑慮為由,下令禁止外國公民使用其最先進AI模型後,公司將立即喊停相關服務,並全面中止所有用戶的存取權限。Anthropic強調,政府此舉僅基於一項「特定且非普遍性的潛在越獄漏洞」風險,公司並不認同停用模型的必要性。
路透報導,Anthropic在聲明中表示,公司接獲出口管制指令,要求暫停所有外國籍人士使用Fable 5與Mythos 5模型,但政府並未提供具體的國安疑慮細節。
Anthropic表示,根據公司的理解,政府認為外界已找到一種能夠繞過Fable 5安全機制的方法,也就是所謂的「越獄」(jailbreaking)。該防護機制原本是為了防止Fable 5被用於尋找軟體漏洞。
這項命令發布之際,Anthropic與川普(Donald Trump)政府之間先前的爭議原本已出現緩和跡象。Anthropic與政府的關係於今年決裂,原因是該公司拒絕讓美軍將其AI模型用於國內監控與全自主武器系統。政府隨後將Anthropic列入供應鏈黑名單,相關措施預計將於今年稍晚生效。
此舉也象徵美國遏制外國對手AI能力的行動大幅升級。過去數年來,美國出口管制主要針對支撐AI運作的晶片與工具,而非直接限制外國人士使用AI模型。
Anthropic表示,政府目前僅向公司提供口頭證據,且內容僅針對「可能存在特定的、非普遍性的越獄風險」。公司表示:「我們不同意僅因發現一種有限範圍的潛在越獄方式,就要求撤回一個已部署給數億人使用的商業模型。」
美國政府的命令以及Anthropic的回應,凸顯AI開發商與監管機構之間日益加劇的緊張關係。雙方對於如何評估所謂「越獄」風險,也就是繞過模型安全防護的方法,存在明顯分歧。
事實上,就在10日,Anthropic才呼籲美國政府加強AI監管,包括建立阻止高風險模型上線的機制。但該公司同時表示,政府11日的行動並未遵循公平且以事實為基礎的監管原則。
五角大廈資訊長戴維斯(Kirsten Davies)在社群平台X發文表示,國防部支持將國家安全置於優先地位。她寫道:「有些事情的重要性遠高於營收周期、吸睛標題與IPO估值。美國優先,永遠如此。」
Anthropic上月已秘密向美國監管機構提交IPO申請文件,在進軍資本市場的競賽中領先競爭對手OpenAI一步。
本周稍早,Anthropic推出一款名為Claude Fable 5的新AI模型,代表公司所稱的「Mythos級」(Mythos-class)的新一代能力層級。Anthropic表示,該模型設有多項限制措施,禁止被用於網路安全等高風險領域,但部分用戶抱怨這些限制「過於廣泛」。
專家指出,若落入不當人士手中,Mythos模型可能大幅提升高階網路攻擊能力,。尤其是銀行業等產業,其技術系統不僅複雜、彼此互連,且往往已有數十年歷史。
Anthropic表示,公司在Fable 5發布前曾與美國政府等單位合作進行安全評估,且其他AI業者的模型也具備發現程式碼中輕微漏洞的能力。
Anthropic表示:「這項命令的最終結果是,我們必須立即停用Fable 5與Mythos 5,以確保符合法規要求。其他Anthropic模型的使用則不受影響。」公司表示,相信此事源於某種「誤解」,並正努力儘快恢復模型服務。
Anthropic表示:「如果這項標準適用於整個產業,我們認為所有前沿AI模型供應商的新模型部署幾乎都將被迫停止。」
亞馬遜(Amazon)雲端事業部門AWS 11日稍晚表示,Anthropic已要求其撤銷「所有地區、所有用戶」對相關模型的存取權限。
一名美國官員證實,商務部已發布出口管制命令,要求停止所有外國公民存取Fable 5與Mythos 5。
曾參與2025年白宮AI行動計劃(AI Action Plan)制定的前白宮官員鮑爾(Dean Ball)在X發文指出,這項命令意味所有「非美國人」都將禁用Anthropic最新模型,即使身處美國境內亦然。鮑爾表示:「這意味著未來使用Anthropic模型時,你可能必須證明自己的國籍身分。」
Anthropic多名核心成員其實都出生於美國境外,包括共同創辦人奧拉(Chris Olah)、AI研究員卡帕西(Andrej Karpathy)以及哲學家、AI研究員阿斯克爾(Amanda Askell)。
路透無法確認這些人的國籍身分,Anthropic發言人也拒絕說明這些員工是否同樣會失去模型使用權限。