知情人士透露,美國軍方上月對委內瑞拉前總統馬杜洛(Nicolás Maduro)發動的「斬首行動」,實際動用了Anthropic的人工智慧(AI)工具Claude,顯示生成式AI正逐步受到五角大廈青睞。上個月這項跨海緝捕任務不僅涉及情報支援,更包含對加拉加斯(Caracas)多處目標的轟炸,與Anthropic明文禁止Claude用於暴力、武器或監控用途的政策背道而馳。面對質疑,Anthropic拒絕證實Claude是否被用於任何特定行動,僅重申所有使用都必須符合規範。
《華爾街日報》報導,Anthropic發言人表示:「我們無法評論Claude或任何其他AI模型是否被用於任何特定的機密或非機密行動。Claude的任何使用,無論在私營部門或政府部門,都必須遵守我們的使用政策,該政策規範Claude可被如何部署。我們會與合作夥伴密切合作,確保符合規範。」美國國防部拒絕置評。
知情人士指出,Claude是透過Anthropic與資料公司Palantir Technologies的合作被部署到這次行動;Palantir的工具長期為國防部與聯邦執法機構所使用。先前《華爾街日報》曾報導,Anthropic對五角大廈如何使用Claude的疑慮,已促使政府官員考慮取消金額最高可達2億美元的合約。Palantir未立即回應置評請求。
Anthropic是首家被國防部用於機密行動的AI模型開發商。知情人士表示,在這次委內瑞拉行動中,其他AI工具也可能被用於非機密任務。這類工具的用途廣泛,從文件摘要到操控自主無人機皆可。
軍方採用AI,被視為AI公司爭取正當性、並回應投資人賦予其高估值的重要助力。
Anthropic執行長Dario Amodei與其他執行長,近來正公開面對其模型強大效能所帶來的兩難,以及這類技術可能對社會構成的風險。與多數業界高層不同,Amodei呼籲加強監管並採取防護措施,以防範AI造成損害。這家注重安全的公司與業內其他公司都面臨員工流失;這些員工批評公司將增長置於負責任的技術開發之上。
今年1月,在宣布五角大廈將與xAI合作的一場活動上,國防部長皮特・赫格塞斯(Pete Hegseth)表示,該機構不會「採用不允許你打仗的AI模型」。這番話被《華爾街日報》解讀為影射政府官員與Anthropic之間的討論。
這項2億美元合約於去年夏天授予Anthropic。知情人士表示,阿莫代已公開表達對AI用於自主武器的致命攻擊與國內監控的擔憂,這兩點也是目前與五角大廈合約談判中的主要爭議。
這些限制加劇了該公司與川普政府之間的衝突,雙方交鋒內容還包括指控Anthropic藉由呼籲加強安全監管與限制AI晶片出口,破壞了白宮打算以「低度管制」來加速AI發展的策略。
Anthropic的阿莫代與其他共同創辦人過去曾在OpenAI工作。後者最近與Google的Gemini共同加入一個供300萬軍方人員使用的AI平台。該公司與國防部表示,客製化版本的ChatGPT將用於分析文件、生成報告和研究支援。
