人工智慧（AI）高速發展引發疑慮，AI產業近期罕見出現要求「放緩」聲音。Anthropic執行長阿莫代（Dario Amodei）率先警告AI能力提升速度過快，呼籲業界降低發展速度；OpenAI執行長阿特曼（Sam Altman）與xAI創辦人馬斯克（Elon Musk）隨後相繼表態認同。不過，美國總統川普（Donald Trump）13日公開反對放慢AI發展，強調美國目前領先中國，「誰贏AI，誰就贏」。
據倫敦《金融時報》報導，阿莫代近日發文指出，AI技術發展速度在今年夏季「急遽加速」，科技業必須放慢提升AI模型能力的速度，以便讓安全措施有時間跟上技術發展。他不是主張停止AI研發，而是認為目前模型能力提升過速，可能已讓安全防護、測試及監管機制逐漸跟不上。
這番警告受到AI產業高度關注，因Anthropic、OpenAI與其他主要AI公司目前仍處於激烈競爭。在這場競賽下，企業不斷追求更強大模型、更長的推理能力及更高程度的自主性，但阿莫代認為，當AI能力快速接近更高階時，安全風險也可能同步放大。
阿特曼、馬斯克罕見響應
阿莫代的主張隨後獲阿特曼與馬斯克支持。馬斯克在社群平台X轉發阿莫代的文章並表示：「達瑞歐是對的。」阿特曼則表示：「我同意達瑞歐的看法，我們必須控制尖端AI的發展速度。」他稍早曾在內部會議中表示，對於國際間共同協調放慢AI發展速度持開放態度。
阿特曼尤其認同讓獨立評估人士取得AI公司的內部存取權限。他說，讓獨立評估人員擁有類似員工的權限是「很棒的主意」，OpenAI也將採取這項做法，會很快公布更多資訊。
這也意味AI安全問題已從外部學者、監管人士的疑慮，逐漸進入AI產業核心企業高層的政策討論。
擔心AI能力跑得比安全機制快
阿莫代提出的問題是，AI能力提升速度與安全防護速度之間可能出現落差。他認為，AI企業可繼續進行研究，但須讓獨立評估人員持續取得模型測試權限，並建立更嚴格安全標準。透過外部獨立人士檢視模型，可避免企業在激烈競爭下，只關注產品能力與商業利益，而忽略模型可能產生的重大風險。
Google DeepMind共同創辦人暨執行長哈薩比斯（Demis Hassabis）今年7月已警告，隨著AI系統快速發展，傳統測試方式可能已不足因應新的能力。
近期也有AI研究人員退出產業，警告各家公司正在競逐可能具備自我提升能力的模型，等於「拿我們的生命賭博」。相關說法加深外界對超級智慧（superintelligence）可能造成失控風險的關注。因此，這波「放緩」主張真正針對的不是一般AI應用，而是下一代具備更強推理、自主執行甚至自我改進能力的尖端模型。
川普站在另一邊
儘管AI產業界出現「踩煞車」，川普立場卻完全不同。路透報導，川普13日在愛爾蘭敦貝格（Doonbeg）接受媒體採訪，被問到AI產業是否應放慢發展或接受更嚴格監管。川普說，美國在AI領域領先中國，是全世界最先進的國家，他希望維持這項優勢。
川普表示：「我們在AI領域領先中國，我們是世界上最先進的國家。坦白說，我希望保持這樣的狀態，因為誰贏AI，誰就贏。」
川普並非認為AI完全不需要安全措施。他說，以「設下防護措施」，但不應因此放慢整體AI發展。
美中AI競賽成為關鍵變數
川普的立場，反映AI安全討論中最難解決的問題：如果美中都在競逐AI領先地位，單方放慢是否反而可能讓對手取得優勢？
阿莫代也注意到這項問題。他不是要求美國單方停止AI發展，而是希望民主國家與主要AI企業協調建立共同安全標準，在維持競爭優勢的同時，降低失控風險。但在川普的戰略思維中，AI已不只是科技產業問題，而是攸關國家安全、軍事能力與全球經濟主導權的戰略技術。
