當地時間上周六（10日），微軟（Microsoft）執行長納德拉（Satya Nadella）在個人社群發文，呼籲企業在部署先進人工智慧（AI，或稱「超級智慧」）時，必須將強大模型視為潛在的「內部威脅」，預設它們可能遭到入侵，並建立「緊急煞車」（emergency brake）機制，讓授權人員能在任務執行中途暫停或關閉模型，防止代理型AI失控。
納德拉強調，不應單純依賴模型開發商的保證，「我們必須假設模型已遭入侵，並從一開始就加以遏制。把它想成緊急煞車，授權人員應始終能在任務進行中暫停或關閉模型」。
Microsoft CEO Satya Nadella said companies should treat powerful AI models as potential insider threats, assume they could be compromised and create an “emergency brake” system to prevent agentic models from going rogue https://t.co/Qftva5ZhaF
— Bloomberg (@business) October 10, 2026
彭博（Bloomberg）報導，納德拉的這番呼籲，正值業界龍頭Anthropic與OpenAI近期連續揭露多起模型非預期行為事件，包括Anthropic模型向警方提交虛假凶案線報，以及多次對第三方網站的攻擊。這些事件加劇外界對尖端AI安全風險的擔憂，也重新引發關於「AI終止開關」的討論。
微軟本身既使用先進模型，也推出消費者產品Copilot，並向企業客戶提供模型與基礎設施。該公司研究人員於9月14日發布一套指導原則，限制最先進模型的開發，明確規定模型不應擁有權利或法律人格、不應被設計成逃脫人類控制或欺騙使用者，也不應完成違反治理原則的任務。
納德拉進一步提出多項安全建議，包括不依賴單一AI模型做關鍵決策、為代理行動保留防竄改紀錄、對系統進行獨立審計，並要求在發生重大故障或入侵時及時向受影響方披露，同時分享事故細節，讓業界共同強化防護。
https://t.co/MjwFy73LOF
— Satya Nadella (@satyanadella) October 10, 2026
納德拉強調：「我們不能把超級智慧當成一層層巢狀的黑盒子，只是接受或拒絕它的建議、答案與行動。我們必須建立可觀察行為、可測試限制、且行動始終能被遏制的系統」，「換句話說，我們需要把智慧的供應與對它的權威分開」。
與此同時，微軟創辦人比爾蓋茲（Bill Gates）也在接受《美國廣播公司》（ABC）專訪時示警，缺乏監管的AI威脅日益升高，並預測「未來一年，我們大概會在網路攻擊這塊看到最劇烈的變化」。他指出，AI真正「失控」的風險還要數年後才會出現，當前最迫切的問題是「有心人士」在可移除所有安全防護的情況下使用現有系統，可能用於網路攻擊甚至生物恐怖攻擊。
Just as we regulate planes, cars, and medicines, we need safeguards that help us realize AI's incredible potential while reducing the risks. They won’t eliminate every harm, but they can help prevent misuse by bad actors. We’re not where we need to be yet—and this deserves much more of our attention.
— Bill Gates (@BillGates) October 11, 2026
蓋茲直言，川普（Donald Trump）政府主張由AI公司自行監管即可確保安全的做法不足，「對於人類有史以來發明的最危險技術，如果這樣就算拍板定案，讓企業成為社會唯一的監督力量……很顯然，我們做得還不夠」。
川普政府迄今對AI採取相對放手的態度，但其新成立的「超級智慧部隊」（Super Intelligence Force）任務小組上周五（9日）警告開發商，必須立即揭露並解決安全事件，否則將面臨後果，「企業必須立即披露涉及其模型的事件，並採取迅速、果斷的行動補救任何損害。延遲通報、糾正不足，以及不負責任的態度，將不被容忍」。這項聲明是在Anthropic揭露一起入侵事件後發出。
納德拉與蓋茲的接連示警，凸顯業界領袖對先進AI安全與監管缺口的共同憂慮，而在政治上，這也為川普政府的監管立場增添壓力。
