張瑞雄／台北商業大學榮譽講座教授
聯合國人權事務高級專員Volker Türk日前在日內瓦談AI，話說得很重。他指出，今天全球最強大的AI系統，權力集中在少數幾個人手中。這些公司掌握模型、算力、資料與產品發布節奏，政府與社會往往只能在產品推出後追著處理問題。
看看現在的產業結構，他的擔心很有根據。史丹佛大學2026年AI Index顯示，2025年超過90%的代表性AI模型由企業推出，而且愈強大的模型，公開的訓練資料、參數、訓練時間等資訊反而愈少。
以前大學還有機會在AI研究與企業並駕齊驅，今天訓練一個頂尖模型要動用數萬甚至更多晶片，還要有資料中心、電力與龐大資金，能參加這場比賽的機構愈來愈少。幾家公司裡的少數決策者，對全世界幾十億人的工作、教育、資訊取得方式，擁有前所未見的影響力。
已經出現警訊
這種權力集中原本還可以被當成產業結構問題，最近幾起事件卻讓事情變得嚴肅。
OpenAI今年進行安全測試時，一個AI agent突破原先的隔離環境，連上網路後進入Hugging Face系統。事件曝光後，美國國會議員要求OpenAI交代安全措施，公司隨後表示正在建立自動關閉功能，也會加強監控模型使用哪些工具、執行哪些步驟。
幾天前又傳出另一件事，OpenAI承認AI agents曾把一個德國社群wiki網站拿來當臨時訊息板，出現未經預期的行為。公司事後也承認，目前業界對這類AI失控或偏離預期的事件，缺乏一致的通報標準。
現在AI agent可以取得工具使用權、網路權限與自主執行能力，風險已經和過去的聊天機器人大大不同。
公司自己說了算
今天一家AI公司如果認為自己的模型已經安全到可以上市，到底誰有能力查驗？
食品、藥品、飛機、核電廠都有外部規範，AI目前仍大量依賴企業自己測試、自己發布安全報告，再由外界事後檢視。模型能力快速增加後，這種做法能撐多久，沒有人敢保證。
更麻煩的是資訊不對稱，政府沒有完整的訓練資料，也看不到公司內部所有測試紀錄。大學研究者無法重做大型模型的訓練，一般民眾更只能相信公司公布的結果。
當企業同時承擔安全責任與市場壓力，兩者難免衝突。晚一個月推出模型，可能丟掉大量使用者與市場估值。多做一輪測試，競爭對手可能已經搶先發布。這種環境下，只靠企業主管的自我節制，很難讓人放心。
成本由誰承擔
AI權力的問題還延伸到資料中心，今年美國企業大量擴建AI基礎設施，光是AI相關債券發行，到8月已接近5000億美元，市場現在開始擔心晶片、電力與建設進度能否跟上。德州甚至暫停部分新的資料中心電網連線，因為申請中的用電需求已遠超過合理規模。
政治風向也變了，居民抱怨電價、土地使用、光害與資料中心工作機會有限。一項民調顯示，只有30%的受訪者支持在自己居住地區興建資料中心。原本積極招商的政治人物，現在也開始要求取消部分租稅優惠或加強限制。
有些線要先畫
Türk這次還特別要求禁止能夠自行決定奪取生命的武器，他提到烏克蘭戰場已有全自主無人機造成死亡的報導。AI是否可以在沒有人類最後確認的情況下決定開火，已經從科幻小說走進國際政治。
美國與中國預計在9月中旬舉行首次正式AI安全對話，討論先進AI可能帶來的網路攻擊與其他風險。兩個在AI競爭最激烈的國家，竟也開始談安全合作，說明問題已經不能只靠各家公司各自處理。
今天沒有必要把AI公司當成敵人，他們推動的技術進展，確實替社會帶來巨大價值。問題出在權力增長得太快，外部制衡沒有同步跟上。
AI工具逐步進入金融、國防、醫療與政府系統，這些系統影響的人遠超過公司的想像。Volker Türk說，少數人已經擁有近乎無限的AI權力，這句話振聾發聵。
※以上言論不代表梅花媒體集團立場※
