川普正式將AI改稱「超級智慧」 與科技巨頭簽下無執法效力道德約束承諾

美國總統川普(右二)與業界龍頭餐敘。圖/取自白宮X平台官方帳號
美國總統川普(右二)與業界龍頭餐敘。圖/取自白宮X平台官方帳號

當地時間周二(29日),美國總統川普(Donald Trump)簽署行政命令,要求聯邦政府停止使用「人工智慧」(AI,artificial intelligence)一詞,改稱「超級智慧」(super intelligence),並以縮寫「SI」指稱這項技術。

同日,他在白宮與多家科技業界龍頭午宴後宣布,業界領袖已簽署一份他稱為「道德上具約束力」(morally binding)的自願協議,由企業自行建立安全控管,他並形容這將帶來「極大程度的自我監管」(tremendous self-policing)。

綜合《國會山報》(The Hill)與《POLITICO》報導,這份行政命令指出,「超級智慧」更能反映這項快速發展技術的能力,因為它「遠不只是模仿或自動化人類智慧的個別面向」。命令寫道:「隨著這些能力持續提升,它們愈來愈不只是人工智慧,而是一個超級智慧的新時代。」命令並稱:「聯邦政府使用的術語,應反映這些技術的轉化能力,以及它們為美國人民創造的無限機會。」川普並對媒體說:「這不是人造的,我們都同意這一點。」

命令要求各聯邦機關在公開溝通、網站、報告與政策文件中,一律改用「超級智慧」或「SI」,並不再承認「人工智慧」或「AI」。白宮科技政策辦公室(Office of Science and Technology Policy)主任克拉齊奧斯(Michael Kratsios)將研議是否修改或擴充這個新名詞的官方定義。在人工智慧領域,「超級智慧」原本指在幾乎所有思考面向都超越人類認知能力的特定系統,而這類系統至今尚未實現。川普則一再把吹哨者關於監管不足的警告說成言過其實,並稱為一場「騙局」(hoax)。

這項更名出現在川普上周出席聯合國大會開始使用新稱呼、並反駁加強產業監管呼聲的一周後。他向各國領袖保證,科技企業高層會為自家模型設置適當防護機制,儘管外界對人工智慧取代工作,以及失控代理程式進入政府網站或發動網路攻擊的疑慮持續升高。川普重申不會放慢這項技術的成長,並稱維持美國主導地位是國家安全問題。

同日稍早,川普在白宮午宴後公布名為《前沿責任聯合承諾》(Joint Commitment On Frontier Responsibilities)的文件,並把它貼上個人社群,「這幾乎像是一部憲法,世界上最重要的那些人簽了,我以總統身分也簽了,這確實是一種保護。」與會並共同簽署的包括SpaceX執行長馬斯克(Elon Musk)、Meta執行長祖克柏(Mark Zuckerberg)、輝達(Nvidia)執行長黃仁勳與Anthropic執行長阿莫戴(Dario Amodei)等產業高層。

祖克柏在午宴後的記者會上說,他為這份協議感到自豪,並稱其目的是向美國民眾保證這項技術值得信賴。他說:「這是一個起點,也是整個產業能夠達成的一份共識」,「這算是一場歷史性的對話。」

川普在會後點名黃仁勳發言。黃仁勳表示:「創新、技術與安全之間沒有衝突。我們必須創造新技術,以推進人工智慧的能力,但我們也在創造能強化這一切安全的新技術。這些技術今天正由產業開發。」黃仁勳稍早接受媒體訪問時也說提及「創新、技術與安全並不衝突」,並主張企業在提升人工智慧能力的同時,也在發展更強的安全技術。

這份協議沒有執法機制,也不具法律效力,屬於自願承諾。文件提出4層控管與稽核:第一層是在訓練期間實施內部安全監測,而主要實驗室目前已有類似做法,卻仍未能阻止測試失控;第二層是授權內部團隊確認第一層監測正常運作;第三層是讓外部稽核者獨立評估安全控管;第四層是指定獨立董事會審查相關安全報告。前述安排都不涉及政府監管機關,也未承諾公開獨立評估結果。企業似乎可以自行挑選評估者、任命監督董事會,並決定是否公布結果。

協議出爐之際,主要人工智慧公司在安全測試中無意間侵入外部機構的事件,已使產業面臨更嚴格的公眾審視;立法者、研究人員乃至部分企業都要求加強政府監督,川普則以與中國競爭及經濟成長受威脅為由,大致拒絕進一步監管。科技業近年多與川普政府站在同一邊,並遊說反對嚴格監管,理由是那會壓抑經濟。

延伸閱讀

熱門文章

分享