教宗良十四世(Pope Leo XIV)25日發布上任後首份通諭,呼籲各國政府放慢人工智慧(AI)系統發展腳步,並加強監管。他警告AI正在散播假訊息、加劇衝突,甚至可能將世界推向無休止戰爭的深淵。此外,良十四世也罕見就教會過去在跨大西洋奴隸貿易中扮演的角色,表達個人歉意。
路透報導,這位首位美籍教宗在梵蒂岡這份文件的發布會上表示,部分自主武器系統如今已發展到「幾乎超出任何人類能控制的範圍」,他對此感到十分憂心。出席活動者還包括全球頂尖AI公司之一Anthropic共同創辦人奧拉(Chris Olah)。
近幾個月來,良十四世的語氣愈發強硬,並因批評伊朗戰爭而惹怒美國總統川普(Donald Trump)。他在這份被稱為通諭的長篇文件中,向世界領袖提出一連串強烈呼籲。
這位首位美國籍教宗主張,AI資料所有權不應完全落入私人企業手中;政策制定者應保障勞工權益、保護兒童免受相關技術影響,同時也應為AI企業之間的競爭降溫。
良十四世在題為《偉大的人類》的文件中表示:「當一切都在加速時,我們需要更積極的政治介入,能夠讓事情慢下來。」他呼籲建立「強而有力的法律框架、獨立監督機制、具備充分知識的使用者,以及不逃避責任的政治體系」。
通諭是教宗向全球14億天主教徒發布教導時,層級最高的文件形式之一。這份備受矚目的文件全長近4萬3000字,自良十四世一年多前當選教宗後不久便開始籌備。
這份以AI為主題的文件,同時也譴責當前全球戰火四起,哀嘆多邊組織功能削弱,並警告軍火產業利益正成為推動衝突的重要力量。
良十四世在英文版文件中寫道:「過去60年來,世界充斥令人震驚的殘酷衝突,而且往往大規模波及平民人口。」他表示:「人類正滑向一種崇尚暴力與權力的文化。在這種文化裡,和平不再被視為必須承擔的責任,而只是戰爭之間脆弱的空檔。」
Anthropic共同創辦人奧拉在梵蒂岡活動中感謝良十四世願意正視這項顛覆性新技術帶來的問題。他表示,像Anthropic這類企業承受強烈商業壓力,因此需要外部監督。
奧拉說:「包括Anthropic在內的所有頂尖AI實驗室,都在一套誘因與限制機制下運作,這有時會與做正確的事產生衝突。」Anthropic正是Claude AI工具的開發公司。
良十四世在通諭中,也對「正義之戰」理論提出近代教宗最明確的否定之一。這項理論至少自5世紀以來,便被教會用來評估全球衝突。該理論大致主張,只有為了抵禦侵略才能發動戰爭。川普政府官員,包括身為天主教徒的副總統范斯(JD Vance),也曾引用此理論為伊朗戰爭辯護。
良十四世寫道:「『正義之戰』理論過去太常被用來合理化各種戰爭,如今已經過時。」他表示:「武力、暴力與武器的使用,反映的是人際關係的貧乏,而結果總是對平民造成災難性後果。」
良十四世也擔憂,部分領袖可能藉由戰爭轉移民眾對國內問題的注意力。他寫道:「我們不能排除,有些領袖可能把武裝衝突視為轉移國內問題注意力的有效方式,甚至是管理困境的犬儒工具。」
良十四世表示,任何將AI用於戰爭的行為,「都必須受到最嚴格的倫理限制」,並強調把生殺決定交給AI系統「不可接受」。
教宗在談及AI倫理前,也援引歷代教宗數百年來關於社會正義的教導。他特別提到前任良十三世(Leo XIII)1891年發布的著名通諭。當時工業革命期間,良十三世曾呼籲改善勞工薪資與工作條件。
良十四世譴責他所稱的「新型態奴役」,包括維護AI系統的人員,以及生產電腦、智慧型手機等AI裝置的工廠勞工。他寫道:「在世界某些地區,兒童與青少年被迫在危險環境中工作,粉碎開採稀土元素的材料。」良十四世表示:「這些人的身體佈滿傷痕、遭受損傷與耗損,只為了讓運算流程能持續不中斷。」他說:「這種現實,深深衝擊我們這個時代的道德良知。」
教宗也承認,天主教會直到19世紀才強烈譴責跨大西洋奴隸制度,並親自為此道歉。他寫道:「這構成基督教記憶中的一道傷口。對此,我以教會名義誠摯請求寬恕。」
良十四世在文件開頭表示,他希望向天主教徒以及所有懷抱善意的人發聲。他指出,社會必須面對AI發展方向以及全球治理走向等「關鍵問題」。
他引用《聖經》中「巴貝耳塔」(Tower of Babel)故事。故事描述人類因傲慢,試圖建造一座高塔直達天堂,最終觸怒上帝。良十四世表示,這則故事提醒世人,任何「試圖在沒有上帝祝福下直達天堂」的計劃都存在風險。
教宗寫道:「我以牧者與父親的心,懇求所有人停止建造另一座巴貝耳塔,並攜手為共同利益努力。」
良十四世也呼籲世界不要放棄處理AI系統潛在風險。他寫道:「人們可能逐漸受到誘惑,認為問題太龐大、而我們太渺小,因此自己的選擇無法帶來改變。」
良十四世表示:「當然,不是每個人都擁有同樣程度的影響力。然而,沒有人可以置身事外,我們都有各自可以努力的領域。」