【AI耗電怎解】黃仁勳缺電惡夢成真 內科停電波及輝達

內湖科學園區18日上午停電,影響655戶,輝達執行長黃仁勳的台灣分公司就在內科。圖/取自內科發展協會
內湖科學園區18日上午停電,影響655戶,輝達執行長黃仁勳的台灣分公司就在內科。圖/取自內科發展協會

核三廠1號機7月底除役,18日開始逐步降載,過了7月底,台電馬上就少了95萬瓩、約3.1%的基載電力。巧合的是,台北內科18日上午驚傳停電,而日前來台受訪大談加碼投資台灣的「AI教父」輝達執行長黃仁勳,其分公司就在內科。看來,台灣的電力問題果真如黃仁勳離台前直言:「確實是一個讓人擔憂的問題。」

18日上午11點18分內湖科技園區停電,影響655戶,台電搶修至12點26分才全數復電,經濟部長郭智輝回應,是因妥善率不佳造成的跳電,與缺電沒有關係。

不過尷尬的是,日前來台造成旋風的「AI教父」黃仁勳,其分公司就在內科,而黃仁勳離台時才指出台灣電力堪虞。近日舉行的多個國際會議上,一些科技巨頭紛紛表達了對AI高耗能問題的擔憂,包括AI耗電遠大於資料中心、AI發展將讓現有電網崩潰、AI科技公司要自備核電站等等;甚至特斯拉首席執行長馬斯克4月也指出,1年多前,他預警AI晶片將短缺,但目前已經沒有這個問題,下一個短缺的將是電力,「我認為明年將沒有足夠的電力來運行所有的AI晶片。」

AI有多耗電?專家指出,AI就是一場「算力」的軍備競賽,而所謂算力可以理解為處理資料或資訊的處理能力。在資料中心或智算中心,成千上萬台伺服器和晶片整齊列陣、晝夜不停地運轉。以黃仁勳公司訓練AI大模型使用的主流算力晶片H100而言,一張最大功耗是700瓦,意味著運行1小時就要耗電0.7度。而此前有消息指出,OpenAI訓練GPT-5,需要數萬張H100晶片。而2020年發布的GPT-3訓練過程約使用128.7萬度的電力,相當於美國約121個家庭1整年的用電量,或是3000輛特斯拉電動汽車同時開跑20萬英里。GPT層級愈高,訓練階段的能源消耗也會大幅增加。

除了AI的模型訓練,人們也將更頻繁地使用AI查詢,波士頓諮詢集團曾發布報告指出,到2030年底,僅美國資料中心的用電量預計就將是2022年的3倍。未來AI的耗電問題可能會愈來愈顯著,電費可能愈來愈貴;難怪有網友戲稱,先不用擔心AI將搶走人們的工作,「只要電費貴過饅頭,AI就永遠不能完全代替人。」

AI發展和高耗電只能二選一嗎?事實上目前已經有一系列的解決思路。一種想法是優化AI模型,或是提升晶片效率和演算法效率、提升資料中心軟硬體技術等,都有助於減少AI耗電;另一種就是增加供電,包括更積極尋找可再生能源和核能在內的低碳能源。

延伸閱讀

熱門文章

分享