- +1
史上最強AI?馬斯克20萬塊GPU燒出的是史上能耗最高大模型
20萬塊GPU“燒出”的Grok 3到底是不是地表最強AI?對此不乏爭議。但毋庸置疑的是,Grok 3絕對是有史以來能耗最高的大模型。訓練消耗的能源相當于一座小城市一年的用電量,或者4萬多輛燃油車一年的碳排放量。
Grok 3的誕生折射出其仍未擺脫以能耗換性能的傳統“規模擴展”模式。在全行業開源之風漸濃、越來越推崇性價比的當下,如何在優化模型效率與降低能耗之間達到平衡,是Grok 3亟需解決的挑戰。
2月18日,馬斯克在X平臺直播發布Grok 3模型并進行現場演示。其自己給出的PPT上寫著基準測試結果表明Grok 3在AIME'24數學能力測試、GPQA科學知識評估、LCB Oct - Feb編程能力測試等多項測試中擊敗了谷歌Gemini 2 Pro、DeepSeek V3、Anthropic的Claude 3.5 sonnet和OpenAI的GPT-4o。
在大模型競技場Chatbot Arena LLM排行榜上,代號巧克力的Grok 3早期版本登上榜一,成為有史以來第一個突破1400分的模型,各大模型無出其右。不過這一分數也只比DeepSeek R1高2.9%。PPT上柱狀圖之所以高低相差顯著,是因為圖片是從1300開始截圖,等于自帶“放大”效果。

Grok 3的1400分與其他大模型差距有限。之所以看起來“遙遙領先”,是因為柱狀圖的起始點為1300,自帶“放大”效果
事實上,直播也有多次“翻車”,比如馬斯克用Grok 3演示飛向火星代碼,輸出直接崩潰:兩次生成失敗。馬斯克只能與工作人員尬聊撐時間,讓后臺第三次生成才成功。
直播后,部分X用戶測試了最新的Beta版Grok 3,并提出了那個經典的用來刁難大模型的問題:“9.11與9.9哪個大?”號稱最聰明的Grok 3居然答錯了。
考慮到Grok 2發布時也是極其轟動,但此后使用效果卻不夠AI,這次Grok 3會不會重蹈“跑分沒輸過,實用沒贏過”,還是未知數。不過目前可以肯定的是,這款馬斯克口中“地球上最聰明的AI”靠的是算力堆疊,這背后的訓練成本極其龐大。
他在直播中首次透露,Grok 3的訓練量是Grok 2的10倍,基于人工智能初創公司xAI位于孟菲斯的超級計算機集群進行。該集群建造的第一階段,xAI在122天內建成了擁有10萬塊NVIDIA H100 GPU的超級計算集群,第二階段拓展到20萬塊GPU集群,僅耗時92天。
有人計算了xAI在孟菲斯GPU的成本,僅以10萬塊H100、每塊GPU費用30000美元計算,Grok 3的總硬件消耗就已超出30億美元。
相比之下,6710億參數的DeepSeek V3在配備2048塊算力受限的英偉達H800 GPU集群上訓練,整個訓練流程用時278.8萬個H800 GPU小時,總成本為557.6萬美元。在GPU用量、訓練用時、算力成本上,較同等性能的閉源模型大幅縮減。低成本比肩對標的閉源模型,DeepSeek的橫空出世令硅谷的“燒錢模式”遭到猛烈質疑。
有分析稱,Grok 3的算力消耗為DeepSeek V3的263倍,盡管前者在數學推理和編程能力上表現更優異,但這彰顯了兩者在資源使用上的極大差異。能耗方面,H100的典型功耗約為700瓦,以此計算,Grok 3使用的GPU總能耗相當于一個小城市的用電量。假設電力來源為混合能源(平均碳排放系數0.5千克二氧化碳/千瓦時),Grok 3訓練產生的碳排放大致相當于4萬多輛燃油車一年的碳排放量。
“Grok 3像20支AK綁在一起狂射,DeepSeek像在練定向狙擊,一個是土豪堆裝備的打法、一個是在算力有限的情況下壓縮能耗實現性能最大化,后者強調了人類在其中的作用和價值,是真正的AI精神和未來的方向。”有網友如是比喻道。
馬斯克與xAI團隊在Grok 3直播演示中稱,20萬塊GPU需要功率多達250MW的電力。“(面對電力缺口)我們最初租賃了一大堆發電機……又租用了美國四分之一的制冷能力……從來沒有人建造過如此大規模的液冷數據中心。”他們同時預告,xAI已在著手研究下一個更強大的算力集群,所需電力高達1.2GW。
不久之前,xAI的超級計算機集群在所在地再度引發環保爭議。究其本質,正是能耗巨獸Grok 3帶來的環境壓力。
據美國田納西州孟菲斯市當地媒體日前報道,xAI計劃在未來繼續使用燃氣輪機為其超級計算機供電。今年1月,xAI附屬公司CTC Property向田納西州謝爾比縣申請了15臺燃氣輪機的運營許可證,許可證將允許這些燃機從2025年6月至2030年6月持續運行。
這批燃氣輪機引發了環境方面的擔憂。xAI的設施位于前伊萊克斯工廠,據當地媒體援引許可證申請文件數據,該燃機每年受控和不受控有害空氣污染物(HAP)的排放量為11.51噸,超過美國環保署(EPA)對單一排放源HAP設置的每年10噸上限。在xAI設施周邊5英里范圍內居住的居民接近2.2萬人。
環保組織南方環境法中心(Southern Environmental Law Center)發言人稱,這些燃氣輪機自2024年夏季以來一直在運行,xAI在未向公眾發出通知,也未受到監管的情況下啟用燃機,使得孟菲斯本就很差的空氣質量更加糟糕。
xAI與當地環保群體之間的矛盾存在已久。去年8月,南方環境法中心向當地環保當局提出質疑,要求核實xAI是否在沒有空氣許可證的情況下使用燃氣輪機為其超級計算機供電。
管理當地電網的孟菲斯電力、煤氣和水務公司(MLGW)在1月份告訴市議會,燃氣輪機是暫時的,xAI的算力擴充計劃需要額外的150MW電力,MLGW仍在研究這對于當地電力系統的影響。





- 報料熱線: 021-962866
- 報料郵箱: news@thepaper.cn
互聯網新聞信息服務許可證:31120170006
增值電信業務經營許可證:滬B2-2017116
? 2014-2025 上海東方報業有限公司