MoneyDJ新聞 2025-01-07 08:20:20 記者 郭妍希 報導
全球首富、知名創業家馬斯克(Elon Musk、見圖)確認，xAI的次世代大型語言模型(LLM)「Grok 3」即將問世。
馬斯克6日在社交平台X表示，Grok 3已完成預訓練(Pretraining)、即將發布，其算力比Grok 2高10倍以上。
馬斯克2024年9月曾透露，集結100,000顆輝達(Nvidia Corp.)「H100」繪圖處理器(GPU)的「Colossus」訓練叢集已正式上線。他當時說，Colossus是全世界最強大的AI訓練系統，規模還將在接下來幾個月內倍增至200,000顆(當中包括50,000顆「H200」)。
Tom`s Hardware 6日報導，從時間和脈絡來看，這確認xAI打造Colossus超級電腦是為了加速推進大規模AI專案。馬斯克提到Grok 3算力「比Grok 2高10倍以上」，進一步證明Grok 3運用Colossus這個龐大運算建設進行預訓練。Grok 3使用X用戶產生的資料。
值得注意的是，xAI計畫在一段時間後部署一款由超過100萬顆GPU支援的超級電腦。這個版本的Colossus將被用來訓練涵蓋數兆參數的大型語言模型(LLM)，屆時將遠比Grok 3或GPT-4o準確。除了數量更大的參數外，新模型也許會具備更先進的推論能力，進一步朝通用人工智慧(artificial general intelligence、簡稱AGI，指等同或超越人類的AI)靠攏。
科技顧問機構Omdia先前曾估計，微軟(Microsoft Corp.)是輝達2024年最大客戶，買下485,000顆「Hopper」架構GPU，遠高於輝達第二大美國客戶Meta購買的224,000顆。
Omdia並估算，亞馬遜(Amazon.com)、Google 2024年分別向輝達購買196,000顆、169,000顆Hopper晶片。全球前十大資料中心基礎建設買家(當中包括新進者xAI、CoreWeave)將佔據全球算力投資總額的60%。
(圖片來源：shutterstock)
＊編者按：本文僅供參考之用，並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力，自行作出投資決定，如因相關建議招致損失，概與《精實財經媒體》、編者及作者無涉。
