超微AI晶片快追上輝達 MI250效率約A100近8成

MoneyDJ新聞 2023-07-03 09:19:29 記者 郭妍希 報導

路透社、Forbes報導，剛獲DataBricks以13億美元收購的MosaicML 30日發布評測顯示，運用超微「MI250」GPU訓練大型語言模型(LLMs)的速率，約輝達「A100」GPU的接近80%，主要是拜超微去(2022)年底新釋出的軟體及Meta Platforms今年3月發布的新版開源軟體「PyTorch」之賜。

MosaicML科技長Hanlin Tang指出，超微正在開發的軟體更新，應該能讓MI250運算效能媲美A100。他說，MosaicML運用旗下工具、PyTorch及超微軟體直接訓練LLMs，完全不需修改編碼基礎。若開發商能以合適價格找到需要的超微晶片，現在就可直接替換掉輝達晶片，兩者基本上是可以互相取代的。

MosaicML販售的軟體讓企業可在內部資料中心直接打造AI系統，不再需要向ChatGPT開發商OpenAI等業者付費取得相關服務。

相較之下，輝達最先進的「H100」Tensor核心GPU最近經開放工程聯盟(MLCommons)評測後，跑出史上最佳紀錄。

許多通路網站顯示，輝達定價高昂的高階晶片仍舊處於缺貨狀態。根據信息技術產品和服務供應商CDW網站，H100報價高達30,602.99美元、須等待長達4~6週才能到貨。

超微6月召開眾所矚目的晶片大會，聲稱最新MI300X加速器配備192GB記憶體，預定第四季擴產。超微執行長蘇姿丰(Lisa Su、見圖)6月13日在舊金山大會上指出，MI300X的記憶體比競爭對手輝達任何晶片都還多，將在第三季送樣、接近年底時擴產。她並揭露一款內建8顆MI300X的電腦、與輝達類似產品一較高下。

(圖片來源：蘇姿丰推特)

＊編者按：本文僅供參考之用，並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力，自行作出投資決定，如因相關建議招致損失，概與《精實財經媒體》、編者及作者無涉。