MoneyDJ新聞 2024-04-10 07:53:08 記者 郭妍希 報導
英特爾(Intel Corp.)發表最新AI晶片「Gaudi 3」有關細節,直接槓上輝達(Nvidia Corp.)的H100繪圖處理器(GPU),並委託台積電(2330)以5奈米製程代工。
MarketWatch、Wccftech、Tom`s Hardware等外電報導,英特爾9日透過新聞稿指出,與H100相比,Gaudi 3支援AI模型執行推論的能源效率提升40%、平均效能高50%,「成本卻遠低」。英特爾使用的推論對比AI模型是具備70億及700億個參數的Llama模型,和具有1,800億個參數的Falcon-180B模型。
Gaudi 3採用的製程是台積電5奈米。相較之下,上一代Gaudi 2則是使用台積電7奈米。
Gaudi 3將在2024年第二季供應給戴爾(Dell Technologies)、慧與科技(Hewlett Packard Enterprise)、聯想集團(Lenovo)與美超微電腦(Supermicro)等OEM。Gaudi的氣冷式伺服器模型已經送樣,水冷式模型則會在Q2跟進提出樣本。這些將在2024年Q3、Q4大量生產。
另外,Intel Gaudi加速器的最新客戶及合作夥伴包括Bharti Airtel、Bosch、CtrlS、IBM、IFF、Landing AI、Ola、NAVER、NielsenIQ、Roboflow及Seekr。
英特爾9日聞訊上漲0.92%、收38.33美元;年初迄今重挫23.72%。台積電ADR同步上揚1.83%、收145.40美元,創3月8日以來收盤新高;年初迄今大漲39.81%。
英特爾執行長Pat Gelsinger曾在2023年12月14日發布最新AI晶片「Gaudi 3」當日,直言輝達平行運算平台及編程模型「CUDA」無法永遠獨霸AI訓練市場。
他當時說,對AI而言,推論技術比訓練還重要。「整個產業開始全面動員,希望消滅CUDA市場。」「我們認為CUDA護城河既淺又小(shallow and small),因為整個產業已經動員起來,準備開發廣泛的訓練、創新及資料科學等各項科技。」
(圖片來源:英特爾)
*編者按:本文僅供參考之用,並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦,讀者務請運用個人獨立思考能力,自行作出投資決定,如因相關建議招致損失,概與《精實財經媒體》、編者及作者無涉。