MoneyDJ新聞 2023-11-14 08:01:54 記者 郭妍希 報導
輝達(Nvidia Corp.)揭露最新高階人工智慧(AI)繪圖處理器(GPU)「H200」(見圖)、產出速度幾乎是前一代H100的兩倍快,股價逼近歷史最高峰。
MarketWatch、CNBC等外電報導,輝達13日發布新聞稿宣布,H200搭配14GB的次世代「HBM3e」記憶體,能協助執行「推論」(inference)功能。所謂推論,是指運用訓練過的大型語言模型(LLM)生成文字、影像或預測。
輝達指出,以臉書(Facebook)母公司Meta Platforms, Inc.的開源軟體AI模型「Llama 2」測試後,發現H200協助推論的速度幾乎是H100兩倍快。另外,H200將與H100相容,意味著已開始運用H100訓練先前AI模型的業者,不需要變更伺服器系統或軟體規格,就可直接使用H200。
輝達並表示,明(2024)年起,亞馬遜網路服務(Amazon Web Services)、Google Cloud、Microsoft Azure及Oracle Cloud Infrastructure將是第一批佈署H200的雲端服務提供商,CoreWeave、Lambda及Vultr也會加入。
H100、H200都是基於輝達Hopper架構。根據輝達10月聲明,由於GPU需求高漲,未來將從兩年更新一次架構的形式改為一年一次。輝達並展示一張簡報,暗示2024年將發表基於Blackwell架構的B100。
H200預定2024年第二季開始出貨,競爭對手是超微(AMD)的MI300X GPU。MI300X同樣添加額外記憶體,可協助大型AI模型執行推論功能。
輝達13日股價應聲上漲0.59%、收486.20美元,已連續第9個交易日走揚,逼近8月31日的歷史收盤新高(493.55美元)。Dow Jones Market Data數據顯示,這是輝達自2016年12月27日連漲10個交易日以來,最為綿長的漲勢。
(圖片來源:輝達)
*編者按:本文僅供參考之用,並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦,讀者務請運用個人獨立思考能力,自行作出投資決定,如因相關建議招致損失,概與《精實財經媒體》、編者及作者無涉。