MoneyDJ新聞 2023-11-10 11:51:45 記者 王怡茹 報導
第三屆成電論壇於今(10)日上午登場,本次主題聚焦最熱門的科技新趨勢「生成式AI」。記憶體廠華邦電子(2344)總經理陳沛銘(如圖)以「Memory for AI」主題發表演講。他認為,在AI及生成式AI的浪潮下,記憶體扮演了關鍵性的角色,AI需求對產業發展影響也越見顯著且不可忽視。
AI模型中,特別是大型的語言模型(如: ChatGPT),需要大量的記憶體來處理龐大的參數作訓練,傳統記憶體技術已顯現瓶頸。為了滿足AI模型的龐大需求,記憶體必須進一步革新的趨勢。
伴隨著AI技術的普及,Edge AI的應用也逐漸蓬勃發展。而記憶體需配合其應用特性架構開發特殊的創新技術,例如:發展高效能、高頻寬、低延遲、低耗電的記憶體,以及利用3D堆疊技術增加記憶體容量及頻寬等技術創新,也是未來關注的重點。
陳沛銘在論壇上介紹華邦電的客製化超高頻寬元件CUBE架構,主要搶攻邊緣AI市場。CUBE增強了前端3D結構的性能,例如chip-on-wafer(CoW)和wafer-on-wafer(WoW),以及後端2.5D/3D chip on Si-interposer的基板和扇出(Fan out)解決方案,能利用 3D 堆疊技術並結合異質整合技術以提供高頻寬低功耗的單顆256Mb 至 8Gb記憶體。
事實上,AI模組內的參數已高達10兆個,需要大量的算力、記憶體、高頻寬。陳沛銘認為。就在大家都在致力於提高算力的同時,勢必會產生中間的需求,公司在這之中找到供貨空間,在不需要那麼高運算力的邊綠AI,就適用CUBE,目前也獲得客戶正面回響。
同時,陳沛銘也看好在AI驅動未來DRAM市場蓬勃發展。他引用Omdia研調資料指出,2017年-2022年間DRAM市場主要由資料中心、智慧型手機所驅動,儘管2023年市場規模較去年萎縮,但看好在AI應用帶動下,DRAM將供不應求,未來3-4年內產值有望翻倍成長。