華碩台智雲首發繁體中文強化版大語言模型
MoneyDJ新聞 2023-09-27 07:40:49 記者 新聞中心 報導  華碩(2357)旗下台智雲繼5月於台灣AI超算年會基於開源大語言模型BLOOM推出「福爾摩沙大模型」(FFM-176B及FFM-7B)後，此次更全球首發「繁體中文強化版FFM-Llama 2大語言模型」，包含70B、13B及7B全系列，支援Code Llama程式開發與Embedding增強語意搜尋模型，提供雲端、地端及AI PC等多樣態大語言模型及完整AFS(AI Foundry Service)服務，加速企業AI 2.0落地應用。
華碩雲端暨台智雲總經理吳漢章(見附圖)表示，過去30年台灣ICT產業基於開放架構，一躍成為全球數位創新重要夥伴，在晶片、半導體、系統與資訊服務產業百花齊放。台智雲以開放模式提供可信賴大語言模型，累積AI超算功能及完整AI工具平台，降低企業進入門檻，加速AI 2.0應用；期待能與合作夥伴延續台灣產業優勢，實現普惠AI、發展以人為本的智慧科技。
台智雲FFM-Llama 2以最新大語言模型Meta Llama 2為基礎，藉由AIHPC超級電腦算力、高效平行運算環境與大語言模型切割技術，訓練大量台灣在地語料，大幅提升FFM-Llama 2繁體中文能力；全系列模型可進行微調、部署與推論，企業用戶亦能以自訂系統提示詞，讓AI模型思考更在地、更精準回應企業需求。
台智雲表示，AFS推出全參數及高效率模型微調（Parameter-Efficient Fine-Tuning；PEFT）功能，在GPTQ 4-bit高性能壓縮技術優化下，提供經濟實惠的雲端或地端模型推論方案；「福爾摩沙大模型」發布至今，已服務超過70個大型企業，電信業者台灣大(3045)便將智能客服導入生成式AI應用，未來可望擴展至集團不同產業面以精進客服效率。
華碩進一步指出，利用台智雲「AIHPC超級電腦服務」、「CCS（Container Compute Service）容器運算服務內建生成式AI映像檔」、「AFS（AI Foundry Service）企業級生成式AI解決方案」及「OneAI機器學習MLOps nocode AI平台」4大生成式AI算力平台，全方位滿足產業對生成式AI可信賴、可掌控、資料安全及地端部署需求。
(圖片來源：華碩)
|
|
|
|
