群聯aiDAPTIV+再升級，助首款AI筆電支援LLMOps

MoneyDJ新聞 2025-03-19 14:49:14 記者 周佩宇 報導

NAND控制晶片廠商群聯(8299))今日宣布，其邊緣AI訓練與推論解決方案aiDAPTIV+再度升級，提供更多擴充能力。aiDAPTIV+將整合至Maingear的ML列筆電，這款AI筆電將成為全球首款支援LLMOps (Large Language Model Operations; 大型語言模型運作業) 的消費級筆電，讓用戶可使用自身企業或個人資料來微調最多80億參數的大型語言模型(LLM)，使預訓練的AI模型能依據邊緣應用場景與使用者需求進行客製化，以達到真正的AI落地普及化。此款搭載NVIDIA GPU的AI筆電本週將於NVIDIA GTC 2025展示概念機並開放登記購買。此外，群聯也將aiDAPTIV+擴展至支援NVIDIA Jetson平台的邊緣運算設備，強化在邊緣端的生成式AI推論與機器人應用。

隨著此次升級，aiDAPTIV+用戶將迎來全新的aiDAPTIVLink 3.0中介軟體，提供更快的首次回應時間，並延長Token長度，以提升推論效能與準確性。此擴展將進一步開啟更多應用機會，無論是大學生或AI產業專業人士學習LLM訓練，或是研究人員透過PC深入解析自身資料，甚至是製造工程師透過邊緣運算設備自動化工廠生產流程，皆能受益於aiDAPTIV+此次的功能升級。

AI與邊緣運算應用場景日益增多，市場 AI開發人才的需求持續攀升。開發者需要親身操作LLM訓練解決方案，以建立未來AI應用所需要的AI軟體或是專屬邊緣AI模型，而政府機構、研究機構、醫療與工業組織等高度受監管之產業，則需要邊緣、安全的地端AI設備來進行私有資料的AI模型微調訓練 (Post-training/Fine-tuning)。此外，市場對LLM推論速度與準確度的要求不斷提升，企業更希望在可預測的成本下，獲得最佳解決方案。aiDAPTIV+以經濟實惠的GPU記憶體擴充能力，讓用戶可在邊緣封閉式安全網路內微調訓練LLM，並透過直覺化軟體介面與AI型互動，獲取所需的AI生成關鍵資訊。

Maingear執行長Wallace Santos表示，延續2024年GTC展出的aiDAPTIV+ AI訓練工作站熱潮，Maingear與群聯深化合作，推出概念性AI筆電，讓強大的邊緣AI推論與裝置端模型訓練無處不在。這項技術突破，將邊緣AI能力帶入輕便的行動平台，為企業、教育機構與學生提供經濟高效的AI開發工具，無需倚賴傳統數據中心基礎設施。