創鑫智慧(Neuchips)聯手高登智慧(GSH)與超恩(Vecow),推出企業級一站式生成式AI方案,讓自然對話秒轉SQL,實現數據庫查詢零門檻。(創鑫智慧提供)
〔記者卓怡君/台北報導〕因應工業AI在地端部署的強勁需求,創鑫智慧(Neuchips)今日宣布,旗下Viper系列AI加速卡將與超恩(Vecow)ECX-3100 RAG超強固工作站結合,並透過高登智慧(GSH)的ShareGuru SLM解決方案,提供高能效、低耗電的軟硬整合式方案,以滿足邊緣端蓬勃發展的生成式AI應用需求。
創鑫智慧執行長劉景慈表示,在德國2025年嵌入式世界展覽會(Embedded World)的超恩展位,將可看到Viper AI加速卡的獨特功能,包括在平均僅45W功耗下支持120億參數模型,在高登智慧ShareGuru SLM解決方案基礎下,輔以創鑫智慧與超恩工業邊緣AI計算系統的協助,將可提供安全且高效的AI處理,以滿足現代工業環境資安相關要求。此一完整解決方案能為企業主管提供即時的業務洞察,協助以更低的營運成本做出更快速的決策。
專注於大語言模型(LLM)和生成式AI晶片設計的創鑫智慧,與超恩所合作開發的高能效解決方案,將分別整合雙方Viper系列LLM加速卡與邊緣AI運算系統,其中創鑫智慧提供的是企業級離線AI解決方案,搭載Raptor N3000 LLM加速晶片,這一戰略合作可望帶給企業高精準度且可信賴的解決方案, 以加速生成式AI發展和雙贏的企業部署。
超恩執行副總黃聖凱表示,隨著生成式AI 應用的發表,市場上對Gen AI的需求正快速增長,超恩與創鑫智慧合作開發以RAG為主的先進Gen AI專用軟硬體整合解決方案,讓企業使用者在無需額外進行訓練即能以自然語言利用Gen AI技術提取企業資料庫/商業智能(BI)中最新分析,從而提供更關鍵和高品質如圖表化的結果,加快企業用戶決策過程。相較於傳統以雲端為基礎的GPU解決方案,更具成本效益、紮實的推論性能且低功耗的GenAI工作站的用戶來說,這才是至關重要。
高登智慧技術長林志哲表示,高登智慧先進的自然語言處理解決方案,與Viper原生BF16結構化語言模型支持之間的協同,使用原生模型,不需特別壓縮處理,提供高精度的資料庫轉換生成結果,為尋求實施AI驅動數據庫分析的組織創建出強大解決方案,同時保持數據安全並降低運營成本,而這種軟硬體間的整合,展示功率效率、處理能力和安全性之間的完美平衡,特別適合需要本地處理和能源效率的工業和企業應用,可以滿足工業AI在地端部署強勁需求。
一手掌握經濟脈動 點我訂閱自由財經Youtube頻道
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法