晴時多雲

推進AI轉型 研調:企業導入LLM以雲端代管為首選

2023/08/28 10:51

DIGITIMES研究中心分析師黃耀漢表示,生成式AI軟體開發的關鍵在於大型語言模型。(路透)

〔記者歐宇祥/台北報導〕國際、台灣企業紛紛投入企業AI應用研發,也帶動雲端服務需求。DIGITIMES研究中心分析師黃耀漢表示,生成式AI軟體開發的關鍵在於大型語言模型(Large Language Model,LLM),微軟、AWS等指標業者紛紛推出LLM,考量成本與資安因素,企業初期是以雲端代管制為首選。

前Google臺灣董事總經理、Appier暨iKala獨立董事簡立峰日前也說,台灣企業若要自建LLM,首要問題在於沒有人才,要追求加速AI轉型,必須導入國際科技巨頭的LLM。而國科會打造的台版AI模型需花上3年左右,不過在掌握中文話語權、培育人才面也須持續推進。

AI讓雲端需求同步成長,台灣的雲端服務廠商如宏碁資訊(6811)、伊雲谷(6689)被市場看好能從中得利。不過伊雲谷日前也說,生成式AI確實帶動雲端服務、上雲需求,不過不會在下半年就迅速爆發,而是會長線發展,伊雲谷也將加強耕耘企業級客戶、而非中小型或新創企業,以追求更大獲利。

DIGITIMES研究中心分析,生成式AI也隱藏許多資安問題,目前邊緣模式為降低資安風險最佳方案,但投資成本相對雲端模式高。邊緣端模式因封閉網路架構的資安等級高,但資安系統需用戶自行建立與維護,成本相對雲端高;而雲端模式因開放網路架構,資安等級較邊緣端方案低,但資安系統由雲端平台業者負責建立與維護,用戶擔負資安的成本較邊緣端低。

黃耀漢表示,雲端LLM存在高運算力需求、高硬體成本、高延遲與低資安的問題,不過由雲端轉移至邊緣端有望克服相關問題,因邊緣小型語言模型具備低延遲與高資安優勢,因此,Meta、微軟、Hugging Face分別推出小參數量語言模型,有利於邊緣裝置上運作推論程序。

黃耀漢指出,根據美國生成式AI平台Writer問卷調查顯示,今年前4月20%美國企業曾使用5種以上的生成式AI軟體,前5名使用軟體皆為生成文字類,主要應用於資訊系統、營運管理等領域。美國指標業者紛推出LLM,以商業模式區分,微軟、Google為B2B(企業對企業)與B2C(企業對消費者),Amazon Web Services (AWS)為B2B。

一手掌握經濟脈動 點我訂閱自由財經Youtube頻道

不用抽 不用搶 現在用APP看新聞 保證天天中獎  點我下載APP  按我看活動辦法

已經加好友了,謝謝
歡迎加入【自由財經】
按個讚 心情好
已經按讚了,謝謝。

相關新聞

今日熱門新聞
看更多!請加入自由財經粉絲團
網友回應
載入中