數發部展示去年申請AI算力池的成果。(記者徐子苓攝)
〔記者徐子苓/台北報導〕高昂的算力成本,成為新創和中小企業發展AI的一大挑戰,數位發展部去年起透過AI算力池開放業者免費申請算力,原本今年要增購GPU擴大規模,但因預算被刪減而受限,幸而在國網中心協助下,今年仍擴大申請,預計可提供150家次的業者使用。
數發部昨舉行AI算力池記者會,包含數發部長黃彥男、政務次長林宜敬和評審、業者代表都出席,展示去年申請AI算力池的成果。
黃彥男表示,數發部透過算力、資料、人才、行銷與資金5大工具,建構台灣AI生態系,因為算力非常昂貴,對新創、中小企業而言,如果初期要投資算力做概念性驗證(PoC),必須花費高額成本來建置算力,因此數發部去年開始AI算力池計畫,協助業者可以快速驗證創新概念。
黃彥男指出,數發部今年因預算被刪減,無法順利擴充算力池,但很感謝國網中心支持,今年下半年提供輝達H100晶片約80片算力,盡力滿足產業需求。數發部也會持續爭取預算,希望明、後年可以擴充算力,增購70片以上,但最後還是要看預算審查而定。
數發部數產署副署長陳慧敏說明,去年共97家申請AI算力池,最終64家通過、產生88個模型;今年共91家申請,54家通過、產生至少54個模型。通過的家數減少,是因為數產署調整模式,提供更多GPU給更大的模型。
陳慧敏說,下一步將擴大申請,讓更多產業受惠,接下來還會有第二、第三梯次開放申請,今年預計提供16.3萬GPU小時、提供每一家次約當150萬台幣的算力價值,開放最少150家次的業者申請。
申請過AI算力池的坤侑科技分享,他們將AI模型應用在鐵道運輸上,透過AI偵測鐵道義務、進行告警,但過去在訓練模型時,算力一直是很大的挑戰,好不容易取得資料,卻發現訓練時間非常長,申請算力池後對公司提供很大幫助,過去需要一天的時間來訓練,現在只需要不到半天,有助於PoC或任何場合的驗證。
一手掌握經濟脈動 點我訂閱自由財經Youtube頻道
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法