晴時多雲

AI熱使輝達GPU大缺貨 猶如「疫情期缺衛生紙」

2023/05/30 07:20

AI狂潮輝達GPU嚴重短缺,伺服器製造商說,須等半年以上才到貨。(歐新社資料照)

〔編譯魏國金/台北報導〕用於人工智慧(AI)的圖形處理器(GPU)幾乎全由輝達生產,然而隨著生成式AI的爆炸性成功,輝達GPU的供應遠不及需求,一些伺服器製造商表示,須苦等逾半年才能取得輝達最新款的GPU。協助企業打造AI模型的新創公司Lamini執行長Sharon Zhou說,該短缺景象象猶如「疫情期間的衛生紙」。

華爾街日報報導,該短缺局面已限制亞馬遜與微軟等雲端服務供應商可以提供客戶,比如打造出ChatGPT的OpenAI之處理能力。AI開發商需要伺服器容量來發展與運作其日益複雜的模型,並協助其他企業建造AI服務。

報導說,即使是全球最相關的科技企業家也正苦於確保該容量。本月16日一場有關AI的美國國會聽證會上,OpenAI執行長奧特曼(Sam Altman)說,由於處理器瓶頸,如果較少人用ChatGPT將更好。

正打造其OpenAI對手「X.AI」的特斯拉執行長馬斯克,23日在華爾街日報執行長高峰會上也說,「此刻GPU遠比藥物更難取得」。

獲取數萬顆先進圖形晶片對於企業訓練可生成原始文件與分析的大型AI模型,至關重要。沒有這些晶片,AI運作背後的大型語言模型運行起來將緩慢許多。輝達的先進圖形晶片擅於同時進行許多運算,對AI的運作十分重要。

瑞銀集團(UBS)分析師估計,較早版本的ChatGPT需要約1萬顆圖形晶片。馬斯克推估,升級版則需要3到5倍的輝達先進處理器。

輝達近期表示,正擴大供應,以滿足節節上升的需求,不過許多AI公司創辦人預期晶片短缺將至少持續至明年。對輝達產品的需求,推升該公司股價約167%。晶片價格不一,但一些零售商以約3.3萬美元高價出售輝達先進AI晶片。

報導說,一些公司正封鎖雲端容量,因擔心之後無法取得輝達晶片。Arthur執行長溫徹爾(Adam Wenchel)說,「人們現在只是繼續花錢搶購,即使不需要這些晶片亦然」。該公司打造工具,保護企業免於數據外洩等AI風險。

業者與投資人說,那些能夠確保運算力的公司仍須等候數週才能使用輝達晶片。Perplexity AI執行長斯里尼瓦斯(Aravind Srinivas)說,「即使你已經預付金額,但不意味GPU隔天或下週就到貨;你只有等待」,該公司打造AI驅動的對話式搜尋引擎。

一手掌握經濟脈動 點我訂閱自由財經Youtube頻道

不用抽 不用搶 現在用APP看新聞 保證天天中獎  點我下載APP  按我看活動辦法

已經加好友了,謝謝
歡迎加入【自由財經】
按個讚 心情好
已經按讚了,謝謝。

相關新聞

今日熱門新聞
看更多!請加入自由財經粉絲團
網友回應
載入中