巴克萊表示,在LLM計算需求遠超預期下,AI晶片支出浪潮尚未見頂。 (資料照)
高佳菁/核稿編輯
〔財經頻道/綜合報導〕人工智慧(AI)晶片支出浪潮尚未見頂,巴克萊表示,基於實現預計產能、AI加速器雙管齊下,和推理市場需求強勁等3大關鍵,對大型語言模型(LLM)計算需求,AI晶片支出必須增加,才能滿足模型開發商的最低預期。
外媒報導,巴克萊分析師湯姆·奧馬利(Tom O'Malley)表示,自輝達8月底發佈業績以來,AI晶片股的拋售已經在整個人工智慧生態系統中引起了反響,人們越來越質疑AI晶片支出浪潮「是否正在接近頂峯」,不過,這種觀點沒有適當地考慮到未來的計算需求。
O'Malley指出,至少有9個獨立的組織開發尖端的、參數數量龐大的大型語言模型(LLM),由於投資回報、資金、訓練數據限制、路線圖問題等多種原因,這些公司中的大多數都無法保證會繼續推進模型開發的下一輪迭代(疊代(英語:iteration),一作迭代,是重複回饋過程的活動,其目的通常是為了接近並且到達所需的目標或結果。每一次對過程的重複被稱為一次「疊代」,而每一次疊代得到的結果會被用來作為下一次疊代的初始值)。
不過,僅僅幾次模型迭代就需要令人難以置信的大量計算,這一需求遠遠超過了行業目前的預期,O'Malley認為以下3個因素是AI晶片股上漲的關鍵。
首先,需要逐步實現預計的產能。O'Malley估計,到2027年,僅為3個參數約為50T的前沿模型提供動力所需的計算資源,就需要近2000萬塊晶片進行訓練。需求量大的1個主要原因是,新模型計算需求的增長速度預計將遠高於目前的預期。
其次,商家和消費者有辦法實現雙贏。O'Malley認為,在人工智慧加速器方面,應該採取雙管齊下的方法,輝達和超微(AMD)的商業解決方案更適合於訓練和推理前沿模型,而超大規模定製晶片將用於數據中心內更專業的工作負載。
最後則是推理市場需求強勁。O'Malley表示,輝達最近聲稱其約40%的晶片用於推理,再加上其他加速器提供商重新關注推理市場,為這個新興市場的發展提供了支撐。
他進一步指出,推理將成為目前正在開發的前沿模型貨幣化的主要管道,而投入更多資源以降低推理成本,將有助於提高開發模型的投資回報率。