輝達執行長黃仁勳。(法新社)
高佳菁/核稿編輯
〔財經頻道/綜合報導〕AI指標股輝達(NVIDIA)執行長黃仁勳接受外媒專訪時指出,輝達的AI晶片性能升級的的速度,快於摩爾定律設定的歷史速度。
黃仁勳週二(7日)上午在拉斯維加斯消費性電子展(CES)發表完演說後,接受外媒《TechCrunch》採訪時表示,輝達系統的進步速度比摩爾定律要快得多。摩爾定律在過去幾十年來,一直推動運算進步。
摩爾定律由英特爾(Intel)共同創辦人摩爾(Gordon Moore)於1965年提出,他在當時預測,積體電路上可容納的電晶體數量,每隔2年會增加1倍,進而使晶片的性能翻倍。這項預測基本上已實現,並在幾十年內,實現了能力的快速進步和成本的直線下降。
近年來,摩爾定律已經放緩,黃仁勳則稱,輝達的AI晶片正在加速發展。輝達表示,公司最新的資料中心超級晶片在運行AI推論工作負載的速度比上1代快30倍以上。
黃仁勳指出,輝達可以同時建立架構、晶片、系統和演算法,如果這麼做,那將可以比摩爾定律更前進的速度更快,因為可以在整個堆疊上進行創新。這也不是黃仁勳首次暗示輝達正在超越摩爾定律,在11月的播客(podcast)節目中,黃仁勳表示,AI世界正在朝「超級摩爾定律」邁進。
黃仁勳做出這項大膽聲明之際,許多人都在質疑AI的進步是否已經停滯。黃仁勳拒絕認同AI進步正在放緩的觀點,相反,黃仁勳稱現在有3種活躍的AI縮放法則,包括訓練前,AI模型從大量資料中學習模式的初始訓練階段;訓練後,使用真人回饋意見等方法微調AI模型的答案;測試時運算,發生在推論階段,並為AI模型在每個問題後提供更多時間「思考」。
黃仁勳表示,摩爾定律在歷史上非常重要,因為他降低了運算成本,同樣的事情也會出現在提升性能的推論中,因此,推論成本只會減少。
輝達的H100是尋求訓練AI模型科技公司的首選晶片,但現在企業更加關注推論,有些人也開始質疑輝達昂貴的晶片是否將保持領先地位。在週一(6日)發表演說時,黃仁勳在台上舉起輝達最新的資料中心晶片GB200 NVL72,這款晶片比暢銷的H100快30到40倍。
黃仁勳表示,性能大幅提升代表像OpenAI o3這樣在推論階段使用大量運算的AI模型,將隨著時間變得更加便宜。黃仁勳指出,自己專注於創造更高性能的晶片,從長遠來看,這將創造更低的價格。
去年,確實看到AI模型的價格暴跌,部份原因正是輝達等硬體公司在運算方面取得了突破,黃仁勳預估,AI推論模型將持續這種趨勢。更廣泛來說,黃仁勳認為,輝達現在的AI晶片比10年前製造的晶片要好1000倍,這筆摩爾定律的標準要快得多,黃仁勳也補充,自己認為沒有跡象表明這一趨勢很快將停止。
一手掌握經濟脈動 點我訂閱自由財經Youtube頻道
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法