晴時多雲

更上層樓!輝達公佈最新高階GPU「H200」 運算兩倍速H100

2023/11/14 06:13

輝達13日公佈最新高階GPU 「H200」。圖為輝達創辦人黃仁勳。(法新社資料照)

首次上稿 11/13 23:33
更新時間 11/14 06:13

〔編譯魏國金/台北報導〕輝達(Nvidia)13日公布最新高階圖形處理器(GPU)H200。該款GPU旨在訓練並部署在各類驅動生成式AI熱潮的AI模型上。CNBC報導,H200包含141GB的新一代「HBM3」記憶體,以協助其運用AI模型生成文本、圖像或預測,其運算是H100的近兩倍速。

報導說,輝達該新款GPU是H100升級版,OpenAI公司使用H100晶片訓練其最先進的大型語言模型(LLM)GPT-4。大公司、新創公司與政府單位都在搶奪供應有限的H100晶片。

金融服務公司「雷蒙.詹姆斯」(Raymond James)估計,H100晶片費用在2.5萬至4萬美元之間,數千個該晶片必須一起運作,才能在所謂「訓練」的過程中創造出最大模型。

輝達AI GPU的搶手推升公司股價,今年以來,輝達股價已大漲230%,輝達預期本季營收將年漲170%至160億美元。

報導說,H200的關鍵改良包含具有141GB的下一代「HBM3」記憶體,以協助H200執行推論(inference)或利用大型模型生產文本、圖像與預測。

輝達指出,依據使用Meta的Llama大型語言模型的測試,H200運算是H100近兩倍速。H200將可與超微(AMD)的MI300X GPU匹敵。預計H200將於明年第2季出貨。

輝達說,H200與H100相容,這意味已使用H100訓練語言模型的AI公司無須改變伺服器系統或軟體,就可使用H200。

一手掌握經濟脈動 點我訂閱自由財經Youtube頻道

不用抽 不用搶 現在用APP看新聞 保證天天中獎  點我下載APP  按我看活動辦法

已經加好友了,謝謝
歡迎加入【自由財經】
按個讚 心情好
已經按讚了,謝謝。

相關新聞

今日熱門新聞
看更多!請加入自由財經粉絲團
網友回應
載入中