晴時多雲

亞馬遜AWS和輝達擴大合作 降低大語言模型成本與時間

2024/03/21 15:22

AWS執行長賽利普斯基(左起)與輝達執行長黃仁勳宣布擴大策略合作。(業者提供)

〔記者徐子苓/台北報導〕輝達(NVIDIA)日前在「GTC大會」上發表全球最強AI晶片Blackwell,亞馬遜AWS和輝達共同宣布,AWS將支援Blackwell GPU平台,將提供NVIDIA GB200 Grace Blackwell Superchip超級晶片和B100 Tensor Core GPU,並延續雙方長期的策略合作夥伴關係,目的是為客戶提供安全、先進的基礎設施、軟體和服務。

輝達執行長黃仁勳當時就在發表會上提到,亞馬遜雲AWS、Google雲、微軟雲Azure和甲骨文雲基礎設施Oracle Cloud Infrastructure,將成為首批提供Blackwell支援執行個體的雲端服務供應商,

NVIDIA與AWS將持續提供各自的領先技術,包括具備NVIDIA最新多節點系統的下一代NVIDIA Blackwell平台和AI軟體,以及AWS的Nitro系統、具備領先安全性的AWS Key Management Service(AWS KMS)金鑰管理服務、千萬億位元級的Elastic Fabric Adapter(EFA)網路和Amazon EC2 UltraCluster超大規模叢集等技術。

AWS指出,基於上述技術打造的基礎設施和工具,客戶能夠在Amazon EC2上以更快速度、更大規模、更低成本地對其建構和執行數萬億參數的大型語言模型(LLMs)進行即時推論,效能相較於配備前一代NVIDIA GPU的EC2執行個體有顯著改進。

AWS執行長賽利普斯基(Adam Selipsky)表示,輝達和AWS雙方的深入合作可以追溯到13年前,當時共同推出了世界上第一個AWS上的GPU雲端執行個體,而今天雙方為客戶提供了最廣泛的NVIDIA GPU解決方案,能夠使客戶更快、更大規模且更安全地建構和執行具有數萬億參數的大型語言模型。

一手掌握經濟脈動 點我訂閱自由財經Youtube頻道

不用抽 不用搶 現在用APP看新聞 保證天天中獎  點我下載APP  按我看活動辦法

已經加好友了,謝謝
歡迎加入【自由財經】
按個讚 心情好
已經按讚了,謝謝。

相關新聞

今日熱門新聞
看更多!請加入自由財經粉絲團
網友回應
載入中