粉絲團
研調預估今年高頻寬記憶體需求容量將年增近60%（資料照）
〔記者洪友芳／新竹報導〕高速運算需求高頻寬記憶體（High Bandwidth Memory，HBM）應運而生，才能讓核心運算元件充分發揮傳輸效能，研調機構集邦科技（TrendForce）指出，目前高階AI伺服器GPU搭載HBM已成主流，預估2023年全球HBM需求量將年增近6成，達到2.9億GB ，2024年將再進一步成長3成。
TrendForce預估到2025年，全球若以等同ChatGPT的超大型AIGC產品5款、Midjourney的中型AIGC產品有25款，以及 80款小型AIGC產品估算，上述所需的運算資源至少為14萬5600~23萬3700顆NVIDIA A100 GPU，再加上新興應用如超級電腦、8K影音串流、AR/VR等，也將同步提高雲端運算系統的負載，顯示出高速運算需求高漲。
TrendForce指出，HBM擁有比DDR SDRAM更高的頻寬和較低的耗能，無疑是建構高速運算平台的最佳解決方案，從2014與2020年分別發布的DDR4 SDRAM及DDR5 SDRAM便可究其原因，兩者頻寬僅相差兩倍，DDR5或未來DDR6除了有更高傳輸效能，耗電量將同步攀升，勢必拖累運算系統的效能表現。
若進一步以HBM3與DDR5為例，前者的頻寬是後者的15倍，並且可以透過增加堆疊的顆粒數量來提升總頻寬。此外，HBM可以取代一部分的GDDR SDRAM或DDR SDRAM，從而更有效地控制耗能。
TrendForce表示，目前主要由搭載NVIDIA A100、H100、AMD MI300，以及大型CSP業者如Google、AWS等自主研發ASIC的AI伺服器成長需求較為強勁，2023年AI伺服器出貨量（包含搭載GPU、FPGA、ASIC等）出貨量預估近120萬台，年增率近38%，AI晶片出貨量同步看漲，可望成長破5成。
一手掌握經濟脈動 點我訂閱自由財經Youtube頻道
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法
