首頁 要聞 綜合

HBM供應吃緊 傳輝達Rubin擬降規

HBM供不應求,輝達(圖)擬降規下世代AI GPU因應。(記者宋碧龍/攝影)
HBM供不應求,輝達(圖)擬降規下世代AI GPU因應。(記者宋碧龍/攝影)

【記者張原彰/綜合報導】高階高頻寬記憶體(HBM)仍供不應求,晶片巨頭輝達(NVIDIA)傳出正評估一項應變方案,就是調降下一代頂級AI GPU「Rubin Ultra」的規格,降低HBM的用量,以確保產品能按原定時程大規模量產上市。

報導說,Rubin Ultra是輝達下一代AI運算平台的重要組成部分,被視為未來訓練超大規模AI模型的重要硬體平台,原先將搭載容量更大、頻寬更高的HBM,以支撐更強大的效能。

但輝達因無法取得足夠的高階HBM晶片,以支撐原定的大規模量產計畫,正重新評估產品配置,希望透過調整顯存規格降低需求,而不是繼續等待供應鏈擴產。

這意味著,如果Rubin Ultra最終採用較低顯存配置,在執行大語言模型等AI運算工作時,客戶可能需要部署更多GPU,才能完成原本由較少晶片即可完成的運算任務。

報導說,對於微軟、Meta、亞馬遜、Google等持續擴大AI資本開支的大型雲端廠商而言,這意味著未來資料中心建置成本可能會進一步上升;對於AI訓練而言,HBM不僅攸關GPU的資料吞吐能力,也關係到可運行的大型模型規模。◇

★相關閱讀: