ChainCatcher 消息,據 TrendForce 報道,在 Hot Chips 2026 上,美光強調 AI 算力進步快於存儲提升,「存儲牆」挑戰日益突出。美光 Fellow Raghu Sriramaneni 指出,AI 加速器算力約每兩年提升三倍,而 HBM 帶寬同期增幅不足兩倍,差距可能進一步擴大。對 HBM 依賴加深也帶來可靠性問題,美光援引 Meta Llama 3 數據稱,HBM 故障約佔非預期訓練中斷的 17%。模糊計算與存儲邊界的新設計或有助於突破瓶頸。
HBM 擴展還帶來面積與供應壓力:最新一代封裝將兩顆 GPU 與八個 12 層 HBM4 堆棧集成,存儲約佔半導體面積 90%,超過 GPU 所佔面積的八倍;以 HBM 實現同等容量約需標準 DDR5 DRAM 三倍晶圓。熱管理亦成關鍵約束,液冷與超薄芯片等方案正被探索。
美光正推進互連、封裝與冷卻創新,包括面向存儲優化的 SerDes 與 die-to-die PHY、更大尺寸 SiP 與玻璃基板先進封裝,以及液冷、混合鍵合等,並開發 fusion bonding 以降低熱阻並提升數據吞吐。