河南
快科技1月13日消息，花旗銀行在最新報告中指出，隨著NVIDIA采用推論情境記憶存儲（Inference Context Memory Storage，ICMS）等新技術，全球NAND供應短缺的狀況將進一步惡化。
在AI推理過程中，為了避免重復計算、提升響應速度，系統會使用 KV緩存機制，類似于AI模型的"短期記憶"，但隨著上下文長度的爆炸式增長，昂貴的HBM早已不堪重負。
為了解決這一瓶頸，NVIDIA在宣布推出由BlueField-4 DPU驅動的ICMS平臺，該平臺建立了一個名為G3.5的全新存儲層級：將原本擠在HBM中的KV緩存放到可擴展性更強的本地 SSD中。
得益于此，NVIDIA能夠明顯提升推理速度，最高可達5倍，同時能源效率提升高達5倍，延遲也大幅降低。
花旗預計，為了支持ICMS運作，在一套Vera Rubin NVL72 AI配置中，NVIDIA將為每個機架配置最多16TB的額外存儲，總體SSD容量達到約1152TB。
根據市場預測，Vera Rubin服務器在2026年的出貨量預計為3萬臺，2027年將達到10萬臺。
這意味著2026年由此產生的額外NAND需求將達到3456萬TB，占全球總需求2.8%，到2027年需求將飆升至1.15億TB，占全球NAND總需求的9.3%。
而且花旗的分析僅基于Vera Rubin平臺，并未考慮更高規格的Rubin Ultra系統，也未納入后續Feynman架構可能帶來的新增需求，這意味著實際NAND需求增長可能比目前預測的更為顯著。
花旗認為，NVIDIA采用ICMS技術，將成為NAND供應商的積極催化劑，三星、SK海力士、鎧俠、西部數據及美光將成為最大受益者。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
