7月16日 近日,ETNews 報(bào)道稱,下一代低功耗內(nèi)存模塊 “SOCAMM” 市場已全面開啟,英偉達(dá)計(jì)劃在今年為其 AI 產(chǎn)品部署 60 至 80 萬個(gè) SOCAMM 內(nèi)存模塊。該產(chǎn)品甚至被業(yè)內(nèi)稱為 “第二代 HBM”,隨著其在 AI 服務(wù)器和 PC 中的應(yīng)用逐步增長,其大規(guī)模出貨預(yù)計(jì)將對內(nèi)存和 PCB 電路板市場產(chǎn)生積極影響。
知情人士透露,“英偉達(dá)正在與內(nèi)存和電路板行業(yè)分享 SOCAMM 的部署量(60 至 80 萬片),該模塊將應(yīng)用于其 AI 產(chǎn)品?!边@是一種專注于低功耗的 DRAM 內(nèi)存模塊,也是英偉達(dá)正在推廣的自有標(biāo)準(zhǔn)產(chǎn)品,它通過捆綁 LPDDR DRAM 來加強(qiáng) AI 運(yùn)算。與現(xiàn)有的筆記本電腦 DRAM 模塊(LPCAMM)相比,其 I/O 速度提升,數(shù)據(jù)傳輸速度加快,并且結(jié)構(gòu)緊湊,更易于更換和擴(kuò)展。
橫向來看,與美光此前生產(chǎn)的服務(wù)器 DDR 模塊 “RDIMM” 相比,SOCAMM 的尺寸和功耗減少了三分之一,帶寬卻增加了 2.5 倍。英偉達(dá)計(jì)劃將 SOCAMM 率先應(yīng)用于其 AI 服務(wù)器產(chǎn)品和 AI PC(工作站)產(chǎn)品。首批搭載 SOCAMM 內(nèi)存的產(chǎn)品是最新的 GB300 Blackwell 平臺,這一舉動暗示了英偉達(dá)打算為其眾多 AI 產(chǎn)品轉(zhuǎn)向新型內(nèi)存的意圖。值得一提的是,英偉達(dá)在今年 5 月 “GTC 2025” 上發(fā)布的個(gè)人 AI 超級計(jì)算機(jī) “DGX Spark” 也采用了 SOCAMM 模塊,因此其需求預(yù)計(jì)還會擴(kuò)展到 PC 市場。
盡管最高 80 萬的目標(biāo)部署量遠(yuǎn)低于其內(nèi)存合作伙伴今年的 HBM 出貨量(預(yù)估 900 萬),但預(yù)計(jì)其規(guī)模明年將開始擴(kuò)大,尤其是在 SOCAMM 2 內(nèi)存上市之后。目前美光是英偉達(dá) SOCAMM 模塊的唯一制造商,而三星和 SK 海力士據(jù)稱也正在與英偉達(dá)接洽,希望為其生產(chǎn) SOCAMM 模塊。
在今年 3 月,美光、SK 海力士兩大 DRAM 內(nèi)存原廠就正式公布了新的 SOCAMM 內(nèi)存模組。美光稱該型內(nèi)存條將被用于英偉達(dá) GB300 Grace Blackwell Ultra 超級芯片,預(yù)計(jì)作為 Grace CPU 的可更換內(nèi)存使用。SOCAMM 全稱 Small Outline Compression Attached Memory Module,意即外形更為小巧的 CAMM 壓縮附加內(nèi)存模組,目前基于 LPDDR5X DRAM 顆粒。
和此前的 LPCAMM2 類似,SOCAMM 目前同樣也是單面四顆粒焊盤、三固定螺絲孔的設(shè)計(jì)。不過與 LPCAMM2 存在差異的是,SOCAMM 的頂部無凸出的梯形結(jié)構(gòu),這降低了整體高度,更適合服務(wù)器的安裝環(huán)境和液體冷卻。其外形尺寸為 90mm×14mm,采用 128bit 位寬;美光展示的產(chǎn)品基于 4 顆 16 芯堆疊的 16Gb DRAM,整體容量達(dá)到 128GB,支持 8533 MT/s,大小僅有行業(yè)標(biāo)準(zhǔn) DDR5 RDIMM 的約 1/3,而憑借高速的 LPDDR5X 和更大位寬,SOCAMM 相同容量帶寬可達(dá) 2.5 倍、功耗僅有傳統(tǒng)方案的 1/3 。
隨著 AI 技術(shù)的飛速發(fā)展,對內(nèi)存性能的要求也越來越高。HBM 在當(dāng)前的 AI 領(lǐng)域應(yīng)用廣泛,但 SOCAMM 的出現(xiàn),為 AI 產(chǎn)品提供了一種新的內(nèi)存選擇方向。它不僅在帶寬、功耗和尺寸上具有優(yōu)勢,其可擴(kuò)展性和可維護(hù)性也為數(shù)據(jù)中心提供了高度優(yōu)化的內(nèi)存解決方案。英偉達(dá)大規(guī)模部署 SOCAMM 內(nèi)存模塊,無疑將對 AI 產(chǎn)品的性能提升帶來積極影響,后續(xù)其在實(shí)際應(yīng)用中的表現(xiàn),以及對整個(gè) AI 內(nèi)存市場格局的改變,值得持續(xù)關(guān)注。