6月17日機(jī)鋒網(wǎng)資訊,英偉達(dá)已選定美光科技作為其下一代內(nèi)存解決方案SOCAMM(小型壓縮附加內(nèi)存模塊)的首家供應(yīng)商,這一決定標(biāo)志著AI服務(wù)器內(nèi)存技術(shù)迎來了重要革新。
據(jù)悉,SOCAMM是一種專為數(shù)據(jù)中心AI服務(wù)器設(shè)計(jì)的新型高性能、低功耗內(nèi)存。由于其在AI加速中的關(guān)鍵作用,部分業(yè)界人士甚至將其視為“第二代高帶寬存儲器(HBM)”。此前,英偉達(dá)曾委托三星電子、美光等內(nèi)存制造商開發(fā)SOCAMM原型,而美光憑借在低功耗DRAM性能上的卓越表現(xiàn),率先獲得了英偉達(dá)的量產(chǎn)批準(zhǔn),超越了規(guī)模更大的競爭對手三星。
與傳統(tǒng)的垂直堆疊并與GPU緊密集成的HBM不同,SOCAMM主要支持中央處理器(CPU),在優(yōu)化AI工作負(fù)載方面發(fā)揮著關(guān)鍵的支撐作用。首批SOCAMM模塊基于堆疊式LPDDR5X芯片,由英偉達(dá)精心設(shè)計(jì),并計(jì)劃應(yīng)用于其2026年發(fā)布的下一代AI加速器平臺Rubin上。
在技術(shù)實(shí)現(xiàn)上,SOCAMM采用了引線鍵合和銅互連技術(shù),每個模塊連接16個DRAM芯片,這與HBM使用的硅通孔技術(shù)形成了鮮明對比。銅互連結(jié)構(gòu)顯著增強(qiáng)了散熱性能,這對于AI系統(tǒng)的穩(wěn)定運(yùn)行和可靠性至關(guān)重要。特別是在每臺AI服務(wù)器將搭載四個SOCAMM模塊(總計(jì)256個DRAM芯片)的情況下,散熱效率的重要性尤為突出。
美光方面宣稱,其最新LPDDR5X芯片的能效比競爭對手高出20%,這也是其贏得英偉達(dá)訂單的關(guān)鍵因素之一。隨著AI技術(shù)的不斷發(fā)展,對內(nèi)存技術(shù)的要求也越來越高。美光在低發(fā)熱量內(nèi)存技術(shù)上的突破,不僅為SOCAMM的廣泛應(yīng)用提供了有力保障,也有望提升其在競爭激烈的HBM領(lǐng)域的地位。
值得一提的是,隨著行業(yè)向需要堆疊12層甚至16層DRAM的HBM4邁進(jìn),熱管理已成為關(guān)鍵的差異化因素。美光在SOCAMM上的成功經(jīng)驗(yàn),無疑為其在HBM4等更高級內(nèi)存技術(shù)上的研發(fā)提供了有力支持。
分析師認(rèn)為,SOCAMM的可擴(kuò)展性意味著它未來可能應(yīng)用于更廣泛的英偉達(dá)產(chǎn)品線,包括其即將推出的個人超級計(jì)算機(jī)項(xiàng)目DIGITS。這將進(jìn)一步推動AI技術(shù)的發(fā)展和應(yīng)用,為數(shù)據(jù)中心和AI服務(wù)器市場帶來新的變革。