電子發燒友網綜合報道,SOCAMM即Space - Optimized CAMM(空間優化內存模組技術),是由英偉達主導研發的面向AI計算、HPC、數據中心等領域的高密度內存解決方案。如今AI大模型參數規模達數百億甚至萬億級別,帶來巨大內存需求,但HBM內存價格高昂,只應用在高端算力卡上。SOCAMM則有望應用于AI服務器、高性能計算、AI PC以及其他如游戲、圖形設計、虛擬現實等領域。
SOCAMM利用高I/O密度和先進封裝實現極高帶寬,有694個I/O端口,遠超傳統內存模塊(如DDR5的64 - 128個),采用3D封裝技術實現高密度互連,提供接近于HBM3的帶寬。接口基于LPDDR5X,理論帶寬可達6TB/s,已接近HBM3水平。
基于LPDDR5本身具備的低功耗特性,集成高效的電壓調節單元,可根據工作負載實時調整供電策略,盡可能降低能耗,能效水平相比HBM3甚至是GDDR6X更高。
另外,模塊體積接近成人中指大小,尺寸僅為行業標準DDR5 RDIMM的約1/3。可以推測其采用了chiplet設計和混合鍵合技術,將DRAM裸片與邏輯控制器集成在單一封裝內。同時,它還采用可拆卸設計,便于用戶對內存模塊進行靈活升級和更換,解決了傳統板載內存成本高昂、缺乏靈活性和不支持升級的問題。
目前,英偉達正在與三星、SK海力士、美光等存儲巨頭合作,推動SOCAMM內存標準的商業化落地。美光已在2025年3月表示SOCAMM解決方案已實現量產,其通過使用4顆16 - die堆疊的16Gb LPDDR5X顆粒,實現128GB容量,結合128 - bit位寬和8533MT/s速率,為更快的AI模型訓練和更高的推理并發用戶量提供了關鍵支持。
SK海力士也在英偉達GTC大會上展示了SOCAMM,其單模塊容量128GB,由容量為32GB的4顆芯片組成,采用16顆16Gb LPDDR5X記憶體芯片封裝,并采用線鍵合工藝,數據傳輸帶寬為120GB/s。EBN報告指出,英偉達與內存制造商正在交換SOCAMM原型進行測試,并預計在2025年底開始大規模生產。
不過,近日韓媒表報道稱,英偉達已向內存原廠通知SOCAMM這一新外形規格的內存模組將不在GB300世代導入,需要等到Rubin時期才會商業化。
SOCAM是英偉達 GB300 Superchip 原定的改進型 Cordelia 主板設計的一部分。但由于GPU子板信號穩定性、以及SOCAMM 的散熱可靠性等問題,英偉達最終決定在GB300主板設計上沿用成熟的 Bianca形式。
SOCAMM作為新一代內存技術,需要與其他硬件和軟件系統保持良好的兼容性,以確保其能夠順利應用于各種設備和場景中。同時,SOCAMM還需標準化,以確保不同廠商生產的SOCAMM模塊之間能夠互換使用,降低用戶的更換和升級成本。
-
HBM
+關注
關注
2文章
409瀏覽量
15201
發布評論請先 登錄
Chiplet商業化將大幅增加網絡威脅

Cadence推出HBM4 12.8Gbps IP內存系統解決方案
英偉達開發新型內存模組SOCAMM,或年底量產
英偉達力推SOCAMM內存量產:可插拔、帶寬比肩HBM

政策與技術并行,共推Robotaxi商業化進程?

美光新加坡HBM內存封裝工廠破土動工
HBM與GDDR內存技術全解析

鎧俠斥資16.75億元研發下一代內存,目標2030年前實現商業化
三星電子HBM3E商業化遇阻,或重新設計1a DRAM電路
繼HBM上車之后,移動HBM有望用在手機上

評論