三星將其HBM-PIM內存擴展到更多應用

三星將其 HBM-PIM 內存擴展到更多應用

今年早些時候，三星推出了世界上第一個具有集成處理功能的 HBM-PIM(High-Bandwidth Memory Processing-In-Memory)模塊。這種新的內存技術為AI應用程序提供了更快的性能，同時降低了功耗。現在，這家韓國公司宣布將這種 DRAM 技術擴展到更多應用。

在Hot Chips 33這一展示全新半導體技術的年度博覽會期間，三星半導體宣布了HBM-PIM的首次商業應用。這種未來技術已經在 Xilinx Virtex Ultrascale+ (Alveo) AI 加速器中進行了測試，處理速度提高了 2.5 倍，同時將能效提高了 60%。這表明 HBM-PIM 已準備好用于更廣泛的應用，包括商業服務器和移動設備。

AXDIMM (Acceleration DIMM) 是由 HBM-PIM 芯片驅動的DRAM模塊，它們包括內存芯片和處理核心。這種組合減少了 CPU 和 DRAM 之間的大量數據移動。緩沖芯片內建的AI引擎可以并行處理多個內存列，大大提高速度和電源效率。

三星 AXDIMM PIM 模塊

這些 AXDIMM 模塊保留了傳統的 DIMM 外形，這意味著傳統 DIMM 可以輕松地替換為 AXDIMM。它們目前正在客戶服務器上進行測試，并且已經注意到它們在基于 AI 的推薦應用程序中提供兩倍的性能，同時提供 40% 的電源效率提高。SAP 一直在測試 AXDIMM，以提高 SAP HANA 的性能并加速數據庫。

三星還宣布將很快通過 LPDDR5-PIM 模塊將內存處理引入移動設備。這些模塊在某些 AI 任務(例如聊天機器人、翻譯和語音識別)中提供兩倍的性能。這家存儲器領域的全球領導者計劃與其他行業領導者合作，在 2022 年上半年實現 PIM 平臺的標準化。

三星電子DRAM 產品與技術高級副總裁 Nam Sung Kim表示：“ HBM-PIM 是業界首個在客戶 AI 加速器系統中進行測試的 AI 定制內存解決方案，展示了巨大的商業潛力。通過技術標準化，應用將變得越來越多，擴展到下一代超級計算機和人工智能應用的 HBM3，甚至擴展到用于設備上人工智能的移動內存以及用于數據中心的內存模塊。“