4月24日消息，三星已经与处理器大厂AMD签订价值4.134万亿韩元（约217.86亿人民币）的新协议，将供应HBM3E 12H DRAM，预计会用在AMD的Instinct MI350系列AI芯片上。在此协议中，三星还同意购买AMD的GPU以换取HBM产品的交易，但是具体的产品和数量暂时还不清楚。

2024年2月，三星正式宣布已开发出业界首款HBM3E 12H DRAM，拥有12层堆叠，带宽高达1280GB/s，容量为36GB，是迄今为止带宽和容量最高的HBM产品。

美国AMD半导体公司专门为计算机、通信和消费电子行业设计和制造各种创新的微处理器(CPU、GPU、主板芯片组、电视卡芯片等)，以及提供闪存和低功率处理器解决方案。先前有市场消息指出，AMD计划在2024年下半年推出Instinct MI350系列，属于Instinct MI300系列AI芯片的升级版本。其采用了芯片代工龙头台积电的4nm制程技术生产，以提供更强大的运算性能，并降低功耗。由于将采用12层堆栈的HBM3E，也在提高传输带宽的同时还加大了容量。

据介绍，HBM3E 12H采用先进的热压非导电薄膜（TC NCF），使12层产品具有与8层产品相同的高度规格，以满足当前HBM封装要求。该技术预计将具有更多优势，特别是对于更高的堆叠，因为业界寻求减轻更薄芯片带来的芯片芯片翘曲。三星不断降低其NCF材料的厚度，实现了业界最小的芯片间隙（7μm），同时还消除了层间空隙。与HBM3 8H产品相比，这些努力使垂直密度提高了20%以上。

三星先进的TC NCF还通过在芯片之间使用各种尺寸的凸块来提高HBM的热性能。在芯片接合过程中，较小的凸块用于信号区域，而较大的凸块则放置在需要散热的位置。该方法还有助于提高产品产量。

根据三星的说法，在人工智能应用中，采用HBM3E 12H DRAM预计比HBM3E 8H DRAM的大模型训练平均速度提高34%，同时推理服务用户数量也将增加超过11.5倍。对此，市场人士表示，该笔交易与三星芯片代工的谈判是分开的。因此，先前有消息表示，AMD将把部分新一代CPU/GPU交由三星芯片代工来生产，这与该笔交易将不相关。