
三星电子预计最早将于今年下半年开始向博通全面出货其第五代高带宽内存(HBM3E)产品。然而,由于英伟达正在进行质量测试,其向主要HBM客户英伟达交付的12层HBM3E产品已被推迟。尽管SK海力士和美光已向英伟达供应HBM,但最初目标是在今年第二季度开始供应的三星已经落后。
三大因素阻碍了三星向英伟达供货的能力。首先,三星未能达到英伟达的散热标准,该标准比博通严格两倍。其次,当三星的HBM连接到英伟达的高速、低延迟互连技术NVlink时,数字信号质量会下降。最后,与竞争对手相比,三星较低的良率(总产量中功能正常产品的比例)构成了额外的障碍。
行业消息人士8月18日表示,三星电子计划在今年下半年向专用集成电路(ASIC)设计公司博通供应HBM3E。三星预计将获得博通HBM3E需求50%以上的订单, effectively成为其最大供应商。
目前,博通的散热要求标准低于英伟达——大约严格程度只有一半。与英伟达不同,博通为其客户提供优化和定制的人工智能(AI)半导体。每款产品都是共同设计和制造,以满足谷歌和meta等全球大型科技公司的特定要求,然后交付。
相比之下,英伟达的AI半导体被设计为适用于广泛应用的通用产品。因为它们必须在任何环境中提供高性能,所以功耗显著更高。这会产生过多热量, inevitably会降低AI芯片以及安装在其上的HBM的性能。由于英伟凭借其高性能产品主导AI半导体市场,其散热标准据称比超微半导体(AMD)等竞争对手更严格。三星迄今未能满足英伟达的要求。
当三星的HBM与NVlink配对时,也报告了较低质量的数字信号。AI半导体性能的竞争很大程度上取决于完善AI高效学习海量数据的能力。这需要快速且无瓶颈地传输大量数据,使英伟达的图形处理单元(GPU)能够以最高效率处理和学习数据。
NVlink的引入是为了确保即使大量安装AI半导体,每个芯片也能快速响应而无瓶颈。然而,由于三星HBM中动态随机存取存储器(DRAM)的性能问题,连接到NVlink时数字信号质量会下降。在这种情况下,处理器可能无法识别数据,从而影响由该半导体驱动的AI模型的性能。
三星的低HBM良率也被指出是一个问题。低良率成为按时交付合同量的障碍,并削弱了公司在价格谈判中的影响力。据报道,作为回应,三星正在努力重新设计其DRAM,以提高质量并稳定良率。
三星电子预计最早将于今年下半年开始向博通全面出货其第五代高带宽内存(HBM3E)产品,而正在进行质量测试的英伟达HBM3E 12层产品交付被推迟。尽管SK海力士和美光已先于三星电子向英伟达供应HBM,但以最早今年第二季度供应为目标的三星电子进度比预期慢。
阻碍三星电子向英伟达供货的技术因素主要有三个。首先是未能满足比博通高约两倍的英伟达散热标准。第二是在发热等极端环境下驱动HBM时数据传输出问题的可能性高,在英伟达高速数据通信系统“NVlink”使用环境中可能出现AI运算处理等错误。第三是分析认为三星电子的良率(生产量中对良品比例)低于竞争对手是原因。
半导体业界相关人士表示“主要因这三个问题相比SK海力士和美光供应链进入较晚是事实”,但“据悉最近已大部分克服了技术难题。只是由于SK海力士和美光已分配英伟达供应量,与三星电子的供应谈判似乎有所延迟”。
◇ 英伟达散热等标准比博通更苛刻
18日据业界透露,三星电子计划从今年下半年起向专用集成电路(ASIC)设计企业博通供应HBM3E。三星电子预计将占据博通HBM3E供应链50%以上份额。事实上是作为博通HBM3E最大供应商进入供应链。
据悉博通要求的散热标准与英伟达标准值相比不到一半水平。博通设计的AI半导体与英伟达不同,是为各企业优化的定制型设计。根据谷歌和meta等全球大型科技公司要求的性能共同设计制造后最终交付。
但英伟达的AI半导体是制作成可适用于多种应用的通用产品。即,在任何环境下都必须发挥高性能,因此功耗大。因过度电力使用导致芯片发热现象不可避免的环境。这里如果搭载的HBM发热严重,芯片整体性能只能下降。由于英伟达AI半导体号称业界最高性能水平,据悉相比竞争对手AMD等散热标准也更高。据报道三星电子至今未能满足英伟达散热标准。
有观点指出搭载三星电子HBM时在发热等极端环境下数据传输速度和准确性相比SK海力士、美光落后。AI半导体性能竞争力的核心是支持AI高效学习大量数据。为此需要尽可能快速无瓶颈地发送大量数据,AI半导体的大脑英伟达图形处理器(GPU)必须能高效学习。特别是英伟达利用称为NVlink的高性能自有系统,因此担心这种情况下可能引起数据传输出问题。
英伟达为在大量搭载AI半导体的服务器环境中各芯片能在无数据瓶颈的任何环境下更快响应,引入了称为NVlink的系统。但据悉因三星电子HBM搭载的Dram性能问题,连接NVlink时数据传输速度或准确性出问题的概率比SK海力士和美光高。如果处理器无法准确识别通过HBM传递的数据,就会影响通过AI半导体驱动的AI模型性能。
◇ 三星电子全力进行Dram重新设计·良率稳定化等质量改善
一直以来三星电子HBM良率低也被指出是问题。良率低就难以按时供应事先合约量,进行价格谈判时竞争力下降。据悉为此三星电子正全力重新设计Dram改善质量,稳定化相比过去的良率。不仅如此,据悉为进入英伟达供应链,将以往生产的库存产品价格定得比竞争对手低。
半导体业界相关人士说明“长时间与散热问题一起被指出的良率问题也快速改善了”,“正进行进入英伟达供应链的谈判,也交付了次世代HBM样本加快供货速度”。





