(原标题:NAND世博app官方入口(中国)官方网站,也要迎来HBM时刻?)
如果您但愿不错常常碰头,迎接标星储藏哦~
NAND厂商可能是AI高潮里最被冷落的脚色之一。
不同于DRAM厂商有HBM这柄大杀器,NAND在AI方面的增长其实相等有限。
领先是AI狡计关于对DRAM需求浩大于NAND,AI大模子考试(如GPT-4、Gemini)需要巨量的参数和中间狡计数据,需要超高带宽和低蔓延的存储。DRAM(额外是HBM)不错提供高达1TB/s以上的带宽,而NAND(即使是PCIe 5.0 SSD)带宽只消7~14GB/s,蔓延高达几十微秒,实足无法称心AI狡计中枢需求。
况兼AI芯片经常会平直封装HBM,而NAND仅仅AI奇迹器的二级存储,并非AI狡计中枢组件,这使得DRAM(尤其是HBM)成为AI狡计的刚需,而NAND仅是数据存储的从属需求,导致前者利润浩大于后者。
其次,在考试端,NAND主要用于存储数据,而不是狡计加速。AI数据中心使用的 SSD主淌若存储AI考试数据集(如LLM考试的语料、图片、视频),但考试自身并不需要高频看望这些数据,一朝数据加载到GPU DRAM(HBM或GDDR),NAND的作用就大幅裁减,不像DRAM那样被不休看望。
至于推理端,对NAND需求就更小了,推理阶段的大部分模子参数早已存入HBM或DRAM,NAND只存放预处理数据,需求远不如考试阶段,即便推理范围扩大,NAND的增量需求仍然很是有限。
以上还仅仅在AI应用端的鬈曲,当咱们放眼通盘NAND市集时,厂商所濒临的困境就愈加杰出了:NAND更容易扩产,主要竞争敌手数目也比DRAM更丰富,这也导致了更容易出现一荣俱荣,一损俱损的局面,况兼很多AI数据中心仍接纳HDD+SSD搀杂存储架构,并未实足转向SSD,尽管有增量,但幅度并不大。
这也让NAND春天来的格外的晚。
悲喜错杂的NAND
客岁的NAND市集,就像是坐了一场过山车,厂商们还没甘愿几天,又过起了苦日子。
在经验2023年库存高企的至暗时刻后,NAND在2024年开年就迎来了需求端的双厚利好。第一季度全球智高手机出货量同比增长8.2%,中国市集的"以旧换新"政策刺激后果超预期,带动256GB以上大容量机型占比晋升至67%。
与此同期,AI奇迹器汲引高潮股东企业级SSD需求激增,单季度采购量环比增长32%,其中北好意思三大云奇迹商的订单占据全球总量58%。
除此以外,NAND主要厂商的计谋性减产开动收效,三星将西安工场产能转向232层3D NAND,好意思光则抵破钞级居品线实践20%的产能缩减。这种结构性休养使NAND Flash合约价在Q1实现17%的环比涨幅,其中1TB TLC SSD批发价突破45好意思元要道位,较2023年Q4低谷回升23%。
2024年8月,TrendForce发布了最新enterprise SSD磋商推崇,其指出,由于AI需求大幅升温,AI server有关客户向供应商进一步条目加单enterprise SSD。上游供应商为了称心SSD在AI应用上的供给,加速制程升级,开动缱绻2YY居品,预期2025年量产。
TrendForce暗示,AI server客户对供应商加单的情况,导致enterprise SSD合约价于2023年第四季度至2024年第三季度间的积累涨幅突出80%。
TrendForce指出,2024年AI server SSD需求市集除了16TB以上居品需求自第2季大幅上升,跟着NVIDIA H100、H20和H200等系列居品到货,有关客户开动进一步加大TLC 4、8TB enterprise SSD订单动能。
TrendForce预估,2024年AI有关SSD采购容量将突出45EB,未来几年AI server可望股东SSD需求年增率平均突出60%,而AI SSD需求在一齐NAND Flash的占比有契机自2024年的5%,上升至2025年的9%。
在供给市集地,由于inference server接纳大容量SSD居品的趋势不变,供应商已开动入辖下手加速升级制程,缱绻从2025年第1季起开动量产2YY/3XX层,进而量产120TB enterprise SSD居品。
而在9月,TrendForce又发布了2024年第二季度的NAND推崇,全球NAND闪存出货量增长有所放缓,但受AI SSD需求股东,销售额增长了14.2%,达到167.97亿好意思元。
TrendForce指出,由于个东谈主电脑和智高手机买家的库存水平高,NAND 出货量较上一季度下跌了 1%。然则,AI对大容量存储居品的需求股东平均销售价钱(ASP)高潮约15%。其暗示,“通盘NAND供应商自第二季度起均已规复盈利才气,并正在扩大产能以称心第三季度AI和奇迹器市集的需求。”
不丢脸出,NAND好音讯基本皆来自于企业的AI数据中心,而坏音讯皆来自于破钞端,这种浊泾清渭的问题,第一季度还不是很较着,在第二季度散伙时愈发杰出。
这少许也在厂商的财报中不错看出来,尽管头部厂商合手续减产,但渠谈库存仍高达6-8周(较健康水平进步40%)。好意思光Q2财报骄傲,企业库存盘活天数仍守护在98天高位。破钞电子市集出现"旺季不旺"闲隙,618大促时间SSD零卖量同比下滑12%,激勉渠谈商霸道性抛售,512GB TLC SSD现货价单周暴跌9%。
除此以外,NAND厂商也正濒临着本事迭代的阵痛期。三星的321层NAND量产进程蔓延,导致正本策动的本钱下跌红利未能完了。同期长江存储的232层居品良率爬升至85%,加重中低端市集竞争。价钱战在QLC居品线尤为热烈,1TB QLC SSD OEM价钱跌破35好意思元,迫使铠侠暂停日本四日市工场两条旧产线。
到了2024年第三和第四季度,NAND市集透顶步入冰火两重天的局面,智高手机存储容量升级进入平台期,主流机型定格在512GB设置,致使需求增速放缓至个位数。PC OEM厂商转向"性能优先"策略,需求放缓,两方面共同导致NAND Flash四季度市集范围环比下跌8.5%,ASP与出货量双双出现大降。
与之变成明显对比的是AI数据中心市集。微软Azure部署的30TB QLC SSD集群实现4倍存储密度晋升,超大范围数据中心加速淘汰15K RPM HDD,企业级SSD采购量同比增长41%,其中30TB以上居品占比初度突破25%。值得扫视的是,QLC在企业级应用的擦写次数突破5000次,可靠性疑虑基本撤废,马上带动了NAND在企业端的出货量。
关于NAND厂商来说,市集在2024年规复了一部分元气,以至由于AI的存储需求而迎来艰苦的大幅度增长,正所谓亢旱逢甘雨,微微上扬的箭头让它们终于松了相接。
但与此同期,破钞电子市集恒久的疲软照旧让NAND厂商累赘了相等大的压力,兼作念DRAM的三星、海力士和好意思光尚且还能过得去,像铠侠和西部数据这么只作念NAND的厂商,就显得相等繁重了。
也恰是如斯,人人加速了寻找新出息的步调。
NAND,迎来HBM时刻?
NAND新出息是什么?深信通盘的NAND厂商皆会殊途同归地把眼神放在隔邻的HBM上,行为AI芯片必不行少的居品之一,它为DRAM厂商挣取了几十亿乃至几百亿好意思元的营收,短期内的需求也实足莫得下跌的迹象,以至出现了定制HBM这么的风潮,天然会让千里寂已久的NAND行业心生赞佩。
那么NAND行业是否也不错打造一个访佛于HBM的居品呢?谜底并不是实足商量的。
SanDisk在2月的投资者日活动上,发布了全新的存储本事高带宽闪存 (HBF) ,其允许并行看望多个高容量 3D NAND 阵列,从而提供充足的带宽与存储才气。
该公司将 HBF 定位为 AI 推理当用的理念念存储处罚决策,兼顾高带宽、高容量以及低功耗需求。首代 HBF 本事可为 GPU 提供高达 4TB 的 VRAM 容量,并在未来版块中进一步晋升,此外,SanDisk 还策动将该本事推广至手机止境他斥地,但未公布具体上市时候。
SanDisk 存储本事把握 Alper Ilkbahar 暗示:“咱们将其称为 HBF 本事,旨在增强 HBM 存储器以因循 AI 推理责任负载。咱们的地方是匹配 HBM 存储器的带宽,同期在相似本钱下提供 8 至 16 倍的容量。”
从认识上看,HBF 与 HBM 访佛,它堆叠了多个高容量、高性能的闪存中枢芯片,并通过硅通孔 (TSV) 互连,再重叠一个逻辑芯片,使其或者并行看望多个闪存阵列(或子阵列)。HBF 的底层架构基于 SanDisk 的 BICS 3D NAND,并接纳 CMOS 平直键合到阵列 (CBA) 设想,将 3D NAND 存储阵列堆叠在基于逻辑工艺的 I/O 芯片之上。这种逻辑芯片可能恰是 HBF 或者实现高带宽的要道。
Ilkbahar 进一步理会谈:“咱们向工程师提议挑战,问他们还能奈何哄骗 NAND 存储的推广才气。他们的谜底是——将庞杂的存储阵列拆分红多个寥寂的小阵列,并并行看望这些阵列。这种形状极大晋升了带宽,使咱们或者构建高带宽闪存。”
传统 NAND 设想将中枢存储阵列分裂为平面 (plane)、页 (page) 和块 (block),其中块是最小的可擦除单元,页是最小的可写单元。而 HBF 似乎冲破了这种传统架构,将 NAND 芯片分裂为“多个小阵列”,每个子阵列(领有寥寂的页和块)可能配备专属的读写通谈。诚然这种形状与多平面 NAND 本事相似,但 HBF 似乎远远超越了传统决策。
现在,SanDisk 暗示其首代 HBF 本事接纳 16 颗 HBF 中枢芯片,并研发了一种寥落的堆叠本事,以确保 16 层 HBF 中枢芯片在堆叠时具有最小的翘曲度。此外,其逻辑芯片或者同期看望多个 HBF 中枢芯片的数据。推敲到 HBF 需要同期处理数百以至数千个并发数据流,其逻辑处理才气远超典型 SSD 截至器。
SanDisk 尚未公开 HBF 的具体性能策动,因此现在尚不廓清 HBF 是否或者匹敌原始 HBM(约 128GB/s 的带宽)或最新的 HBM3E(举例英伟达 B200 提供 1TB/s 带宽)。不外,SanDisk 涌现的一个数据是,八个 HBF 堆叠单元共提供 4TB 的 NAND 存储容量,即每个 HBF 堆叠单元可存储 512GB(约为 8-Hi HBM3E 24GB 容量的 21 倍)。
如果一个 16 层 HBF 堆叠单元存储 512GB,这意味着每个 HBF 中枢芯片很是于 256Gb 3D NAND 斥地,并配备了复杂的逻辑电路以实现芯片级并行看望。在 16 颗 3D NAND 芯片之间每秒传输数百 GB 的数据,仍然是一个巨大的本事挑战,让东谈主不禁趣味 SanDisk 是奈何实现这一地方的。
不错笃定的是,HBF 的单比特看望蔓延仍无法与 DRAM 比较,因此 SanDisk 强调其居品主要面向高浑沌量、读取密集型的 AI 推理任务。关于很多 AI 推理当用而言,中枢需求所以合理本钱实现高浑沌量,而非 HBM(或其他 DRAM 类型)所具备的超低蔓延。因此,尽管 HBF 短期内不会取代 HBM,但它可能会占据市鸠合那些需要大容量、高带宽且本钱接近 NAND,而无需超低蔓延的应用场景。
此外,为了简化从 HBM 移动至 HBF 的经由,HBF 接纳了与 HBM 访佛的电气接口,并进行了部分公约休养,但并非实足兼容 HBM。
Ilkbahar 理会谈:“咱们尽可能让 HBF 在机械和电气特质上与 HBM 接近,但仍然需要主机斥地进行一些公约休养才能因循 HBF。”
SanDisk 并未说起 HBF 的写入寿命。尽人皆知,NAND 闪存的寿命有限,只可承受一定次数的写入。尽管 SLC 和 pSLC 本事相较于破钞级 SSD 接纳的 TLC 和 QLC 具备更高的持久性,但这会裁减容量并增多本钱。此外,NAND 典型的写入单元是块级,而内存经常按缓存行级寻址(即 NAND 的典型写入单元为 128KB,而 DRAM 的缓存行经常为 32 字节),这亦然 HBF 需要克服的要道挑战之一。
SanDisk 策动将 HBF 本事发展为一个敞开圭臬,并建立敞开生态系统。为此,该公司正在组建一个本事照看人委员会,成员包括“业内闻名东谈主士和伙同伙伴”。
Ilkbahar 在临了暗示:“咱们正在让 SanDisk 重返市集,并着实在角落实现令东谈主咋舌的 AI 体验,他正迫不足待地念念要颠覆存储行业。”
不得不说,SanDisk推出的HBF的认识关于任何NAND厂商皆相等有蛊惑力,咱们也涓滴不怀疑一朝行业将其转机为着实圭臬,它就有但愿在未来创造比凡俗NAND更高的利润,不错说,HBF即是很多NAND厂商心驰神往的HBM时刻。
有风趣的是,SanDisk 的存储本事把握Ilkbahar并不是什么初出茅屋的新东谈主,他曾担任过英特尔 Optane 集团副总裁兼总司理,尽管 Optane 本事并未获得告成,但它的精神收受者似乎仍是准备就绪。
苦恼向AI靠近
关于NAND厂商来说,HBF能争取AI市集,但出息并不单要一条。
领先即是进一步晋升存储密度,QLC(四层单元)本事凭借比TLC高33%的存储密度,成为裁减AI斥地单元容量本钱的要道突破点。2024年,三星推出的UFS 4.1 NAND居品,通过优化读写性能(轨则读取速率达2100MB/s)告成适配旗舰AI手机,使终局斥地能引导运行数十亿参数的大模子。
而在企业级市集,AI考试集群对数据浑沌的无情需求股东NVMe SSD向超大容量演进。三星推出的PM9C3a企业级SSD容量突破30TB,接纳176层堆叠工艺和PCIe 5.0接口,实现14GB/s的合手续读取带宽,可称心千卡GPU集群的并发数据看望需求。2024年Q2数据骄傲,企业级SSD价钱溢价效应权贵,三星该品类营收环比增长14.8%,平均售价涨幅达20%,侧面印证了高密度存储的需求依旧繁荣。
其次即是产能的动态调控,面对2023年因破钞电子需求疲软导致的库存积压,全球NAND原厂在2025年头启动“精确减产”策略:好意思光推迟232层QLC产线扩产策动,铠侠将晶圆干预量削减15%,西部数据则将产线稼动率降至70%。这种结构性休养使2025年全球NAND晶圆投产范围缩减10%-15%,股东供需接洽从鼓胀向紧均衡过渡。TrendForce预测,2025年下半年NAND合约价有望回升15%-20%,部分紧缺规格涨幅或超30%。
调控成效已在2024年显现:当季全球NAND出货量虽环比微降1%,但受益于15%的均价高潮,行业总营收逆势增长14.2%至167.96亿好意思元,六大原厂集体扭亏为盈。其中,SK海力士凭借176层QLC居品在数据中心市集的浸透,贸易利润率回升至8.3%,考据了“以价换量”策略的灵验性。
访佛定制HBM的生态,相通亦然一部分厂商的采纳。SK海力士通过“存储-算力协同”策略,将企业级SSD出货占比晋升至40%,其与AWS勾搭开发的智能分层存储系统,可使AI考试数据集加载服从晋升70%。
这种生态协同效应在财报中得到考据:铠侠通过优化数据中心居品组合,2024年Q2企业级SSD营收环比激增27.7%;三星凭借存储-芯片组协同上风,在AI奇迹器市集斩获60%份额,得当62亿好意思元的季度营收龙头地位。
瞻望未来,跟着HBF的出现,NAND厂商的春天似乎仍是不再远方,但面对依旧热烈的市集竞争,厂商可能会围绕本事语言权伸开新一轮的争斗,届时咱们也不妨拭目而待,谁能在NAND市集笑到临了。
半导体极品公众号保举
专注半导体畛域更多原创履行
海涵全球半导体产业动向与趋势
*免责声明:本文由作家原创。著作履行系作家个东谈主不雅点,半导体行业不雅察转载仅为了传达一种不同的不雅点,不代表半导体行业不雅察对该不雅点赞同或因循,如果有任何异议,欢宽恕洽半导体行业不雅察。
今天是《半导体行业不雅察》为您共享的第4050期履行,迎接海涵。
『半导体第一垂直媒体』
及时 专科 原创 深度
公众号ID:icbank
可爱咱们的履行就点“在看”共享给小伙伴哦世博app官方入口(中国)官方网站