题材前瞻:“先进存力”为何成了中国AI的下一张王牌? 中科曙光:即将发布推理相关存储新技术

2026-08-27 12:56:429




原文链接:

“先进存力”为何成了中国AI的下一张王牌?
先进存力之所以成为中国AI的“下一张王牌”,核心在于AI性能与成本的新的“瓶颈”已从算力迁移到存储带宽/延迟与数据管道效率,推理侧的爆发把存储推到C位;同时,中国在政策牵引、基础设施投入、全国一体化算力网与算电协同上的系统优势,为“以存强算、以网强算”的体系化突破提供了独特窗口,能在单位Token成本与有效算力利用率上形成系统级竞争力。​

AI基础设施升级:从GPU单点驱动走向系统级能力竞争


1. 从“算力为王”到“存力卡脖子”:瓶颈的结构性迁移​​内存墙成为主导约束​​:受内存带宽限制,GPU用于有效计算的时间仅约10%,存储带宽而非算力本身日益成为系统性能的瓶颈,打破“内存墙”成为业界共识。​​推理侧的本质是访存问题​​:LLM推理分为Prefill(算密集)与Decode(访存密集);在Decode阶段,性能受内存带宽与数据搬运效率主导,“存储带宽与访存延迟”成为影响TTFT与TPS的核心。​​推理的核心矛盾正从算力转向带宽与功耗​​。​​KV Cache/RAG/长上下文重塑存储侧负载​​:RAG一次性引入大量外部向量数据、CoT生成大量中间Token、超长上下文使KV Cache规模可超过模型权重本体,​​显存容量与带宽压力陡增​​,必须依赖分层存储与高带宽存储体系应对。2. 推理成为增量主战场,“先进存力”决定单位Token经济性​​AI推理需求的系统性上行​​:到2027-2028年,企业将广泛部署分布式边缘基础设施以改善推理延迟;网络与存储管道现代化成为AI基础设施升级的关键驱动力之一。​​AI重心从训练转向推理​​,系统要在更低延迟、更高并发、低功耗下供给Token。​​NVIDIA ICMS等“上下文存储”范式验证​​:通过RDMA加速上下文存储,推理效率可提升至5倍,指向​​以存换算、以存促算​​的现实路径;​​多级缓存+S3 over RDMA​​等体系在工程上显著压降TTFT/Checkpoint开销,GPU利用率向90%收敛成为可达目标。​​中国“算-存-网-电”的协同战略​​:政策将​​超大规模智算集群​​与​​算电协同​​确立为国家级工程,强调以网强算、以存强算的协同能力建设,​​把先进存储从“数据仓库”提升为“数据引擎”​​,主动参与训推全流程。该战略方向与产业痛点高度同频。

AI大模型驱动算力需求


3. “先进存力”的技术抓手:从分层体系到数据管道现代化​​分层内存/存储体系​​:HBM/DRAM/NAND/对象存储形成清晰的AI内存阶梯,HBM承载最热数据、DRAM作缓冲、CXL扩展内存池、NVMe承接温热、对象存储托底冷数据;​​CXL Memory以约200ns延迟填补DDR与NVMe两级间的鸿沟​​。​​训推一体的分层协同​​:训练中HBM/DRAM/NAND分别承担计算态/调度态/存储态;推理中以三者分层协同承接KV Cache与长上下文,​​缺一不可且难以相互替代​​。​​多级缓存与S3 over RDMA​​:L1 HBM、L2 DRAM、L3 SSD的​​三级KV Cache​​与本地NVMe缓存池可显著缩短热点数据路径,​​TTFT可量级下降、Checkpoint加速显著​​,GPU空转时间被大幅压缩。​​DPU/存储卸载​​:DPU将存储I/O、加解密、元数据管理等高开销路径硬件卸载,承担推理上下文内存平台与非计算任务卸载,​​降低CPU/GPU参与度、提升集群有效算力调度效率​​。​​面向推理的内存效率算法​​:研究明确推理瓶颈正从“算不动”转向“搬不动”,需要在算法层面配合存储/内存分层进行​​内存容量与带宽的系统优化​​。4. 中国的“系统级优势”:政策牵引+投资加码+一体化网络​​全国一体化算力网与算电协同​​:国家在“十五五”框架下,将​​超大规模智算集群、算电协同​​纳入重大工程;​​全国一体化算力网“1+M+N”​​架构试点完成验证,​​算力并网、互联、调度​​进入体系化阶段。​​运营商投资结构换挡​​:2026年,运营商资本开支向算力网络与AI基础设施倾斜,中国移动算力网络投资计划378亿元(+62.4%),中国电信算力基础设施投资255亿元(+26%),中国联通算力投资占比超35%,​​“总量收缩、结构换挡”凸显算力/存力的战略地位​​。​​国家级指标与存力扩张​​:我国算力与存力规模快速抬升,智能算力占比、存储总量与先进存储占比指标持续上台阶,​​政策目标明确锚定“>1800EB、先进存储>30%”​​,为“先进存力”提供量化抓手与供给保障。表1:AI内存阶梯与层级参数(简表)存储层级延迟带宽容量量级角色定位HBM约10nsTB/s级80-192GB最热数据、直接参与计算DRAM70-100ns约350GB/s节点数TB缓冲/高带宽数据传输CXL Memory约200ns40-60GB/s数TB级扩展内存池、填补延迟鸿沟NVMe SSD80-150μs数GB/s数TB级温热数据承接与快速访问对象存储毫秒级数百MB/s-GB/sPB-EB级冷数据托底表2:全国算力/存力关键指标(部分)指标202420252025目标算力规模280 EFLOPS962 EFLOPS(标注值)>300 EFLOPS智能算力占比32%81%(标注值)35%存力规模1580EB1680EB(标注值)>1800EB先进存储容量占比28%N/A>30%

注:带“标注值”的数据按原表呈现,显示监测口径与目标的差异。

5. 超节点/十万卡时代,“先进存力”是系统效率的决定性一环​​从单卡竞争转向系统能力竞争​​:行业范式从单芯片峰值转向万卡/十万卡集群的系统工程能力,​​有效算力利用率成为核心竞争指标​​。超节点/超集群的价值在于把多卡组织为“单一资源池”,对高带宽存储与低延迟网络的依赖显著上升。​​十万卡集群的落地牵引​​:中国首个全国产十万卡AI超集群“曙光8000(登峰)”落成并接入国家超算互联网,标志基础设施从万卡迈向十万卡部署,​​对存储系统的IO并发、元数据能力与分层调度提出极致要求​​。​​开放、可扩展的系统架构​​:国内头部厂商布局多形态超节点(多家互联网/服务器/芯片厂商发布自研超节点),强调开放的互联协议与内存语义通信,​​以系统级协同优化训推性能与能效​​,存储与网络成为“系统级协同”的核心通道。6. 产业与投资含义:从“配角”到“核心生产要素”​​存储超级周期确立​​:AI服务器对存储需求是通用服务器的8-10倍,HBM/DRAM/企业级SSD成为增长引擎,​​推理带来的温数据需求将成为SSD增量核心​​;同时高带宽/高速存储供给紧张与价格上行形成中期景气支撑。​​国产替代窗口与“系统级协同”​​:政策将​​自主可控​​纳入考核,要求国央企智算国产化率提升;在高端GPU受限背景下,​​以架构换性能​​的系统级协同(先进封装+HBM+网络+存储+软件栈)成为国产算力突围路径,​​存储是“以存强算”的关键枢纽​​。​​数据管道现代化重塑TCO​​:以​​多级缓存/S3 over RDMA/上下文存储​​为代表的“存力+运力”联动,直连单位Token成本曲线,​​从“数据容器”升级为“数据引擎”​​。在中国的​​低电价/电力协同​​与全国一体化调度下,有望形成系统级TCO优势。


7、存储依然是AI里除了GPU以外的最大成本,且增量弹性最大部分,而HBM、DRAM、NAND等存储均涨了很多,存储墙是个瓶颈,先进存力是下一代中国AI的王牌,潜力巨大

类别GB300金额GB300占比VR200金额VR200占比增幅GPU25263.1%39650.7%+57.1%CPU184.5%182.3%0.0%NVLink交换芯片61.6%141.8%+122.2%其他网络芯片266.5%587.4%+120.7%存储(机外DRAM/NAND等)379.4%20025.7%+435.3%液冷61.6%70.9%+11.6%电源61.4%81.0%+31.9%PCB40.9%121.5%+232.6%ABF载板10.3%20.3%+82.3%MLCC等00.0%00.1%+182.4%其他4010.1%628.0%+54.9%组装增值(MVA)20.6%30.4%+28.6%合计399100%780100%+95.3%维度关键指标触发阈值/信号可能影响技术成效GPU利用率、TTFT、TPS、单位Token成本官方/权威AB测试披露显著改善(如ICMS类5倍推理效率)支撑“以存强算”的经济性与差异化管道升级多级缓存/S3 over RDMA落地比例头部集群/行业场景规模部署提升大规模推理的复用度与可复制性供给侧HBM/DDR5/eSSD价格与交货周期价格/供给稳定或改善决定项目成本曲线与交付节奏政策/投资算力网、算电协同、存力指标完成度枢纽节点、标准发布、运营商Capex兑现提供中长期需求与资金保障超节点复制万卡/十万卡项目的存储架构选型标配化采用分层与上下文存储强化系统级性能上限与供给弹性

结语

​先进存力是把“新增GPU”转化为“有效Token产出”的关键变量​​:当AI的核心矛盾从“算不动”转为“搬不动”,​​存储的带宽/延迟与数据管道现代化​​成为决定系统效率与单位Token经济性的第一性原理。中国在​​政策-网络-电力-产业链​​四位一体的体系优势,为“以存强算、以网强算”提供了独特土壤,​​先进存力​​因而成为可持续的系统级“王牌”。

作者声明: 本文转载自第三方,旨在提供资讯参考,并非证券推荐或投资建议。作者对内容的真实性、准确性不承担保证责任。本文不构成任何投资建议或证券推荐。截至发文日,作者与文中提及的标的不存在持仓关系。

合规声明:本站发布的所有文章及观点均系个人研究共享,投资心得交流,不代表本站立场,且不构成任何形式的投资建议。投资者据此操作,风险自担,请务必保持独立审慎的决策态度。