1. 结论与关键发现
结论:中国AI算力应用正完成从“训练主导”向“推理主导”的历史性迁移:2023年训练仍占主导或近半;2024年起数据中心与应用侧的算力分配开始明显向推理倾斜;到2025年,国内AI加速服务器与工作负载层面推理已占据多数;2026年成为“推理成为主体”的确定性拐点,随后至2028-2029年推理占比将进一步抬升至约70%+水平,成为算力投资与生态建设的绝对重心。
三条同时推进的结构性主线:政策主线自2017《新一代人工智能发展规划》到2024“人工智能+”行动,推动从“科研与训练”走向“规模化应用与推理服务”的系统性迁移;2) 产业主线由“抢建训练集群”转向“降本、低时延与高并发的推理体系”,智算中心网络与智能体/多模态应用成为主要拉力;3) 芯片主线则体现为“国产化在推理侧先行突破、2026年起训练侧加速落地”与“云—边—端推理协同”并进。
为何是现在:生成式与智能体应用的Token消耗与并发调用,引发推理用量的“J型”增长;强化学习与“推理时计算”(test-time/inference-time compute)范式扩展,将新增算力投入从预训练扩展至后训练与推理阶段;单位Token成本、时延、缓存/互联/能效,成为数据中心与应用架构优化的首要指标。
2. 时间线总览(训练 vs 推理的中国进程)
图示洞察:上图展示中国AI服务器工作负载中训练与推理占比(2024-2028)。可以看到自2024年起推理显著高于训练,2026年推理约70%,2028年约73%,验证“推理主导时代”确定性。2.1 关键节点一览(政策—产业—算力结构)采用表格快速纵览训练/推理演进的重要时间点、政策事件与算力占比/市场指征。时间节点政策/产业里程碑训练侧特征推理侧特征算力与市场指标2017国务院《新一代人工智能发展规划》发布,AI上升为国家战略,“三步走”顶层设计奠定路径。深度学习进入快速扩张期,以训练集群建设与算法突破为主,强调通用能力上限。应用仍以“感知+判别”为主,推理落地处于初期阶段。—2019—2022智算与数据中心政策密集出台,AI基础设施网络起步;行业重心依旧偏训练。训练为主流需求,训练→应用的导通尚未全面打开。推理需求潜力待释放,边缘/端侧探索起步。—2023大模型爆发年,训练军备竞赛;但年度内已见推理侧的结构性苗头。2023年国内训练工作负载占比达58.7%,训练仍显著。——2024H1数据中心与AI加速器进入“推理优先”的现实取向,智算中心>250座并网。—IDC披露:2024H1推理收入占比已达61%(预测到2028年>60%),产品选择强调能效/系统适配度中国AI服务器工作负载:2024年推理65%、训练35%。2025推理模型与智能体普及,单位Token成本下探,推理调用爆发。训练占比继续下滑(中国加速服务器:训练36%)。推理占比上升(中国加速服务器:推理63.8%),IaaS层推理与训练规模差异因口径/场景存在差别。IaaS(GenAI)2025:推理118.3亿、训练122.4亿(RMB),显示不同口径下收入结构可能滞后于工作负载结构。2026推理主导的确定性拐点:AI进入“推理年”,优化从单点走向系统协同。国产训练“落地元年”:生态/软件栈/互联与稳定性加速补齐。推理需求与成本博弈下的系统化优化(KV cache/并发/互联/能效)成为主线。中国工作负载:2026年推理约70%(31%/70%);至2028年推理约73%。2027—2029推理占比进一步提升为长期主导,国产化与“云—边—端”协同共振。——
3. 分阶段详解(中国AI“从训练到推理”的演进脉络)3.1 萌芽—奠基(1978—2015):学研主导,互联网崛起带动工程化
1978—2000 萌芽期:高校/科研院所主导,方向涵盖模式识别、专家系统、自然语言等,奠定理论与学科基础。
2001—2015 探索与成长期:互联网发展推动数据积累与算法工程化落地;训练/推理范式尚未成为产业分工,侧重“模型能用、效果可见”。3.2 战略跃升(2016—2020):顶层设计驱动训练侧快速扩张
2016—2017:AlphaGo引爆AI浪潮;2017年《新一代人工智能发展规划》确立“三步走”战略,启动以大规模预训练为核心的“通用能力建模”周期,训练侧成为算力投入重心。
政策纵深:后续“标准化体系”“试验区/示范场景”等配套,夯实基础设施与行业应用土壤,但总体仍处“训练领先、应用验证”的阶段。3.3 训练军备与应用承接(2021—2023):训练主导,推理潜能蓄势
数据中心与智算网络铺设:政策持续支持数据中心发展,智算中心利用率与布局提升;大模型研发热度带动训练集群建设。
2023结构特征:训练侧仍具主导性或近半;测算显示当年中国训练工作负载占比高至58.7%,行业处于“模型爆发+基础设施抢建”导入期尾声。3.4 拐点伊始(2024):从“造厂(训练)”到“开机(推理)”
推理侧结构抬升:2024H1数据中心AI推理相关收入占比61%,NVIDIA之外市场向国产集中(华为出货占比>80%);强调推理能效/部署成本/系统适配而非理论峰值。
工作负载变化:2024年中国AI服务器工作负载推理占比约65%,训练约35%,拐点特征明确。
生态铺路:全国智算中心超过250座,推理作为“7×24永续调用”的算力主体,将由持续建设的智算网络提供承载。3.5 确立优势(2025):推理需求爆发,成本与性能的系统优化开启
技术范式迁移:后训练(强化学习)和“推理时计算”将新增算力从预训练迁移至推理阶段,推动复杂推理类模型(o系列/国内R1系列)普及,单位Token成本显著下降,应用端“可用—好用—规模化”跃迁加速。
结构数据:中国加速服务器市场(2025)推理/训练占比约63.8%/36.0%;工作负载侧推理继续扩张。
生态事件:国产推理模型(如DeepSeek-R1)推升推理能力与性价比,带动企业级/行业应用渗透与Token消耗激增;但IaaS收入口径下,训练与推理规模可能仍接近(训练略高),反映商业计费与落地节奏差异。3.6 推理主导的确定性拐点(2026):系统化推理优化与国产训练落地并行
主导地位确认:多方研究一致指向2026年为“从训练到推理”的拐点年;中国工作负载推理占比约70%,成为算力绝对主力。
推理优化主线:中国信通院发布推理优化研究,指出需求、供给与成本三端压力下,推理优化由单点走向系统协同(模型结构、KV cache、并发调度、互联与内存体系、绿色能效),并给出Token与序列长度的量化跃升(国内日均Token两年增长超1400倍,2026年初突破约140万亿)。
国产训练“落地元年”:在过去推理侧“可用—好用”基础上,2026年国产训练加速实现工程化闭环,生态/软件/互联/稳定性成为核心评估指标;与此同步,推理侧持续要求与成本普惠的国产芯片/整机/平台加速迭代。
基础设施与电力约束:从“东数西算”训练式布局,转向服务海量在线推理的就近供能与低时延网络,电力与能效成为约束主线,设施形态从GPU集群扩展至超节点、液冷、高速互联等适配推理并发的综合体系。3.7 展望(2027—2029):推理长期主导,云—边—端协同深化
占比趋势:加速服务器与工作负载口径均显示推理长期稳定在约70%+,2029年有望达约74%。
产业结构:推理时代的产品竞争从“峰值算力”转向“系统级效率”:芯片—内存/缓存—网络互联—编译与运行时—推理框架—服务编排的全链协同;边缘/端侧渗透扩大,与云端形成“低时延/高并发/隐私安全”的任务分工。
全球AI训练与推理算力市场规模预测

上图(全球训练与推理市场收入预测)显示2024—2028年推理收入持续高于训练收入并扩大差距,侧面印证“推理导向”是全球共性趋势,中国在政策与生态牵引下呈现更快斜率。4. 训练与推理时间线中的三条中国式结构主线
主线一:政策—场景牵引,训练到推理的系统转向
自2017年顶层规划奠定训练—技术能力上限后,2024年“人工智能+”行动明确推进产业深融合,政策焦点从“科研/训练”走向“规模化应用/推理服务”,并通过智算中心网络建设承接推理的持续性与并发性需求。
主线二:算力与工程范式迁移
2025年前后,后训练(强化学习)与“推理时计算”成为性能提升关键,新增算力分配从预训练扩展至推理;2026年起推理优化由单点走向系统协同,单位Token成本/时延/能效成为产业优化核心指标。
主线三:国产芯片的错位突破
国产芯片先在推理侧实现性价比/生态适配优势,2026年起训练“落地元年”验证工程闭环;同时,非NVIDIA市场在中国高度集中化(华为出货占比>80%),体现“在可替代区间内的快速集中”。
5. 与市场观点的差异与交叉验证
关于2025年“究竟是否推理已全面超越训练”:工作负载与加速服务器占比:显示推理>训练(推理约63.8%)。IaaS市场收入结构:2025年训练与推理规模接近,且个别口径显示训练略高(122.4亿 vs 118.3亿人民币),提示收入确认与产品计费节奏的口径差别与滞后性,与“推理负载先行、收入结构后行”的逻辑并不矛盾。2026年起,各口径基本收敛为“推理主导”的一致判断。6. 产业启示
算力投资主线:重心由“峰值训练能力”转向“推理的系统效率”(低时延、批处理、缓存、互联、能效、调度平台)。网络与内存/缓存架构将与推理并发/长上下文需求高度耦合,液冷与高功率机柜成为标配。
国产化与生态:推理侧为国产芯片/平台的“高确定性”突围窗口,2026年起训练侧验证加速;非NVIDIA市场集中度提升,生态与软件栈成熟度成为商业落地关键变量。
“云—边—端”协同:AI原生终端与边缘计算的推理需求将与云端互补,统一的推理平台与资源调度将决定整体TCO与服务质量。7. 附:时间线要点(精要版)2017:国家战略定调(训练为主、通用能力导向)。2019—2022:数据中心/智算网络铺设,训练军备为主。2023:训练高占比(58.7%)。2024:推理占比反超(工作负载65%),“人工智能+”行动落地。2025:推理模型/智能体普及,推理>训练(服务器/工作负载口径);IaaS收入结构仍有口径差异。2026:推理主导拐点确立(约70%),国产训练“落地元年”,系统化推理优化成为主线。2027—2029:推理维持70%+长期主导格局。
作者声明: 本文转载自第三方,旨在提供资讯参考,并非证券推荐或投资建议。作者对内容的真实性、准确性不承担保证责任。本文不构成任何投资建议或证券推荐。截至发文日,作者与文中提及的标的不存在持仓关系。