AI 基础设施创新正在向机架级协同优化方向转变，智能体 AI 拉动推理算力需求，带来光互联、先进封装、存储器架构、供电领域的投资机会。
核心要点
光互联：CPO 向着机架级规模化部署推进，可插拔光模块依旧具备横向扩展优势。
定制 ASIC 与封装：联发科观察到 3.5D 集成方案获得更多采用，2.5D 封装已经接近物理极限。
存储器架构：SK 海力士借助 MARS 架构与 HBF 技术，着力解决推理算力容量与 KV 缓存瓶颈。
⚡电力与散热：单机架功率突破 200kW，加速推动 800V 直流供电、垂直供电方案以及液冷技术落地。
CPO 方面：光互联规模化落地距离现实越来越近。
️一套搭载 64 颗 XPU、支持 CPO 的计算机架完成演示，展现出加速器之间直连光链路的发展潜力。
随着单通道 200G 电信号逐步逼近物理极限，光互联的规模化部署将愈发重要，对于定制化 XPU 产品尤其如此。
✅但凭借可维护性与成本优势，可插拔光器件仍将在横向扩容场景下保持出货量领先地位。
⚠️封装良率、光纤对准、可靠性依旧是 CPO 商业化落地的核心挑战。
先进封装：行业发展正在超越传统 2.5D 方案。
联发科提到部分定制 ASIC 设计已经接近 10 倍光罩尺寸。
3.5D 集成方案相比传统 2.5D 互联，可实现约 10 倍的芯片间能效提升。
管理层预计未来 3‑5 年 3.5D 集成的渗透率将持续上行。
联发科同时强调定制化 HBM、专用芯片间互联接口、DTCO 设计协同优化的重要性。
随着系统复杂度持续抬升，先进封装、定制 ASIC 设计服务迎来结构性机会。
存储器：带宽之外，存储容量同样变得至关重要。
SK 海力士推出 MARS 解耦内存架构。
⚡借助共享 KV 缓存访问而非重复计算，该架构可将首 token 生成耗时提升 3‑5 倍。
HBF 目标实现约 HBM 一半的带宽，但容量达到 HBM 的 14 倍，样品预计 2028 年初推出。
推理工作负载将越来越需要融合 HBM、DRAM、NAND 的异构内存架构，存储器应用范围有望跳出传统 GPU 外挂 HBM 的范畴。
电力与散热：成为下一级别的系统层面约束条件。
❄️6 千瓦级双面冷板、垂直供电、先进微通道冷却方案完成演示，凸显散热压力持续加剧。
向 800V 直流供电转型，能够降低电能转换损耗、提升功率密度。
️与此同时，AMD Helion 智能体 AI 机架架构表明，在 GPU 基础设施之外，CPU 的增量需求同样会得到拉动。
️供电能力、先进冷却、系统集成能力，将会成为越来越关键的差异化竞争要素。
作者声明： 本文转载自第三方，旨在提供资讯参考，并非证券推荐或投资建议。作者对内容的真实性、准确性不承担保证责任。本文不构成任何投资建议或证券推荐。截至发文日，作者与文中提及的标的不存在持仓关系。