近期一份关于AI硬件架构的技术问答文档，揭示了以**谷歌（Google）**为核心的多项前沿技术动向与战略布局。文档内容聚焦于AI计算基础设施的后摩尔时代创新，涉及谷歌自研芯片（TPU）、内存子系统革新（CXL）、以及面向下一代AI模型的异构计算架构。本文将对文档信息进行系统性梳理与深度解读，剖析谷歌在AI硬件领域的战略意图、技术路径及其对行业竞争格局的潜在影响。
一、核心战略定位：构建以TPU为中心的垂直整合体系
文档明确指出，谷歌的训练任务已全部基于自研的TPU（张量处理单元）完成。这是一个标志性的战略成果，意味着谷歌成功地将最核心、最耗资源的AI模型训练环节，从对英伟达GPU的依赖中彻底解放出来，构建了从算法、框架（TensorFlow/JAX）到硬件的全栈可控生态。
更为关键的是，谷歌自研芯片的成本优势显著。文档透露，其成本比英伟达解决方案低至少一半，且“无高额毛利”。这并非简单的价格战，而是反映了两种不同的商业模式：英伟达作为通用硬件供应商，需要通过高毛利支撑研发与股东回报；而谷歌将芯片视为其庞大AI服务与云业务的“成本中心”，目标是最大化性价比以支撑海量内部需求并吸引云客户。谷歌云中“仅少量配备英伟达显卡供客户租赁”，进一步印证了其优先推广自有TPU生态的战略导向。
二、推理场景分化与架构演进：从CPX淘汰到PAF分离
文档清晰地勾勒出AI推理基础设施快速迭代的图景，其中淘汰与演进并存。
CPX方案的淘汰：曾占20%份额的CPX方案现已基本归零。其核心败因在于僵化的资源配比无法匹配多样化的模型场景需求，导致严重的资源浪费。这反映出早期专用架构在面对爆炸式增长的模型类型（不同尺寸、结构、稀疏性）时的局限性。
向PAF分离状态的演进：文档提到，PD（Prefill与Decode）分离已演进为PAF三种分离状态。这标志着对Transformer模型计算特性的理解进入更精细的阶段。结合后续关于Rubin架构实现FFN（前馈网络）分离的描述，可以看出，谷歌正致力于将模型中计算特性迥异的部分（如注意力机制、前馈网络）解耦，并分配给最合适的硬件执行，以实现最优的能效与性能。
Prefill阶段的挑战：文档强调了Prefill阶段高并发、计算深度大、内存容量要求极高的特点。这正是驱动内存和互联技术创新的核心痛点之一。
三、内存与互联技术的两大路线博弈：LPU vs. CXL
文档重点对比了应对上述挑战的两种主流技术路线，分别以英伟达和谷歌为代表，呈现出不同的设计哲学与权衡。
1. 英伟达LPU（可能指下一代数据处理单元）路线：追求极致性能
核心技术：采用可编程软件定义数据流架构，依托大容量片上SRAM完成静态图编译，旨在实现极高的计算效率和低延迟。
优势与适配场景：专为7B至70B的稠密小模型优化，非常适合对延迟极其敏感的实时交互场景（要求低于300ms，甚至毫秒/微秒级）。
致命缺陷：片上SRAM容量仅50MB，这在面对大模型，尤其是FFN部分的海量参数时，成为严重瓶颈。其存储能力的有限性从根本上制约了其支持的模型规模和上下文长度。
2. 谷歌CXL内存池化路线：追求极致扩展性与容量
核心技术：利用CXL（Compute Express Link）协议实现内存池化，将昂贵的高性能DDR内存高效用于推理。
核心优势：
容量近乎无限：可构建数十TB级别的系统内存容量，轻松容纳巨型模型的参数和超长的KV Cache。
支持超长上下文：KV Cache可直接驻留于CXL内存，实现延迟稳定无抖动，这对长文档处理、代码生成等应用至关重要。
主要劣势：通信性能较弱。相比LPU方案，其延迟高一个数量级，带宽低一个数量级。
适配场景：因此，谷歌方案更适合离线批处理、异步任务，如文档摘要、批量翻译等吞吐量优先的场景。
结论：这实质上是**“片上紧耦合存储”与“可扩展外部分离存储”** 的经典架构权衡。LPU路线像“跑车”，为特定赛道（小模型、低延迟）追求极致性能；而谷歌CXL路线像“重卡”，为重型任务（大模型、长上下文、高吞吐）追求巨大的负载能力和成本效益。两者分别定义了推理加速的不同维度。
四、生态系统与供应链的深远影响
文档中提及的其他信息，也折射出更广泛的产业生态变化：
竞争格局：Marvell设计的芯片可能与Astera Labs（CXL芯片领域领导者）竞争，并由三星流片，不占用台积电先进封装产能。这表明在AI基础设施的细分赛道（如CXL控制器、互联芯片）正涌现新的玩家，且供应链呈现多元化趋势，以缓解对单一晶圆厂产能的依赖。
网络架构创新：OFC大会后出现的OCS（光电路交换）技术、拓扑蜻蜓架构、谷歌磁分离架构，以及长距离独立机柜可复用OCS网络的描述，预示着下一代数据中心网络正在向更高带宽、更低延迟、更灵活重构的方向演进，以匹配分布式AI计算的需求。
动态配比与成本控制：Marvell芯片与TPU的配比约为3:1且动态调整，这体现了系统级优化的精细化，通过异构组合和弹性资源分配来追求总拥有成本（TCO）的最优解。
总结与展望
通过对这份文档的解读，我们可以清晰地看到谷歌AI基础设施战略的三大支柱：
垂直整合，成本领先：以自研TPU为核心，掌控训练主权，并通过去除商业毛利获得显著成本优势，夯实其AI服务的竞争力基石。
场景驱动，架构解耦：深刻洞察推理场景分化（实时vs.批量，小模型vs.大模型），推动计算架构从粗放走向精细（PAF分离），并为不同场景匹配最优技术路径（如为吞吐场景押注CXL）。
拥抱开放，生态布局：在内存池化（CXL）、网络（OCS）等关键接口层面，积极采用或推动行业标准与新技术，构建更开放、可扩展的硬件生态，同时培育多元供应链。
未来，AI硬件战场将不再是单一的“算力核战争”，而是演变为涵盖计算、内存、互联、网络、软件栈的全体系竞争。谷歌凭借其庞大的业务需求、深厚的研究实力和全栈整合能力，已经走出了一条独特且极具竞争力的道路。其基于CXL的大内存池化路线，如果能在软件栈和编译器层面充分优化以缓解通信瓶颈，很可能成为承载下一代万亿参数模型推理的基石性架构，从而在即将到来的“大模型时代”中，占据至关重要的基础设施优势。这场由谷歌引领的硬件变革，必将深刻重塑全球AI产业的竞争格局。
下一篇我们将分析这场变革中的国内外厂商的机遇。
作者声明： 本文转载自第三方，旨在提供资讯参考，并非证券推荐或投资建议。作者对内容的真实性、准确性不承担保证责任。本文不构成任何投资建议或证券推荐。截至发文日，作者与文中提及的标的不存在持仓关系。