据报道,DeepSeek 已经在预训练 V5,这是一个约 2 万亿参数的超稀疏 MoE 模型。
而且,他们据说不是在 NVIDIA GPU 上训练,而是使用华为的新 Ascend 950 / 950DT 芯片运行 V5 预训练任务,一队华为内核工程师亲自在 DeepSeek 的办公室里工作,以保持集群的正常运转。
如果 DeepSeek 能在 Ascend 950 芯片上原生运行一个 2 万亿参数的前沿模型,那将彻底改变整个 AI 硬件的故事。
作者声明: 本文转载自第三方,旨在提供资讯参考,并非证券推荐或投资建议。作者对内容的真实性、准确性不承担保证责任。本文不构成任何投资建议或证券推荐。截至发文日,作者与文中提及的标的不存在持仓关系。