至暗时刻,但看好国产大模型
指数的暴跌使得WAIC这个会关注的人少了,但其实WAIC上有很多超预期的看点,华为的超节点肯定是其中之一,这些都是值得我们预先整理和前瞻的,行情企稳后,自然有发酵的可能。
以下是华为廖恒与张小珺WAIC播客预览版整理:
1.内容来自于BV1BnNZ6kEeZ,WAIC大会录播视频,B站号张小珺商业访谈录后续会发布完整版本,目前只有预览版;
2.说下我自己想说的:首先我建议大家时间充裕的话可以看原视频,能更流畅理解相关内容。
这个播客对我最有启发的部分是关于单个gpu性能上限的讨论,即:
A.目前对于大模型的日常推理使用更多的瓶颈和需求在内存(HBM)和通信,GPU的重要度可能没有那么高
B.GPU性能和大模型参数是最容易提升的(相对),但是性能外的东西并不,换而言之,ai是一个产业,除了GPU和大模型外还有外围的散热 基建 通信 电力 等等,这是一个需要集中力量办大事这个能力的场合,总结一下就是AI比拼的是综合实力,单个长板太长没有任何意义,整个体系会崩溃在最薄弱的任意一环(参考现在的内存),目前看来谁能在这场比赛中获胜已经能得出结论了,世界是物理的,不是戴森球游戏,你点下鼠标写个文件就能拉一条产线铺一个工厂出来,如果总体产能没达到,后续会出现更多的窟窿更多的问题,直至整个国家生产力被榨干。
C.英伟达目前走到了一条不太对的路上,这也是我用这个标题的原因,尝试拓展单个GPU上限必然会更快的撞墙,目前看来做集群化和对通信优化才是硬件部分优化和提升的正确思路。但是英伟达这块进度不太如预期,甚至说完全赶不上国内各大厂商的思路,之后如果调头或者修改路线会造成更大开销;
4.根据目前访谈结果,我得出的结论是:mate90的提升可能会超出我的预期华为后续半导体产品可能会全线受益于τ定律的发展。

作者声明: 本文转载自第三方,旨在提供资讯参考,并非证券推荐或投资建议。作者对内容的真实性、准确性不承担保证责任。本文不构成任何投资建议或证券推荐。截至发文日,作者与文中提及的标的不存在持仓关系。