巨头加码,AI泡沫来袭?

加码基础设施投资、抢占竞争制造点的同时,能否在此基础上形成强大的生态系统,进而形成商业闭环,却更为关键。AI军备竞赛会否导向算力泡沫,也值得市场警惕。

责任编辑:黄金萍

2025224-28日,DeepSeek陆续开源FlashMLADeepEPDeepGEMM3FS项目,以及DualPipeEPLB等代码库,并在其开源周收尾时,放了一枚深水炸弹。

31日,DeepSeek发布《DeepSeek-V3/R1推理系统概览》,公开其模型理论成本利润率可达545%

DeepSeek-V3/R1推理系统的优化目标是更大的吞吐更低的延迟。为此,DeepSeek使用大规模跨节点专家并行(Expert Parallelism/EP):首先EP使得batch size增加,从而提高GPU矩阵乘法效率,提高吞吐;其次EP使得专家分散在不同的GPU上,每个GPU只需对应很少的专家(因此访存需求更少),从而降低延迟。

22712:00-22812:0024小时内,DeepSeek V3R1推理服务占用节点总和峰值为278个节点,平均

登录后获取更多权限

立即登录

校对:赵立宇

欢迎分享、点赞与留言。本作品的版权为南方周末或相关著作权人所有,任何第三方未经授权,不得转载,否则即为侵权。

参与评论