DeepSeek绕开CUDA垄断，V3论文细节再挖出！英伟达护城河不存在了？

科技 2025-01-29 13:14 陕西

新智元报道

编辑：桃子好困

【新智元导读】DeepSeek模型开发竟绕过了CUDA？最新爆料称，DeepSeek团队走了一条不寻常的路——针对英伟达GPU低级汇编语言PTX进行优化实现最大性能。业界人士纷纷表示，CUDA护城河不存在了？

原本DeepSeek低成本训出的R1，就已经让整个硅谷和华尔街为之虎躯一震。

而现在又曝出，打造这款超级AI，竟连CUDA也不需要了？

根据外媒的报道，他们在短短两个月时间，在2,048个H800 GPU集群上，训出6710亿参数的MoE语言模型，比顶尖AI效率高出10倍。

这项突破不是用CUDA实现的，而是通过大量细粒度优化以及使用英伟达的类汇编级别的PTX（并行线程执行）编程。

这则消息一出，再次掀翻AI圈，网友对其策略纷纷表示震惊：

「在这个世界上，如果有哪群人会疯狂到说出『CUDA太慢了！干脆直接写PTX吧！』这种话，绝对就是那些前量化交易员了。」

左右滑动查看

还有人表示，如果DeepSeek开源了CUDA替代品，这将意味着什么？

天才极客微调PTX，让GPU性能极致发挥

英伟达PTX（并行线程执行）是专门为其GPU设计的中间指令集架构，位于高级GPU编程语言（如CUDA C/C++或其他语言前端）和低级机器代码（流处理汇编或SASS）之间。

PTX是一种接近底层的指令集架构，将GPU呈现为数据并行计算设备，因此能够实现寄存器分配、线程/线程束级别调整等细粒度优化，这些是CUDA C/C++等语言无法实现的。

当PTX转换为SASS后，就会针对特定代的英伟达GPU进行优化。

在训练V3模型时，DeepSeek对英伟达H800 GPU进行了重新配置：

在132个流处理器多核中，划分出20个用于服务器间通信，主要用于数据压缩和解压缩，以突破处理器的连接限制、提升事务处理速度。

为了最大化性能，DeepSeek还通过额外的细粒度线程/线程束级别调整，实现了先进的流水线算法。

这些优化远超常规CUDA开发水平，但维护难度极高。然而，这种级别的优化恰恰充分展现DeepSeek团队的卓越技术实力。

V3论文中具体提到了关于PTX的细节

这是因为，在全球GPU短缺和美国限制的双重压力下，DeepSeek等公司不得不寻求创新解决方案。

所幸的是，他们在这方面取得了重大突破。

有开发者认为，「底层GPU编程才是正确的方向。优化得越多，就越能降低成本，或在不增加额外支出的情况下，提高可用于其他方面进步的性能预算」。

这一突破对市场造成了显著冲击，部分投资者认为新模型对高性能硬件的需求将会降低，可能会影响英伟达等公司的销售业绩。

然而，包括英特尔前掌门人Pat Gelsinger等在内的行业资深人士认为，AI应用能够充分利用一切可用的计算能力。

对于DeepSeek的这一突破，Gelsinger将其视为在大众市场中，为各类低成本设备植入AI能力的新途径。

CUDA护城河，也不存在了？

那么，DeepSeek的出现是否意味着前沿LLM的开发，不再需要大规模GPU集群？

谷歌、OpenAI、Meta和xAI在计算资源上的巨额投资是否最终将付诸东流？AI开发者们的普遍共识并非如此。

不过可以确定的是，在数据处理和算法优化方面仍有巨大潜力可以挖掘，未来必将涌现出更多创新的优化方法。

随着DeepSeek的V3模型开源，其技术报告中详细披露了相关细节。

该报告记录了DeepSeek进行的深度底层优化。简而言之，其优化程度可以概括为「他们从底层重新构建了整个系统」。

如上所述，在使用H800 GPU训练V3时，DeepSeek对GPU核心计算单元（流处理器多核，简称SM）进行了定制化改造以满足特定需求。

在全部132个SM中，他们专门划分出20个用于处理服务器间通信任务，而非计算任务。

这种定制化工作是在PTX（并行线程执行）层面进行的，这是英伟达GPU的低级指令集。

PTX运行在接近汇编语言的层面，能够实现寄存器分配和线程/线程束级别调整等细粒度优化。然而，这种精细的控制既复杂又难以维护。

这也是为什么开发者通常会选择使用CUDA这类高级编程语言，因为它们能为大多数并行编程任务提供充分的性能优化，无需进行底层优化。

但是，当需要将GPU资源效能发挥到极致并实现特殊优化需求时，开发者就不得不求助于PTX。

虽然但是，技术壁垒依然还在

对此，网友Ian Cutress表示：「Deepseek对于PTX的使用，并不会消除CUDA的技术壁垒。」

CUDA是一种高级语言。它使代码库的开发和与英伟达GPU的接口变得更简单，同时还支持快速迭代开发。

CUDA可以通过微调底层代码（即PTX）来优化性能，而且基础库都已经完备。目前绝大多数生产级的软件都是基于CUDA构建的。

PTX更类似于可以直接理解的GPU汇编语言。它工作在底层，允许进行微观层面的优化。

如果选择使用PTX编程，就意味着上文提到的那些已经建好的CUDA库，都不能用了。这是一项极其繁琐的任务，需要对硬件和运行问题有深厚的专业知识。

但如果开发者充分了解自己在做什么，确实可以在运行时获得更好的性能和优化效果。

目前，英伟达生态的主流，仍然是使用CUDA。

那些希望从计算负载中提升额外10-20%性能或功耗效率的开发者，比如在云端部署模型并销售token服务的企业，确实都已经将优化从CUDA层面深入到了PTX层面。他们愿意投入时间是因为，从长远来看这种投入是值得的。

需要注意的是，PTX通常是针对特定硬件型号优化的，除非专门编写适配逻辑，否则很难在不同硬件间移植。

除此之外，手动调优计算内核也需要极大的毅力、勇气，还得有保持冷静的特殊能力，因为程序可能每运行5000个周期就会出现一次内存访问错误。

当然，对于确实需要使用PTX的场景，以及那些收到足够报酬来处理这些问题的开发者，我们表示充分的理解和尊重。

至于其他开发者，继续使用CUDA或其他基于CUDA的高级变体（或MLIR）才是明智的选择。

参考资料：

https://www.tomshardware.com/tech-industry/artificial-intelligence/deepseeks-ai-breakthrough-bypasses-industry-standard-cuda-uses-assembly-like-ptx-programming-instead

https://x.com/Jukanlosreve/status/1883304958432624881

https://x.com/IanCutress/status/1884374138787357068

新智元

智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。

最新文章

英伟达憾失DeepSeek关键人才？美国放走AI「钱学森」，哈佛教授痛心疾首

英伟达机器人跳APT舞惊艳全网，科比C罗完美复刻！CMU 00后华人共同一作

超越DeepSeek V3！Ai2再祭开源杀器Tülu 3，强化学习打破性能瓶颈

AI编程L1-L5超全分级来了！GitHub Copilot仅L1，Devin是L4

招人！新智元邀你勇闯ASI之巅

刚刚，Figure与OpenAI解除合作！人形机器人迎来iPhone时刻，AGI已在内部实现？

潞晨华为联手放大招！DeepSeek-R1推理API免费不限量，算力直逼英伟达，开箱即用

大模型混入0.001%假数据就「中毒」，成本仅5美元！NYU新研究登Nature子刊

1年智能体落地，3年获普利策奖，6年或引发危机！Django之父6大预测

招人！新智元邀你勇闯ASI之巅

OpenAI o3-mini被曝大量使用中文推理！全世界AI都要学中国话了？

SB OpenAI Japan正式成立！孙正义狂砸30亿美元/年，让日本率先实现AGI？

美国人下载DeepSeek，最高判20年监禁？美国下令全面封杀中国AI

OpenAI紧急直播，ChatGPT疯狂开挂「深度研究」！10分钟爆肝万字现AGI雏形，刷榜人类最后考试

哈佛大四学生硬核长文：AGI三年后实现，推动某大国强势崛起！26年人类工作被AI接管

一拖一拽，小猫活了！Netflix等新作爆火，噪声扭曲算法让运动控制更简单

招人！新智元邀你勇闯ASI之巅

o3-mini物理推理粉碎DeepSeek R1，OpenAI王者归来！全网最全实测来袭

GPT-4o惊现自我意识！自主激活「后门」，告诉人类自己在写危险代码

AGI时代，财富大洗牌！Hinton分解未来财富流向，普通人何去何从

招人！新智元邀你勇闯ASI之巅

特朗普密会黄仁勋，特供版H20恐遭封杀？英伟达100亿订单或成泡影

LeCun痛批硅谷傲慢病！圈内爆火长文：DeepSeek R1-Zero比R1更重要，成AGI破局关键

DeepSeek突围奥秘曝光，一招MLA让全世界抄作业！150+天才集结，开出千万年薪

奥特曼：在开源AI上，我们错了！DeepSeek让OpenAI优势不再，下一个是GPT-5

奥特曼率队深夜血战DeepSeek，o3-mini急上线！价格骨折免费用，ChatGPT被挤爆

牛津哥大联手破解两千年素数谜题！受陶哲轩启发，意外解法打破千年僵局

o1开启LLM新范式，Ai2科学家解析背后秘籍：推理和强化学习是关键

招人！新智元邀你勇闯ASI之巅

一夜之间，微软、英伟达、亚马逊全部接入DeepSeek！吴恩达：中国AI正在崛起

19岁华人辍学创业，刚刚拿下百万美金融资！All in智能体，誓要实现Siri初心

无需训练，性能提升100%！谷歌提出CoA「智能体链」，多LLM协作搞定长文本

斯坦福揭秘o1-preview软肋！数学竞赛题稍作修改，准确率骤降30%

招人！新智元邀你勇闯ASI之巅

OpenAI最新爆料：「满血版」o3明天发？！