一、DeepSeek 崛起：AI 训练的新路径
在 AI 领域，训练顶级模型的成本通常高达数亿美元。OpenAI、Anthropic 这样的公司，需要庞大的数据中心、数万张高端 GPU 以及大量资金投入，才能支撑顶级 AI 模型的训练。
然而，DeepSeek 的 R1 模型却以极低的计算资源，取得了媲美 GPT-4 的性能。这一突破在全球 AI 领域引发了极大关注，甚至影响了科技巨头的市场策略：
GitHub 屠榜：DeepSeek R1 在 GitHub Trending 上占据前列，引发全球开发者热议。
Meta & OpenAI 紧急应对：Meta AI 团队连夜优化 LLaMA，OpenAI 也开始重新审视自己的训练策略。 行业关注 DeepSeek 训练方法：全球 AI 研究机构开始研究 DeepSeek 开源的训练方法，希望借鉴其优化策略。
DeepSeek 并没有发明新的 AI 训练范式，它仍然使用 Transformer 架构，依然运行在 CUDA 之上，依赖英伟达的 GPU 和 NVLink 互联。但它通过一系列极致的工程优化，让训练变得更高效、更低成本。
那么，DeepSeek 到底是如何做到的？
二、如何降低 AI 训练成本？DeepSeek 的核心技术突破
DeepSeek 之所以能用更少的算力训练出强大的模型，关键在于对 AI 训练过程的极致优化，而不是改变 AI 训练的底层范式。
(1) 混合专家模型（MoE）——只用必要的计算资源
传统大模型在训练时，所有参数都处于激活状态，计算成本极高。而 DeepSeek 采用混合专家模型（Mixture of Experts, MoE），让模型在不同任务中只激活部分专家，从而节省计算资源： ✅ 模型总参数量 671B，但运行时仅激活 37B，相比 GPT-4 这种全参数激活的模式，大幅降低计算需求。 ✅ 动态专家调度，根据任务需求调用最适合的子模型，而不是让所有参数都参与计算。 ✅ “自然负载均衡”机制，保证计算资源被最有效地利用，减少计算浪费。
MoE 相当于一个庞大的 AI 专家团队，每次只调用需要的专家，而不是让整个团队同时工作。
(2) 多令牌预测（MTP）——提高 AI 训练效率
传统大模型在训练时，是按照逐个 token 进行预测，比如 “The... cat... sat...”，像小学一年级的学生在逐字阅读。而 DeepSeek R1 采用多令牌预测（MTP, Multi-token Prediction），一次预测多个 token，极大提高了训练效率： ✅ 可以一次处理完整的短语，而不是逐字预测，使得训练速度提升 2 倍。 ✅ 在处理大规模文本数据时，计算效率显著提高，尤其适用于大规模数据训练。 ✅ 在不影响准确率的前提下，降低计算成本，因为减少了不必要的重复计算。
多令牌预测让 AI 训练变得更加高效，避免了“逐字阅读”的低效方式。
(3) 多头潜在注意力（MLA）——智能分配计算资源
传统 AI 训练使用固定的注意力机制，会给每个 token 分配相同的计算量。但 DeepSeek 采用多头潜在注意力（MLA, Multi-head Latent Attention），让模型动态调整计算资源： ✅ 动态注意力机制，让计算资源集中在重要信息上，而不是均匀分配。 ✅ 降低内存占用，提高计算效率，相比 GPT-4 这种固定注意力机制，更加节省计算资源。 ✅ 提升模型的语义理解能力，尤其在长文本处理方面，表现更优。
MLA 让计算资源更加精准地分配，而不是“平均分摊”，从而提升训练效率。
(4) 代码级优化——DeepSeek 具备修改 CUDA 的能力
DeepSeek 不是简单地使用现成的 CUDA 计算框架，而是直接修改 CUDA 代码，以实现更高效的计算调度。这表明： ✅ DeepSeek 团队对底层计算架构有深度优化能力，可以针对特定 AI 计算任务进行微调。 ✅ 能够根据 Tensor Core FP8 计算特性，优化浮点计算精度，进一步降低计算需求。 ✅ 即使仍然依赖英伟达 GPU，也能最大化算力利用率，减少不必要的计算损耗。
DeepSeek 的优化不仅仅停留在模型架构层面，还深入到底层计算框架，让 AI 训练效率最大化。
三、DeepSeek团队文化：极致优化背后的工程师文化
DeepSeek的成功，远不止于技术层面的突破，更深层的动力来自其独特的工程师文化。这种文化以信任为基石，以创新为导向，让顶尖人才能够真正施展才华。
精英人才战略：以实力塑造核心竞争力
顶尖人才荟萃
清华北大为主的精英团队：核心成员多来自顶尖高校，在计算机科学和数学领域有着深厚积累 95后AI"天才少女"罗福莉：19岁就在顶会ACL发表8篇论文（含2篇一作），作为DeepSeek-V2核心开发者展现非凡才华 竞赛金牌加持：团队汇集多位奥赛金牌获得者，在算法优化和数学建模方面具备天然优势
DeepSeek选择以"精英团队+极致工程"的模式，而非简单的人才规模扩张，这种策略让团队始终保持高效且富有创造力。
信任为本的管理哲学
长期主义思维
摒弃短期KPI压力：不以季度OKR定义团队价值，允许研究人员追求真正的技术突破 容忍试错与创新：理解重大创新往往需要漫长的探索期，接受阶段性的"失败" 重视长期投入：在人才培养和技术积累上采取长远规划，不因短期效益影响战略方向
扁平化治理
决策链条短：工程师可以直接参与重要决策，避免层层审批带来的效率损失 最小化管理干预：相信专业人才的判断，减少不必要的行政管控 开放的技术氛围：鼓励跨团队协作和技术分享，打破信息孤岛
资源充分授权
算力自主调配：团队可以根据研究需要灵活使用GPU资源，不受项目预算限制 技术路线自主：工程师有充分的自由选择技术方案，而非被迫遵循固定模式 创新激励机制：重视突破性成果，而非简单的工作量考核
信任文化的核心价值
DeepSeek的信任文化体现在三个层面：
对人才的信任
相信优秀人才能够自我驱动 给予充分的专业自主权 容忍创新过程中的不确定性
接受创新的长周期特性 不过分强调短期回报 鼓励大胆尝试和突破
减少过度的流程管控 培养团队的自组织能力 建立开放透明的协作环境
这种以信任为基础的文化，让DeepSeek能够：
吸引并留住顶尖人才 保持持续的创新动力 实现技术的重大突破
DeepSeek的实践证明，在AI这样一个高度创新的领域，信任不仅是一种管理方式，更是创新的基础设施。只有真正建立起对人才、对创新的深度信任，才能释放团队的最大潜能，实现突破性的技术创新。
四、行业冲击：AI 训练进入“精细化”时代
DeepSeek 的成功，带来了三个核心行业影响：
(1) AI 训练的“平民化”
过去，AI 训练一直是科技巨头的专属游戏，需要数亿美元的计算资源。DeepSeek 证明，只要方法得当，小团队也能训练顶级 AI。
这削弱了 OpenAI、Anthropic、Meta 等巨头的壁垒，使得更多公司和创业团队有机会进入大模型竞争。
(2) Meta 可能成为 DeepSeek 的对手
DeepSeek 目前采用 MIT 开源协议，但未来是否继续开源仍未确定。美国可能会扶持 Meta 的 LLaMA 3，让其成为 DeepSeek 在开源大模型领域的直接竞争对手。
(3) 英伟达的 GPU 依然是核心
尽管 DeepSeek 降低了训练成本，但它依然依赖英伟达的 GPU。短期内，GPU 需求不会减少，英伟达仍然是 AI 时代最大的受益者之一。
五、结语
DeepSeek R1的出现，并没有推翻AI训练的基本范式，但通过极致的工程优化，它让AI训练变得更高效、更低成本。当我们回望这一刻，或许会惊讶地发现：DeepSeek的横空出世，正是AI领域迈向"效率革命"的关键拐点。
这种变革的影响正在各个领域显现。在一篇被广泛传播的文章中，DeepSeek表示愿意"做大家代码荒野里的火柴"。这种开放共享的理念，也影响着包括群核科技等在内的众多技术公司。这印证了一个事实：技术创新的浪潮正在重塑整个行业格局，推动着各个领域的效率提升与变革。
然而，我们也需要保持清醒的认识。通过详细对比OpenAI O1和DeepSeek R1的表现可以看出，详情可以看我24号写的公众号文章（DeepSeek-R1真的吊打满血版o1？我们是否可以取消chatGPT的订阅？）虽然R1在数学、编程等领域已经不输O1，但在软推理和语义理解方面还存在一定差距。对于这个年轻的团队来说，这不是终点，而是新的起点。未来的路还很长，让我们以更理性的态度，见证他们的成长与突破。
如果你觉得今天的分享有帮助，记得点赞、收藏并转发。也欢迎在评论区讨论关于DeepSeek的任何问题，我作为AI行业的从业人员，也可以在评论区发表一些看法。
