计算机|DeepSeek V3发布,加速AI应用落地

财富   财经   2024-12-30 08:23   北京  

杨泽原  丁奇  马庆刘  孙竟耀

近日,DeepSeek-V3的正式发版引起AI业内广泛高度关注,其在保证了模型能力的前提下,训练效率和推理速度大幅提升。我们认为,DeepSeek新一代模型的发布意味着AI大模型的应用将逐步走向普惠,助力AI应用广泛落地;同时训练效率大幅提升,亦将助力推理算力需求高增。我们持续看好AI产业链的加速落地机遇,建议重点关注AI应用、AI Infra、AI算力三大主线。


事项:


12月26日,DeepSeek-V3(深度求索)首个版本正式发布并同步开源,已在网页端和API全面上线。其在训练效率和推理速度上相较历史模型有了大幅提升,同时可保证领先的模型能力表现,引起业内高度关注。



模型:数学、代码等能力优异,API性价比较高。


参考官方论文,DeepSeek v3为6710亿参数MoE架构模型,激活37B,在14.8T token上进行了预训练。能力上,模型暂不支持多模态输入,但在通识和专业知识测试集上表现优秀,MMLU pro正确率75.9%,GPQA-Diamond正确率59.1%,达到国内第一梯队,接近Claude 3.5 Sonnet的水平;并且在数学和代码领域测试表现突出,MATH 500正确率90.2%,SWE-bench正确率42.0%,Codeforces得分51.6,超越所有非o系列模型。模型生成速度达到60TPS,是前代模型的三倍。定价上,API定价为输入每百万tokens 0.5元(缓存命中)/2元(缓存未命中),输出每百万tokens 8元,与字节Doubao-pro-256k定价输入每百万tokens 5元,输出每百万tokens 9元的水平相当,在国产模型中性价比较高。



应用:国产模型能力提升、价格下降,支撑全领域AI应用加速。


豆包pro、DeepSeek v3等国产模型连续发布。模型能力上,国产模型在文本和知识能力上接近GPT-4、Claude、Llama等海外前沿模型水平,多模态能力逐步完备,逻辑和代码能力在非o1技术路线下达到可用水平。价格上,国产模型API百万tokens输出普遍定价10元以内,是GPT-4o的1/3甚至更低。我们预计模型性价比持续提升下,国内AI应用依托丰富生态和成熟流量加速各领域落地。其中,Agent模式有望以更长的任务流程、更好的场景理解、更高的自主能力,成为所有互联网用户的数字助手,在企业管理、教育、办公、金融等领域展现应用价值。



算力:DeepSeek训练效率大幅提升,助力推理算力需求高增。


1)训练效率大幅提升,GPT4的训练成本约为DeepSeek V3的6.2倍。根据DeepSeek V3的官方技术文档,本次DeepSeek的训练仅使用了2048个H800 GPU,总训练GPU卡时为2788千小时(其中预训练为2664千小时),平均到每个GPU上,仅为1361小时,约合56.7天。与之相对比,根据英伟达CEO黄仁勋在GTC2024上的演讲内容,GPT-4 MoE使用8000个H100训练了90天,合计约为17280千卡时,相当于DeepSeek V3的6.2倍。


2)训练效率提升归因:我们认为DeepSeek V3训练提效的原因主要包括低精度计算、小参数量、高质量数据等方面。精度方面,根据英伟达官方文档,其GPU的8位精度算力通常是16位精度算力的2倍,因此数据精度从FP16降低到FP8可以贡献一倍效率提升。参数方面,GPT-4 MoE模型总参数量达到1800B,而按照DeepSeek V3官方文档,其总参数量只有671B,约为GPT-4 MoE的1/3,同时,DeepSeek的激活参数大约为37B,而GPT4-MoE每次推理激活的参数量约为280B,二者约为7.57倍关系;数据方面,GPT-4 MoE使用了13万亿(1300B)token,而DeepSeek V3使用的token数量约为14.8万亿(1480B),数据量相差不大,但DeepSeek V3技术文档提及了使用模型生成训练数据等,因此我们认为数据质量或有较大幅度提升。此外,采用负载均衡、更好的流水线策略亦是其官方提及的提升训练效率的重要原因


3)从推理侧助推AI普惠,带动推理算力需求倍增,打开更广阔算力市场空间。我们认为,DeepSeek模型相比GPT4模型更小的参数量也意味着更低的推理成本,推理成本的降低,将是AI应用普及的前奏,正如4G提速降费给我国移动互联网产业提供了助力。当前AI应用渗透率仍然较低,产业仍在早期,根据我们在2024年12月13日外发的报告《计算机行业“智能网联”系列报告54—算力需求测算:Agent+Sora》,随着Agent成为流量入口,渗透率达到30%左右,全球Agent的推理token数量将增长3个数量级以上,且视频生成与实时视频理解等形态的AI同样有望带来巨量需求增长,并且根据我们对视频生成模型的测算,视频推理算力需求将有望达到训练算力需求的2-3个数量级以上。算力需求的指数级提升与模型训练推理成本的下降将构成产业飞轮,带动全产业链扩张,随着AI进一步普及到日常生活与产业当中,我们认为推理算力需求将仍然驱动AI算力产业链持续增长。



风险因素:


AI核心技术发展不及预期,AI被不当使用造成严重社会影响,企业数据安全风险,信息安全风险,行业竞争加剧。



投资策略:建议关注AI全产业相关投资机会,综合梳理以下投资主线:


1)AI 应用:伴随模型能力升级,Agent等应用形式有望加速落地,带动办公、教育、管理、端侧、具身智能等应用领域公司加速兑现业绩弹性。


2)AI Infra:模型场景化与行业化发展催生数据服务和模型平台需求,产业发展确定性高。


3)AI算力:AI应用加速落地带动推理端算力新需求。








本文节选自中信证券研究部已于当日发布的《晨会》报告,具体分析内容(包括相关风险提示等)请详见报告。若因对报告的摘编而产生歧义,应以报告发布当日的完整内容为准。


本资料所载的证券市场研究信息是由中信证券股份有限公司(以下简称“中信证券”)的研究部编写。中信证券研究部定位为面向专业机构投资者的卖方研究团队。通过微信形式制作的本资料仅面向中信证券客户中的金融机构专业投资者,请勿对本资料进行任何形式的转发行为。中信证券不因任何订阅本公众号的行为而将订阅人视为中信证券的客户。若您并非中信证券客户中的金融机构专业投资者,为保证服务质量、控制投资风险,应首先联系中信证券机构销售服务部门或经纪业务系统的客户经理,完成投资者适当性匹配,并充分了解该项服务的性质、特点、使用的注意事项以及若不当使用可能会带来的风险或损失,在此之前,请勿订阅、接收或使用本订阅号中的信息。本资料难以设置访问权限,若给您造成不便,还请见谅!感谢您给予的理解和配合。若有任何疑问,敬请发送邮件至信箱kehu@citics.com。

重要声明:


本资料定位为“投资信息参考服务”,而非具体的“投资决策服务”,并不涉及对具体证券或金融工具在具体价位、具体时点、具体市场表现的判断。需特别关注的是(1)本资料的接收者应当仔细阅读所附的各项声明、信息披露事项及风险提示,关注相关的分析、预测能够成立的关键假设条件,关注投资评级和证券目标价格的预测时间周期,并准确理解投资评级的含义。(2)本资料所载的信息来源被认为是可靠的,但是中信证券不保证其准确性或完整,同时其相关的分析意见及推测可能会根据中信证券研究部后续发布的证券研究报告在不发出通知的情形下做出更改,也可能会因为使用不同的假设和标准、采用不同观点和分析方法而与中信证券其它业务部门、单位或附属机构在制作类似的其他材料时所给出的意见不同或者相反。(3)投资者在进行具体投资决策前,还须结合自身风险偏好、资金特点等具体情况并配合包括“选股”、“择时”分析在内的各种其它辅助分析手段形成自主决策。为避免对本资料所涉及的研究方法、投资评级、目标价格等内容产生理解上的歧义,进而造成投资损失,在必要时应寻求专业投资顾问的指导。(4)上述列示的风险事项并未囊括不当使用本资料所涉及的全部风险。投资者不应单纯依靠所接收的相关信息而取代自身的独立判断,须充分了解各类投资风险,自主作出投资决策并自行承担投资风险。


本订阅号中的所有资料版权均属中信证券。不得以任何方式修改、发送或复制本订阅号中的内容。除经中信证券认可的情况外,其他一切转载行为均属违法。版权所有,违者必究。


中信证券研究
中信证券研究官方公众号,“一号在手,投资无忧!”
 最新文章