本文系深潜atom第841篇原创作品
透过生成式AI看商汤科技的AI 2.0
孟烦了丨作者
深潜atom工作室丨编辑
大模型和智算已成为引领数字化转型的新质生产力,提升各行业效率势不可挡。8月27日,商汤发布上半年财报。财报显示,商汤科技总营收17.4亿元,同比增长21%。整体毛利润为近8亿元,同比增长18%,毛利率为44%。
其中尤其值得关注的是,商汤已经阶段性完成了从传统AI向生成式AI的转型。2024年上半年,商汤生成式AI业务收入大幅增长256%至近11亿元,占总收入比重的60%。
现如今,国内大模型价格战将市场竞争推向白热化,大模型企业脱颖而出的关键,一个是算力基础,另外一个是大模型服务能力。商汤生成式AI营收增长,核心在于其同时抓住了这两点技术和服务优势。
自2018年起,商汤科技就开始了对于大模型的研发;2021年推出AI基础设施——商汤大装置SenseCore。大装置+大模型的深度协同,在技术迭代更快的同时,还能充分利用庞大的算力资源,来优化推理成本,实现推理弹性,更早地产生规模效应。
在市场层面,具备技术和服务优势,又能够以AI原生公司中立身份和开放合作的姿态,深入到智能硬件、新能源汽车、机器人、医疗、金融等行业细分赛道,让商汤更容易获得客户认可,从而顺利完成战略转型。
“大装置+大模型”深度协同,解决应用端两大基础需求
短短半年时间,生成式AI的市场接受度,已经超过了传统AI。伴随着商汤科技生成式AI的大幅度提升,似乎也昭示着,我们已经一只脚迈入了通用人工智能(AGI)时代。
商汤董事长兼CEO徐立表示,商汤科技全面向生成式AI转型升级的战略目标已阶段性达成,生成式AI迎来黄金发展时期,商汤科技正处于下一波增长的有利位置。
在深潜atom看来,商汤能够快速实现战略转型,背后的核心离不开大模型和大装置的深度协同,这使得商汤能够快速迭代模型并降低推理成本。
大模型井喷的年代,几乎所有公司都已经高度认可大模型的重要性。然而,总有一些公司是超前预判到这一市场的发展轨迹。商汤科技是最早布局生成式AI领域的公司之一,早在2018年起便致力于AI大模型的研发,并且是国内最早一批投入人工智能基础设施的公司之一。
2024年4月,商汤推出“日日新5.0”大模型,并在7月升级为“日日新5.5”。能够在短短半年时间,完成两次大模型的迭代,对商汤科技的技术实力评估,并不能单纯被放到应用层。更为重要的是,商汤科技构建的AI基础设施大装置,其平台规模和算力资源为生成式AI(包括大模型研究及产品开发)的进一步发展打下基础。
算力基础设施的完善为技术突破提供重要支撑,通过SenseCore大装置与生成式AI算法的协同,模型性能和效率不断提升,智算服务的规模化效应已经逐步显露。
在智算服务方面,商汤大装置运营总算力规模已突破20,000P,上线GPU数量达到5.4万张,稳居行业领先地位。具备从千卡集群到万卡集群的设计、建设、和灵活调度运营的成熟能力,能够支持高达2万亿参数的MoE多模态模型的稳定高效训练和推理。在推理场景中,以创新的技术架构实现了相同算力及电力成本下的每秒请求数(QPS)提升4倍,并实现了推理服务弹性按需伸缩,优化了大规模AI推理的整体成本。此外,基于原创的训推一体、算电协同等技术创新,持续提高万卡集群的GPU资源利用率至最高80%以上,提升AIDC的整体运营回报率。
在足够的算力基础上,大模型可以更快速地完成更新迭代。这也是日日新大模型,能够支持多达10T Tokens的中英文训练数据,推理合成数据高达数千亿Token的数据规模下,还能够保持迭代能力,让“日日新5.5”能力对标GPT-4o的原因。
商汤基于“日日新5.5”生成不同规模的模型,以提供全面的企业级生成式AI解决方案,覆盖云端、本地数据中心和终端设备,从而持续赋能各行各业。而大模型和智算成为新质生产力,商汤把握这波机遇,也帮助客户赢得生成式AI时代的收入增长机会。除互联网行业外,智能硬件、新能源汽车、机器人、医疗、金融等行业也积极采用生成式AI技术,形成多个巨大的垂直市场,机遇随之井喷。
大模型进入应用下半场,跨赛道辐射3000+客户
根据IDC近期发布的市场份额报告,商汤的大模型平台及应用以16%市场份额排名行业第二,智算服务以15.4%市场份额跻身行业前三。
商汤生成式AI已深入各行各业,为超过3000家行业头部企业提供大模型及AIDC服务。其中AIDC服务客户包括京东、小米、金山办公等互联网公司、三大运营商、以吉利为代表的车企、以清华为代表的高校、头部大模型创业公司等。
智能汽车也成为了大模型应用赋能的重要领域。2024年上半年,商汤绝影智能汽车新增交付70.5万辆,同比增长80.0%,累计交付车辆数达到260万辆、覆盖104个车型,与奥迪、大众、本田、宝马、小米、上汽智己、吉利等10余家海内外车厂建立车舱大模型的合作。从营收上看,绝影智能汽车业务带来了1.68亿元收入,同比增长100.4%。
2024年4月23日,伴随“日日新 5.0”体系上线,带来了首个面向金融行业的多模态全栈式大模型,结合海通证券的真实应用场景,构建了符合金融行业的完整思维链,重点落地智能问答、智能研发、智能研报等业务环节,标志着大模型技术在金融行业应用实现了重要突破。
生成式AI的出现,让智慧医疗大跨步迈入3.0时代。2024年上半年,商汤医疗智能调度覆盖医学文本、放射影像、病理图像等多种数据模态的专用模型,辅助医生完成跨科室、跨模态的复杂诊断推理的大语言模型“大医”,已经在上海交通大学医学院附属瑞金医院、四川大学华西医院、上海交通大学医学院附属新华医院、空军军医大学西京医院、中国科学技术大学附属第一医院、清华大学附属北京清华长庚医院等医院建立智慧医院建设示范样板。
此外,基于语言大模型打造的 AI Native 生产力系列工具,商汤推出了小浣熊家族,现已拥有代码小浣熊和办公小浣熊两位产品成员,覆盖软件开发、数据分析、编程教育诸多场景,成为国内增长最快的Copilot产品之一。在中国信通院“可信AI代码大模型评估”中,代码小浣熊大模型荣获4+级最高评级。上线以来,代码小浣熊累计为10万+个人用户提供服务,并且被200+企业客户使用。中国电信、金山办公等大型企业用户,以及数十万个人用户和开发者已经成为了“小浣熊”的用户。
在数字人领域,商汤基于“商量”语言大模型和“如影”数字人视频生成技术,与上海银行联合打造了AI数字员工“海小智”和“海小慧”,均完成了2000条问答数据和10万条语料数据的知识库训练,具备专业丰富的金融知识问答能力,且精通全行4000多款金融产品所有细节。现如今,两个数字人员工已经在上海银行手机银行APP、e事通APP、元宇宙银行等多种渠道上线,让老年客户轻松办理手机银行业务。
总而言之,“大装置+大模型”深度协同的战略模式,让商汤科技在原生多模态、视频流自然交互、以及低成本模型推理架构上构建独特的优势,从而在激烈的市场竞争中脱颖而出。但这并不意味着这可以在短时间内成为现实。
《中国人工智能软件市场份额,2023:大模型带来新生机》显示,商汤连续八年蝉联第一。可见,商汤在AI1.0时代积累了足够多的客户。新的战略下,商汤凭借AI1.0时代积累的大量优质客户和口碑,可以迅速转化为生成式AI时代的新动力。
正因如此,商汤科技生成式AI才能够迎来多元化落地。生成式AI实现营收10.5亿元,以及日日新整体调用量实现400%的增长,客户数和客户平均调用规模均大幅增长。
在技术、服务和市场的多重加持下,商汤科技的应用用户增长和用户活跃度增加是可预见的现实。与此同时,用户的表现也将带动商汤大模型和算力的使用量、调用量的增加。双赢的合作中,行业也将迎来正向发展,AGI时代也将加速而来。