华为全面智能化战略

财富   2024-09-21 23:50   广东  
华为全联接峰会演讲总结:

1、昇腾集群未来将能满足国内需求

受制于美国对AI芯片和半导体设备的出口管制,基于可获得的芯片制造工艺,华为昇腾单卡能力弱于海外,但通过超节点、通过集群创新,网络等优化,昇腾集群将能够满足国内AI发展的算力需求。

2、大模型和大算力不适用于所有企业,云训练+云推理将成为未来主流选择

AI服务器对供电、散热、机房环境要求极高,AI服务器升级换代速度快,华为可能1-2年会推出AI硬件新品。多代际混合芯片、多元芯片大幅增加算力运维难度,增加企业部署集群成本。

十亿参数、百亿参数、千亿参数都有对应匹配的场景。企业需要根据自己业务场景需求选择最合适的大模型,并不是所有场景都需要超大模型。

华为通过打造昇腾云服务,实现千亿参数模型训练40天不中断,并提供MaaS服务。华为云打造盘古5.0,通过百模千态社区丰富选择。基于AI云的训练和推理将成为未来的选择之一。

3、华为终端基于AI+原生鸿蒙的深度融合,实现从内核到应用的全面智能化

鸿蒙是公司最核心战略之一,并已与5000个应用基本达成共识。华为将基于鸿蒙原生智能,将“小艺”升级为智能体,实现更自然的多模态交互,更全方位的融合感知,准确理解用户、数字世界和物理世界。

4、其他:自动驾驶网络、无人驾驶、生态建设。

华为生态相关标的:软通动力、中国软件国际、华丰科技、常山北明、飞荣达、九联科技、润和软件、卓易信息、智微智能、诚迈科技、科蓝软件、拓维信息、神州数码、华峰超纤、芯海科技…


华为全联接大会-计算展台

一、昇腾:训练与推理并重,全流程加速大模型

1)训练:

Altas 800 训练机柜,国内已经部署过万卡以上集群,使用超节点架构,TB级全互联带宽、内存统一编址、统一通信协议。实现平均无故障时间大幅提升,训练时长缩短2.7倍。

Altas 800 训练机柜

超节点架构

训的易

训得快    

训得稳

2)推理:

机柜均价50-60万,搭载4卡cpu,8卡gpu,算力2p。分为300I和300V系列。

昇腾300系列芯片

推得准    

推得快

         

 

二、鲲鹏:云边端无处不在,全场景协同

鲲鹏全液冷机柜,PUE<1.15

   

鲲鹏模组系列

鲲鹏硬件体系

         

 

三、盘古大模型

盘古大模型与传统算法结合支持机械臂运作    

         

 

四、参会公司

神州数码:

腾310P模组

         

 

软通动力:

软通计算AI工作站    

软通计算系列产品

         

 

超聚变:

昆仑液冷机柜采用冷板方案,8节点,可搭载16卡CPU与64卡GPU。

昆仑液冷训练整机    

         

 

昆仑推理服务器,搭载腾300系列或310模组方案。

昆仑推理服务器G5500 V2

         

 

华鲲振宇

华鲲振宇浸没式液冷方案    

         

 

调研纪要
机构调研、电话会议