世界人工大会首日,AI模型应用百花齐放,服务器与集群互联秀肌肉,算力芯片公司韬光养晦【数字未来实验室】

文摘   2024-07-05 00:30   上海  

WAIC于4日下午开始对专业观众开放展览,汇集了国内绝大多数的AI模型、应用、机器人、算力芯片、服务器厂商和整合AI业务的国企央企,可以总结为AI模型应用百花齐放,服务器与集群互联秀肌肉,算力芯片公司韬光养晦。展览主要分为3个场馆H1-3,其中重点公司和展品集中在H1和H2,我们也与部分公司进行了深度交流,以下是按照场馆顺序的展览亮点和感悟,同样供后两天的观展者参考。

H1展馆主要是国企央企的AI业务、机器人、海外大厂与服务器硬件厂商

H1展馆最大的亮点是特斯拉首次展出了Optimus 2代,搭载与车辆同源的AI技术,行走速度提升了 30%。十个手指有了感知和触觉,明年会有超过1000个Optimus 2代在工厂完成部分生产任务,如分拣电池。同时也展出了还未在国内售卖的Cybertruck。

华为主要展出了昇腾Atlas系列推理芯片及其合作厂商的服务器产品与应用,包括盘古大模型和,并未展出910B与传闻中的910C等训练用高算力芯片。

谷歌和亚马逊主要展示了其国内的业务,谷歌展示了对开发者的教育与扶持以及谷歌云对软件厂商出海的帮助。亚马逊的主要展品是其云业务中的AI,包括Amazon Q的智能问答支持客服和BedRock的大模型API云服务。

机器人厂商在H1展馆尤为的多,以人形机器人展品为主,并且在展馆大厅中有18个国内厂商的人形机器人“十八金刚”同时展出。

服务器解决方案厂商在WAIC大秀肌肉,如浪潮、联想、中兴、戴尔等。其中包括服务器的水冷、浸没式解决方案和数据中心整体解决方案,同时联想也展出了基于高通X Elite的AI PC和概念版透明显示笔记本。

H2展馆主要是AI模型与应用公司和算力芯片公司

有名气和初创的AI模型公司几乎都参加了本次展览,包括大厂(阿里、腾讯、百度、商汤等)和专注于大模型的公司(百川、智谱、阶跃星辰、面壁智能等)。除了展出目前最先进的模型应用外,阿里展出了达摩院的RISC芯片,百度只展出了昆仑芯1代和2代(还禁止拍照),已经量产的3代没有展出,这也是为什么我们说算力芯片公司在悄悄发育的原因之一。

AI应用厂商中对合合信息印象比较深刻,一是展台互动的项目充分展示其产品优点,二是其中一个项目,对图表进行解析效果难以置信的好,但是在结束后用同一个小程序对其他非官方样例图表进行解析都失败了,是一个针对展览的Demo应用,如果解析效果能实现的话,对PDF的处理会有大的跨越。

算力芯片厂商上,我们和摩尔线程与天数进行了交流,摩尔线程昨天正式发布了其夸娥智能集群解决方案,实现了从千卡到万卡的规模升级。除了摩尔线程之外,天数智芯也有较大规模的集群在运行中,至于模型计算效率MFU,我们尚没有可以参考的数据,夸娥的目标是做到60%,这对于万卡集群来说是一个不错的水平。我们认为这一定程度上体现了领先的国产GPGPU厂商已经在互联领域取得了长足的进步。

我们还与一家并行处理器厂商深入交流了一下,其核心产品是边缘计算卡,采用核内存储的方式,进一步缩短了存储单元和计算单元之间数据搬运的距离,能够在超低的功耗下实现相当可观的算力。同时这一架构又不会过于的ASIC化,即还保留了一定通用性,介于NPU和GPU之间。在模型快速迭代的背景下,我们认为这种通过架构创新实现相对较高能效比并且保留一定通用性的芯片,相较于性能有所缩减的GPU,将会是更为合适的边缘计算卡。回归到投资上,意味着优秀的IC Design公司仍具备着非常强的投资价值。


NB Lab无边界实验室
无边界的全景数据研究
 最新文章