追赶NVIDIA，国产AI芯片需努力的5个方面

科技 2024-11-29 19:42 北京

大会预告

12月5-6日，2024中国生成式AI大会（上海站）将举办，其中，AI Infra峰会将在主会场第二日进行，上海交大副教授、无问芯穹联合创始人兼首席科学家戴国浩，GMI Cloud 亚太区总裁King.Cui，英飞流创始人张颖峰，Jina AI联合创始人兼首席技术官王楠，中昊芯英芯片软件栈负责人朱国梁等14位嘉宾将带来主题演讲和圆桌讨论，欢迎报名～

智算时代的到来，对AI芯片的需求也迎来爆发，据IDC统计，2024H1国内数据AI加速卡出货量在90多万片（仅供参考），英伟达市场占有率高达80%，虽然国产AI芯片这两年持续发力，但从出货量上依然和NV差距明显，排名top3的国产AI芯片厂商有HW、KLX和HWJ，出货量分别在15万片，1.5万片和1.1万片，为什么很多国内知名AI芯片厂商没上榜，我认为原因有二，一是销量过低IDC没有统计，二是公司做事低调不想被宣传（大家懂得），国内市场国产AI芯片的可提升的空间巨大，今天我们简单聊聊，要想追赶NVIDIA，夺取更多市场份额，国产AI芯片需要努力或加强的5个方面（性能、互联、生态、产能和性价比）个人总结。

01 单芯片的算力性能

目前我们讨论最多的就是国内AI芯片在售或下一代产品到底是对标A100还是H100，从性能上是英伟达的几成，从我了解到的消息；

1、国内可在售主流AI芯片：基本上都是对标NV的A100或者V100，比如HW的ST从单卡参数和A100持平，这里性能主要指不同精度（以FP16为主）的性能以及显存的参数（比如显存的容量、类型和显存带宽）；总结就是和英伟达产品还有2代左右的差距。

2、国内下一代的AI芯片：很多朋友都对国内AI芯片厂商下一代产品感兴趣，结合我的了解，厂商都号称对比H100，从已拿到的参数看，确实不少新品在FP16的性能上超过了A100，但是和H100单卡1P的（稠密）算力来说还有一定差距，只是做到H100单卡的50%-70%，从显存方面国产某些厂商做到了64、96GB，部分超过了H100的80G。

02 芯片间的互联技术

作为英伟达三大护城河之一的NVLink技术，是AI芯片互联的标杆（最新的可实现芯片间1.8TB/s的全互联），因为是NV私有的，所以其他厂商的芯片无法使用。在大模型训练方面需要多卡协同处理，对AI芯片的互联带宽要求很高，目前国内AI芯片厂商基本都推出了互联技术（部分有互联芯片），整体性能都超过了PCIe 5.0x16的128GB/s，已公开的有200多GB/s、400GB/s，也有600GB/s，都和英伟达NVLink差距明显，下一代产品为了进一步提升互联带宽，多家公司推出了类似NVlink Sw的互联转用芯片，可以实现卡到多卡间，卡卡间的速率提升（部分参数不能明说，基本都在NVLink5.0速率的30-60%之间）。

03 芯片软实力-生态

英伟达CUDA作为其GPU产品使用的工具集（我上周有文章专门做过分享），经过了10多年的持续迭代，产品的可用性、易用性和市场认可度是最高的，国内AI芯片在生态方面主要是2个路线，1是兼容CUDA进行生态开发，比如天数、海光、摩尔线程等，2是自建生态，比如HW ST、HWJ、KLX等都建立了自己的生态体系；客观来讲，芯片性能再优秀没有生态的支持是无法广泛推广的，因此“生态建设”是国产AI芯片软实力提升的关键，是真正让客户能用起来的必须要走的路；

04 芯片的产能和供应

最近大家都看到了一则消息，就是芯片代工受到老美的影响，台积电、三星这类领先的拥有先进制程工艺的代工厂不被允许为大陆的芯片提供服务，据了解虽然国内的芯片公司也针对此类事件有预案（和应对策略），但其影响也是很大的，个人认为主要是体现如下两个方面：

1、成本的影响：主要是和芯片代工良品率有关，良品率越低，单芯片的成本可能就越高。

2、产能的影响：一旦产能不足就会影响产品交付，可能会导致有订单无法交付的情况发生。

05 芯片综合性价比

我们知道，真正对AI芯片需求量最大的行业是互联网（含大模型类）的公司，本质上还是企业属性，对应AI芯片的选择肯定要考虑综合性价比，而性价比又和市场规模化有关，英伟达产品从综合性能上毫无疑问是top1，但是从价格上也是居高不下，从NV的角度，既然我的产品这么能打，性价比上没有对手，就没有降价的理由，国产AI芯片要实现市场的突破，在解决了性能、生态、供应的问题后，必须要面临的就是性价比之战，只有让用户觉得买的值才是全行业市场突破的重点。

以上为个人观点，仅供参考，不准确之处，欢迎大家多多指正！

—END—

点击下方名片

即刻关注我们

算力猩

隶属于智猩猩，关注计算芯片创新，解读中国算力突破。

算力网（络），应该是什么

先进封装技术解读 | 台积电

IBM 的大规模 A100/H100 GPU 集群 Infra 建设

22页PPT详解 NVIDIA RTX™ 5880 Ada 及训推一体机【附下载】

AI数据中心：网络设计和选型标准

突破内存墙：DRAM技术演进及3D DRAM革命

SC24｜谷歌AI加速器：TPU v6e Trillium技术解析

公开课预告：大规模异构GPU集群的互联、运维与调度｜基流科技技术负责人敬阳主讲

揭秘 AWS 10p10u 最新网络架构！

AI时代的以太网：应对大规模GPU集群网络挑战

智算中心正在CDN化

博通3.5D F2F技术：定义AI XPU的未来

NVIDIA RTX™ 5880 Ada 性能解析与私有化大模型部署｜在线研讨会直播预告

AI数据中心历史、技术与关键企业

揭秘！世界第一个采用CXL 3.1交换机的AI集群

公开课预告：大模型时代的智算GPU集群｜阿里云智能集团智算集群产品专家陈祎主讲

GPU服务器支持的“卡数”由哪些因素决定？

HBM制裁加码下的困境与出路

Meta 万卡 GPU 集群稳定性剖析与最佳实践

通往万亿晶体管GPU之路

亚马逊芯片帝国背后的功臣

比GPU快20倍？d-Matrix推理性价比分析

AWS最强AI芯片，深度解读！

功能安全的图形显示解决方案与汽车制造业模拟数字孪生平台 | NVIDIA 加速汽车制造与智驾开发专场直播预告

公开课预告：OISA构建开放高性能GPU卡间互联体系｜中国移动研究院李锴主讲

NVIDIA GH200 内部架构探究

UEC 和 UAL 应该合并吗？

AI Infra峰会与大模型峰会议程全公布！2024中国生成式AI大会上海站本周举行，报名即将截止！

公开课预告：针对先进封装的2.5D/3D Chiplet协同设计仿真EDA工具探讨｜硅芯科技创始人赵毅主讲

一文看懂Infinity Fabric

大模型时代：交换机衡量指标、技术演变及性能分析

爱芯元智吴炜：多模态大模型在端侧的创新实践与挑战｜GenAICon 2024上海站演讲预告

智算中心：现状、挑战、策略与未来机遇

GenAICon 2024上海站主会场议程公布！34位学者专家全景式解构大模型与AI Infra

追赶NVIDIA，国产AI芯片需努力的5个方面

光羽芯辰创始人周强：通向个人大模型之路｜演讲预告

从UALink近期发展再看GPU Scale Up的互连方向

无问芯穹首席科学家戴国浩教授：软硬协同与多元异构，共筑大模型算力底座｜演讲预告

公开课预告：智算中心 AI Scale-Up 网络技术｜益思芯科技解决方案副总裁唐杰主讲

大规模AI计算时代的存储：挑战与优化

聊一聊算力调度

全球化布局：AI 企业如何补齐算力短板，保障GPU集群稳定性｜GMI Cloud 亚太区总裁 King.Cui演讲预告

中国系统级封装大会SiP China 2024周三开启！免费报名～

面向大规模AI计算的高性能网络架构：Enfabrica ACF-S解决方案深度解析

近30家大模型与AI Infra企业来了！年度生成式AI大会上海站公布最新嘉宾，报名进入最后阶段

高性能GPU服务器硬件拓扑及集群组网

GPU互连新标准：UALink联盟能否打破NVIDIA垄断？

高性能智算集群设计思考与实践｜阿里云智算集群产品解决方案负责人丛培岩演讲预告

全球化布局：AI 企业如何补齐算力短板，保障GPU集群稳定性？｜GMI Cloud 亚太区总裁 King.Cui演讲预告

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉