首页
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
更多
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
中国芯片产业的一次底层突围,AI芯片创企勇挑RISC-V标准制定大梁
科技
2024-11-22 16:17
美国
生成式AI搅动芯片三大架构生态,中国AI芯片创企首次主导底层技术突破。
作者 |
云鹏
编辑 |
漠影
过去几年生成式人工智能(GAI)的快速发展,让所有主流指令集架构迎来了一次重要更新潮。
从x86、Arm到RISC-V,都在制定面向矩阵(Matrix)指令集方向的扩展,因为GAI应用的大部分典型负载的核心运算都需要使用矩阵计算。
2021年,Arm宣布在ARMv9-A架构中引入Scalable Matrix Extension(SME)指令集扩展;2023年初,英特尔正式推出了第4代英特尔至强可扩展处理器,集成了Advanced Matrix Extensions(AMX)指令集。
2023年底,RISC-V国际基金会同时成立了2个矩阵指令集扩展技术组(Attached Matrix Extension TG和Integrated Matrix Extension TG),计划用一至两年的时间完成新指令集的制定,其目的就是要加速矩阵运算,从而提高机器学习和AI应用的性能。
就在最近,
希姆计算在RISC-V美国峰会上发布了其RISC-V矩阵扩展开源项目的最新0.5版本,行业内率先支持了向量+矩阵的实现。
这家年轻的中国创企也成为首家向全球社区提交完整RISC-V矩阵指令集及其支持工具的公司。这一举措无疑会推动RISC-V矩阵指令集国际标准的快速形成,提高AI应用的兼容性、降低软件开发适配成本,推动整个RISC-V生态系统的发展。
对此,RISC-V国际基金会首席执行官Calista Redmond给予了高度评价,她说到:“看到像希姆计算这样的创新项目积极采用和支持了RISC-V的新特性,真是令人鼓舞。矩阵指令集扩展代表了RISC-V生态系统向前迈出了重要一步,能够在特定应用场景中显著提升性能。我们对希姆计算团队的努力表示感谢,
这对整个社区来说是一个巨大的胜利。”
中国电子工业标准化技术协会RISC-V工作委员会技术委员会主任、国家工业信息安全发展研究中心总工程师周平说到:“非常高兴看到作为RISC-V工委会副理事长单位的希姆计算,在推动Matrix国际标准方面所做的贡献,特别是在开源SCOOP项目上的努力令人印象深刻。
希姆计算不仅展示了卓越的技术能力,还体现了开放合作的精神,这对于促进RISC-V在AI领域指令集扩展的发展具有重要意义。
我们期待希姆计算继续在工委会、在国际社区积极发挥作用和协作精神,为行业带来更多的创新与进步。
AI新时代,中国芯片企业正集体一步一步走到制定国际标准的行业领导者行列中。
01
.
生成式AI掀起矩阵计算革命,
RISC-V或成做AI最佳选择,标准统一是关键
进入
生成式AI时代,RISC-V很可能会成为做AI的最佳指令集架构。
首先,正如前文所提到的,RISC-V可以凭借开源的模块化设计去赋能开发者,让AI芯片可以针对不同负载做加速,同时兼顾良好的可编程性和通用性。
面对生成式AI带来的需求、场景爆发,这样的特性显然是非常关键的。
此外,在AI新时代,基于RISC-V的开源方案可以最大程度保证国家层面对数据安全的掌控,还一定程度上打破既有的行业垄断态势,同时还能兼顾产业生态的融合,可以说是
商业模式潜力最大化的解决方案。
明确了RISC-V的方向,如何让RISC-V可以更好地支持AI应用?
标准的统一就成为了接下来的重中之重。
一旦矩阵扩展指令标准确定下来,全球RISC-V生态中的开发者都可以用一样的矩阵指令来做自己的芯片,这样
软件应用层面就会有更多的融合机会,
应用也能实现真正的通用性,就如同基于安卓系统的应用生态。
基于这一统一标准,各类产品都将快速生长,工具连、基础软件也将逐渐完善,这对于RISC-V在应用层面与x86和Arm生态竞争十分关键。
从生态角度上来说,制定好这样一套全球范围内都可以接受的、基于AI方向的矩阵扩展指令集标准,意义非常重大。
RISC-V的优势在于开源,但劣势也在于此:如果指令集不统一、“各自为战”、就会有碎片化的问题。
目前包括
谷歌、高通、Meta
等全球头部科技巨头都在往RISC-V矩阵指令集扩展及相关标准统一的方向上努力,这进一步证明了这一方向的正确性。
而国内AI芯片创企希姆计算,正成为其中跑的最快的一个,成为这一领域中中国芯片企业的代表,
在国际行业标准的制定方面将话语权掌握在了自己手里。
02
.
从芯片指令集创新到产业化落地,
希姆计算打通RISC-V AI应用全链条
正如前文所说,新标准的统一成为RISC-V生态在AI新时代最需要解决的问题,也成为全球科技巨头竞争的焦点。
希姆计算这次在标准制定过程中的亮眼表现,赢得了国际基金会和业界的广泛认可。
根据官方信息,目前希姆计算的RISC-V矩阵扩展开源项目已升级至0.5版本,支持了向量+矩阵的实现。
具体来看,最新的RISC-V矩阵指令集采用了Tile-based的矩阵乘法架构设计,在原有基础上进一步完善了编程模型和类型支持,同时提供了基本版32位指令编码。
此外,通过参数化寄存器架构和模块化类型系统,新的RISC-V矩阵指令集能够适应从边缘到云端的各种应用场景。
值得一提的是,为了进一步推动标准化和商业实施,希姆计算还更新了一系列工具,包括基于LLVM的编译器、基于Spike的模拟器、基于GDB的调试器,以及基于SCOOP(Stream Computing Out-of-Order Processor)平台的开源核心实现,其包含对RVV和RV Matrix的支持。
站在今天的0.5版本回顾过去三年,希姆计算可以说实现了“从量变到质变”的积累。
从2022年9月RISC-V矩阵ISA规范0.1版本完成、首次向RISC-V国际基金会提交开源提案和支持工具,到2023年与达摩院建立了协商机制、共同探索RISC-V矩阵指令集。
用希姆计算执行副总裁陈炜博士的话来说,指令集的设计、功能的完善补充,是一个不断的学习和演进的过程,逐渐
从非标到标准化,
与国际上达成的共识相一致。
此外,
指令集从设计到应用落地也充满挑战,
比如仿真验证、DEBUG等方面相关软件的完善,以及面对AI应用在算子库层面的更广泛支持。
由于目前矩阵指令集的国际标准还没有定下来,相关配套的软件工作量是非常大的,希姆计算团队投入了大量资源来完善相关工作。
值得一提的是,
希姆计算的独到优势之处在于,其不光完成了指令集的开发工作,还进一步实现了产业化,
也就是对大模型的适配以及应用的落地。
就在本月早些时候,RISC-V国际基金会正式刊发的《希姆计算基于RISC-V计算能力和大型语言模型(LLMs)提供智能社区服务》一文,基于自主研发的RISC-V芯片和推理加速卡STCP920,
希姆计算给LLM应用创建了一个集成RISC-V硬件和软件的生态系统。
这个生态系统包括一个智能计算云平台、行业LLMs、数据治理平台和一个智能代理开发平台。基于这套系统,希姆计算为广州某社区定制开发了一个便捷的社区服务助手。据称该助手可以提供37类、超2000项服务,社区服务咨询的准确性从原来的30%提高到了现在的95%以上。
在AI推理性能方面,STCP920 AI加速卡已经经过国内头部互联网厂商50多个模型测试,平均下来,希姆计算的12nm板卡推理性能是英伟达7nm A10的108%,可以说是兼顾通用性和高性能的解决方案,也是全球第一个量产的基于RISC-V的AI推理卡。
尤为重要的是,
希姆计算采用的12nm工艺节点可以很好地规避制程受限的问题,无论是TSMC南京工厂还是中芯国际都可以支持这一工艺节点。
03
.
将底层技术标准制定握在自己手里,
中国科技产业或实现历史性突破
在完成自身技术和产品体系化、产业化的基础上,希姆计算进一步积极推动RISC-V行业新标准制定的举措,
给全球芯片产业各方带来了重要价值,对中国科技产业发展也有着历史性意义。
对CPU厂商来说,有了完整指令集以及各种扩展支持,CPU增加AI相关的特性功能就会更加便利;SoC芯片公司也可以针对不同方向做更多的组合,根据应用场景来做更好的芯片设计。
此外,
对于在“大算力”领域做AI加速器的公司来说,指令集标准的完善对软件生态和应用的建设都非常有帮助。
今天,从数据中心到车载、机器人、AI PC、AI手机、AIoT,不同场景都有不同的公司在聚焦,如果能够在芯片指令集架构层面形成统一,各家的软件生态就可以更好的融合。
千变万化的应用都可以追溯到同一个基础指令集,将非常有助于整个产业的蓬勃发展。
除了对全球芯片产业的重要推动作用,
0.5版本的发布对中国科技产业在全球市场掌握更多话语权也有着重要意义。
0.5版本的发布,意味着中国公司为国际社区作出了重要贡献,并且在关键的标准制定层面跑在了前面。
正如希姆计算CEO梅迪所说,
如果中国企业能先行一步,成为标准的主要制定者和推动者之一,就可以让国内的软件和应用生态能够更多的被国际接受、一起融合发展。
这也是为什么要有更多中国公司来做这件事,去为标准的统一做贡献,去尽可能多的争夺话语权。
今天,放眼芯片、AI乃至整个科技产业,受到地缘政治的影响,隶属于一个国家的一套技术路线往往都难以推广至全球范围内被积极采用。
但同时产业又呼吁生态的融合发展,因此
唯一的解决方式就是采用一套不隶属于任何国家的开源技术路线,
这也是RISC-V方案的突出优势之一。
在当今国家数据资产治理和转型的关键发展阶段,一个开放、稳定、安全、融和、去中心化以及保持和国外接轨的算力底层技术路线显得尤为重要。
纵观信息时代全球科技产业的发展,中国在绝大部分重要的底层技术路线上,都没能将标准化工作掌握在自己手里,要做到底层技术话语权的掌控,是非常难的一件事。
而今天希姆计算推动RISC-V在AI方向上的一系列标准制定工作,显然是有重大意义的,也必然会在未来展现出巨大价值。
04
.
结语:在芯片产业“种树”,
希姆计算瞄准的是AI更大的未来
从2019年选择差异化市场竞争、布局RISC-V相关技术,到2022年自研AI加速卡踩中大模型风口,再到如今全球RISC-V矩阵扩展指令集标准的建设成为必须要做的事情。
从摸着石头过河到如今产业化落地,希姆计算无疑是在全球RISC-V生态建设中走的最早的一批中国企业。他们从幕后走到台前,从摸索追赶到推动矩阵指令集标准的完善,领跑细分赛道。
用梅迪的话来说,希姆计算希望把自己的技术路线、方案等沉淀下来,争取让行业中其他公司可以跟随,从而实现对行业的引领。
从底层做起、扎扎实实,虽然初期挑战重重,但完成后却能够迸发出巨大商业化潜力。
希姆计算所做的事情就好比在芯片产业中“种树”,而种一棵树,最好的时间就是今天。
科普视频
2024年,AI步入推理时代,能耗成为算力性能破局的关键因素。联想集团发布《Game of AI》系列科普视频第二集《数据中心:如何与世界交换算力》,揭开了数据中心百年历史中明暗交织的角逐画卷。联想集团不断引领液冷技术向前,持续推动数据中心架构的革新,促进算力在各行各业的持续发展,助力加速进入人本智能的新时代。
http://mp.weixin.qq.com/s?__biz=MjM5NTM4MTUyMg==&mid=2447909291&idx=1&sn=f613d97cd86a81342dce1605bcb3a1ee
芯东西
芯东西专注报道芯片、半导体产业创新,尤其是以芯片设计创新引领的计算新革命和国产替代浪潮;我们是一群追“芯”人,带你一起遨游“芯”辰大海。
最新文章
日本芯片惨案
光羽芯辰创始人周强:通向个人大模型之路|演讲预告
芯片设计公司正在工厂化
无问芯穹首席科学家戴国浩教授:软硬协同与多元异构,共筑大模型算力底座|演讲预告
公开课预告:智算中心 AI Scale-Up 网络技术|益思芯科技解决方案副总裁唐杰主讲
这些芯片在涨价,这些芯片在倒挂
中国芯片产业的一次底层突围,AI芯片创企勇挑RISC-V标准制定大梁
爱芯元智吴炜:多模态大模型在端侧的创新实践与挑战|GenAICon 2024上海站演讲预告
3个月净赚近1400亿,英伟达仍为中国焦虑
国产 TPU 芯片“No CUDA”软件栈的构建实践|中昊芯英朱国梁演讲预告
200亿,北京半导体今年最大一笔融资
AI Infra峰会同期举办,阿里云无问芯穹都来了!年度生成式AI大会上海站12月初举行
没有人能“杀死”中芯国际
倒计时2天!新思科技汽车处理器论坛集齐12位专家,全方位解读加速实现汽车SoC创新
血拼的国产CPU龙头,业绩大大不同
芯片IPO失败,一位创始人体面退出
AI芯片大厂,裁员千人
国产GPU独角兽摩尔线程启动IPO!
传三星停供中国大陆7nm AI芯片
广州,诞生一个芯片独角兽
曝台积电7nm AI芯片停供中国大陆!
特朗普上台对中国半导体的影响
模拟芯片,两起重磅收购!600亿龙头出手
公开课预告:智算集群网络互连技术创新应用与展望|云脉芯联产品总监孙伟主讲
上海通信芯片大厂被告!涉案6.8亿
史上首个!单核突破4000分的量产CPU问世
亏损1182亿,芯片大厂业绩逆转!股价上涨7%
苹果最强3nm电脑芯片,来了!
武汉芯片独角兽冲刺IPO!年入38亿,大基金参投
美国遏华半导体政策升级!新规颁布,1月2日生效
融了15轮的成都半导体公司,要卖了
公开课预告:智算中心融合算力调度|矩向科技CEO黄朝波主讲
酷睿Ultra 200S首测!功耗唰唰暴降,AI塞入台式机,英特尔这波稳了?
负债超20亿!上海芯片厂破产清算,“中国芯片教父”创办
突发!Arm取消对高通授权
高通汽车芯片大暴走!AI性能提升12倍,上车理想奔驰
高通旗舰芯皇性能狂飙,挤爆牙膏!
估值170亿美元!曝英特尔卖Altera股权
36家半导体企业,宣布并购重组!
智算集群基础架构、国产化方案及发展趋势|公开课预告
英伟达台积电联盟,出现裂缝
黄仁勋对话Arm CEO:预言AI每年成本砍半,自曝演讲靠“硬着头皮”
湖南越摩研究院院长马晓波:玻璃基板Chiplet先进封装及多物理场仿真|公开课预告
VC套现1.9亿,一家B轮半导体设备公司卖了
2美元/小时出租H100:GPU泡沫破灭前夜
为什么半导体人不愿意进晶圆厂?
AMD最强大模型芯片登场!五大硬核新品轰向AI,旗舰CPU单颗10万,OpenAI微软Meta都来站台
三年追超苹果,从能效比到端侧AI,联发科为高端芯片树立新标杆
中国集成电路“黄埔军校”,如今在走什么样的“芯”路
浪潮信息Stephen Feng:应对生成式AI发展四大挑战,以应用为导向以系统为核心解题丨GACS 2024
分类
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
原创标签
时事
社会
财经
军事
教育
体育
科技
汽车
科学
房产
搞笑
综艺
明星
音乐
动漫
游戏
时尚
健康
旅游
美食
生活
摄影
宠物
职场
育儿
情感
小说
曲艺
文化
历史
三农
文学
娱乐
电影
视频
图片
新闻
宗教
电视剧
纪录片
广告创意
壁纸头像
心灵鸡汤
星座命理
教育培训
艺术文化
金融财经
健康医疗
美妆时尚
餐饮美食
母婴育儿
社会新闻
工业农业
时事政治
星座占卜
幽默笑话
独立短篇
连载作品
文化历史
科技互联网
发布位置
广东
北京
山东
江苏
河南
浙江
山西
福建
河北
上海
四川
陕西
湖南
安徽
湖北
内蒙古
江西
云南
广西
甘肃
辽宁
黑龙江
贵州
新疆
重庆
吉林
天津
海南
青海
宁夏
西藏
香港
澳门
台湾
美国
加拿大
澳大利亚
日本
新加坡
英国
西班牙
新西兰
韩国
泰国
法国
德国
意大利
缅甸
菲律宾
马来西亚
越南
荷兰
柬埔寨
俄罗斯
巴西
智利
卢森堡
芬兰
瑞典
比利时
瑞士
土耳其
斐济
挪威
朝鲜
尼日利亚
阿根廷
匈牙利
爱尔兰
印度
老挝
葡萄牙
乌克兰
印度尼西亚
哈萨克斯坦
塔吉克斯坦
希腊
南非
蒙古
奥地利
肯尼亚
加纳
丹麦
津巴布韦
埃及
坦桑尼亚
捷克
阿联酋
安哥拉