夯实算力基础 赋能大模型创新发展

文摘   2023-07-17 22:17   上海  


7月13-14日,第三届中国集成电路设计创新大会暨无锡IC应用博览会ICDIA 2023)在无锡举行。天数智芯副总裁郭为受邀出席“AIoT与ChatGPT”分论坛并发表了题为国产GPU的大模型实践的主题演讲全面介绍了天数智芯通用GPU产品特色以及在大模型上的应用情况

天数智芯副总裁郭为

郭为指出,算力关乎大模型产品的成败。作为中国领先的通用GPU 高端芯片及超级算力系统提供商,天数智芯先后发布了训练产品天垓100、推理产品智铠100,充分发挥产品自主可控、性能高、通用性强、灵活性高等特点,广泛支持主流AI生态和国内外开发框架,倾力打造了高性价比、广通用的全栈式集群解决方案,为大模型提供了强大算力支撑。

郭为介绍,去年以来天数智芯在大模型训练、推理支持上取得了显著进展。基于天垓100的自主算力集群已率先完成国内70亿参数大模型训练,200P规模算力集群正在开展650亿参数大模型预训练。此外,天垓100正支持各垂直行业大模型训练微调,可支持全量参数微调、Lora快速微调、提示词微调等所有训练微调方法。智铠100支持千亿级参数大模型推理,基于智铠100的推理一体机已应用于法律、金融等行业客户大模型推理业务中,提供较国际主流产品更优的性能、性价比及能耗。

郭为表示,天数智芯将始终以服务国家战略为主线,持续推进通用GPU核心技术创新突破,打造更可信、更高效、更绿色的世界一流算力引擎,赋能大模型创新发展。


作为国内集成电路领域推动“创新”与“应用”的重要平台,ICDIA致力于推动IC设计与芯片应用、促进芯片与系统整机供需对接,实现芯片企业和整机企业的互惠发展。科技部重大专项司副司长邱钢,江苏省科技厅二级巡视员杨小平,无锡市副市长周文栋,国家01专项技术总师、中国集成电路设计创新联盟理事长、清华大学教授魏少军等出席了本届会议。



END

天数智芯
上海天数智芯半导体有限公司是中国第一家通用GPU高端芯片及超级算力系统提供商,以“成为智能社会的赋能者”为使命,致力于开发自主可控、国际领先的高性能通用GPU产品,推动AI计算与图形渲染融合,打造世界一流的算力引擎。
 最新文章