英伟达推出GB200 NVL4平台:整合了两个GB200芯片

科技   2024-11-20 08:38   广东  

11月19日消息,人工智能(AI)芯片大厂英伟达(NVIDIA)正式推出了两个全新的AI解决方案硬件平台,一个是Blackwell GB200 NVL4,一个是Hopper H200 NVL。

据介绍,英伟达GB200 NVL4是一个全新的模块,是基于原有的GB200 Grace Blackwell Superchip AI解决方案的更大扩展。GB200 NVL4模块是在更大的主板上配置两个Blackwell GB200 GPU,即拥有两个Grace CPU和4个Blackwell B200 GPU。该模块被设计为具有4-GPU NVLINK域和1.3T相干内存的单服务器解决方案。在性能方面,该模块将使模拟性能提高2.2倍,训练和推理性能提高1.8倍。英伟达的合作伙伴将在未来几个月内提供NVL4解决方案。

此外,基于 PCIe 的Hopper H200 NVL已全面上市,这些卡可以通过 NVLINK 域连接多达 4 个 GPU,可提供比标准 PCIe 解决方案快7倍的带宽。英伟达表示,H200 NVL 解决方案可以适应任何数据中心,并提供一系列针对混合 HPC 和 AI 工作负载优化的灵活服务器配置。

在规格方面,Hopper H200 NVL解决方案提供了1.5倍的HBM内存、1.7倍的LLM推理性能和1.3倍的HPC性能。您将获得114个SM,总共14592个CUDA内核、456个张量内核和最多3个FP8 TFLOP(FP16累积)性能。GPU具有跨5120位接口配置的80 Gb HBM2e内存,TDP为350瓦。

至于 TDP,由于 Superchip 模块的功率约为 2700W,预计更大的 GB200 NVL4 解决方案的功耗接近 6000W 的功率。人们可以很容易地看到英伟达 为加速 AI 计算领域所做的努力。

英伟达最近在MLPerf v4.1中发布了训练和推理方面的世界纪录,不仅最新的Blackwell平台令人惊叹,而且上一代的Hopper通过持续优化也变得越来越好。该公司还将其人工智能路线图加速到一年的节奏,并计划在未来几年推出几个新的基础设施,如Blackwell Ultra和Rubin。

编辑:芯智讯-浪客剑

往期精彩文章

1.7exaflops!全球最强超算公布:集成44544个MI300A芯片!国产超算有望进入前五
为不受美国禁令影响,全球第二大显卡制造商撤出中国?
华为Mate70系列细节曝光,11月26日发布
歧视美国人?台积电美国厂遭遇集体诉讼!
117亿股权交易完成!长电科技易主:董事长及两位董事辞职!
2024Q3全球智能手机AP市场:海思销量同比暴涨211%!
AMD宣布全球裁员4%!
继台积电之后,传三星也已对华暂停供应7nm及以下制程
除了巨额投资外,发展晶圆制造产业还需要哪些条件?
美国ITC终裁确认:英诺赛科与EPC专利纠纷不会导致客户终端产品被禁售
台积电即将对大陆断供7nm及以下制程?内部人士回应
3.28亿元!印度Tessolve收购汇顶德国芯片设计公司!

行业交流、合作请加微信:icsmart01
芯智讯官方交流群:221807116

芯智讯
“芯智讯”——有料的科技新媒体!专注于半导体产业链、智能手机产业链、人工智能、AR/VR、智能硬件及汽车电子等相关领域。
 最新文章