英伟达 GB200 NVL4 超级芯片登场,性能狂飙!

科技   2024-11-20 17:51   北京  

近期,在备受瞩目的SuperComputer 2024超算大会上,英伟达在人工智能处理器领域推出了一款令人瞩目的产品——GB200 Grace Blackwell NVL4超级芯片,它的出现无疑为行业带来了新的变革力量。

(图源:英伟达)

这款GB200 NVL4超级芯片堪称科技融合的杰作,创新性地将CPU和GPU进行了完美融合。它配备了四个强大的B200 GPU以及两个Grace CPU,通过在一块主板上实现这种集成式布局,将整体性能提升到了一个前所未有的新高度。

与标准(非NVL4)双GPU版本相比,GB200 Grace Blackwell NVL4超级芯片更是展现出了超强的实力。它在一块主板上集成了多达四个通过NVLink相互连接的B200 Blackwell GPU,这种高速互联方式确保了数据在GPU之间的快速传输与协同处理,再加上两个基于ARM的Grace CPU,使得整个芯片的运算能力得到了极大的强化。

而且,该解决方案针对高性能计算(HPC)和人工智能混合负载进行了深度优化。在面对这类复杂且对性能要求极高的工作负载时,它凭借着多达1.3TB的相干内存,能够轻松应对海量数据的存储与快速调用。英伟达官方宣称,GB200 NVL4的模拟性能是其直接前身英伟达GH200 NVL4 Grace Hopper超级芯片的2.2倍,训练性能达到了1.8倍,推理性能同样也是1.8倍,如此强大的性能提升,让它在众多应用场景中都能脱颖而出。

值得一提的是,英伟达表示GB200 NVL4超级芯片将于2024年下半年由微星、华硕、技嘉、纬创、和硕、联想、惠普等多家知名供应商提供,将在更广泛的领域得到应用与推广。

而就在大家还在为GB200 NVL4超级芯片的强大性能赞叹不已时,英伟达又推出了一款新品——H200 NVL PCIe GPU,再次展现了其在技术创新上的卓越实力。

H200 NVL是一款别具特色的双插槽风冷GPU,具备PCIe 5.0连接(128GB/s),其散热器针对机架式解决方案进行了精心优化,采用直通式设计,进气从右向左流动,并且摒弃了鼓风式风扇,这种独特的设计使得它在散热方面有着出色的表现。

尽管它的某些性能指标比英伟达之前采用SXM封装形式的H200略差,比如其FP64浮点运算性能为30 TFLOPS,FP32浮点运算性能为60 TFLOPS等,但在与其他竞品对比时,却展现出了强大的优势。例如,它比所取代的H100 NVL要快得多,内存容量是H100 NVL的1.5倍,内存带宽是其1.2倍,推理性能最多可提高1.7倍,对于高性能计算负载,性能可提高1.3倍。甚至与安培架构同等的GPU相比,H200 NVL也快了2.5倍。

H200 NVL PCIe GPU在应用场景方面同样表现出色,它针对绝大多数数据中心配置进行了优化,尤其是风冷服务器机架。据英伟达调查显示,大约70%的企业机架采用风冷且功耗在20kW及以下,而H200 NVL作为一款PCIe GPU,完美契合了这一市场需求。数据中心供应商可以充分利用现有的机架,只需更换GPU即可完成硬件升级,这不仅减少了浪费,还大幅降低了升级成本。此外,H200 NVL还配备了NVLink,每个GPU可提供高达900GB/s的带宽,使得系统供应商能够在一台设备上连接多达四个GPU以进一步提升性能,从而更好地满足不同规模数据中心的运算需求。

在英伟达推出这款新的风冷GPU之时,其Blackwell GPU正面临严重的过热问题。即便配备了完备的液冷系统,但由于在机架中散热巨大,仅在消耗高达120kW功率的机架中,系统集成商就被迫重新设计支持Blackwell GPU的服务器机架。然而,H200 NVL与B200虽并非相近的竞品,但英伟达的这款风冷数据中心GPU却凸显了低功耗风冷GPU的显著优势,为数据中心的散热解决方案提供了新的思路。

H200 NVL将由戴尔、惠普企业、联想、超微等多家供应商提供,并且还会出现在华硕、技嘉、英业达、英华达、微星、和硕、启碁、纬创等众多平台上,这无疑将进一步推动其在市场中的广泛应用,为不同行业的数据处理与运算提供强有力的支持。

无论是GB200 NVL4超级芯片还是H200 NVL PCIe GPU,英伟达的这两款产品都凭借着强大的性能和广泛的应用场景,在人工智能与高性能计算领域占据着重要的地位,也为未来相关技术的发展奠定了坚实的基础。


END


11月8日,2024中国数据与存储峰会于北京圆满落幕,近百位业界专家、多场专题论坛精彩呈现,聚焦数据存储与人工智能等前沿技术及应用实践,共同探讨如何通过数据驱动的创新推动企业数字化转型,敬请关注会后报道。

 查看活动详情

DOIT传媒
百易传媒官方订阅号,专注于数据存储、云计算、服务器、数据中心等技术领域以及行业数字化转型。
 最新文章