AMD也能跑大模型 MI300X对比NVIDIA H100/200毫不逊色

科技   2024-09-05 18:00   北京  

    NVIDIA长期以来在AI算力领域占据主导地位,然而据国外媒体报道,AMD的最 新GPU产品MI300X在性能上终于展现出与NVIDIA H100/200相媲美的实力。根据The Information发布的评测报告,AMD的Instinct MI300X GPU在AI推理基准测试中的表现与NVIDIA的H100 GPU相当,表明AMD在高性能AI计算领域取得了显著进展。

    这份评测报告由MLCommons提供数据,测试了AMD的MI300X GPU及NVIDIA的H100和H200 GPU。结果显示,在AI推理任务中,MI300X GPU的性能与H100 GPU不相上下,结合对GPU成本及系统总成本的估计,MI300X GPU的表现可以与H100和H200 GPU相媲美。

    需要注意的是,这些测试仅使用了来自Meta的Llama 2 70B,尽管测试存在一定局限性,但这一结果仍然表明AMD的MI300X GPU在处理大型AI模型方面展现了强大的潜力。业内人士对AMD在AI领域的发展前景持乐观态度,认为其未来有望进入主流市场。

    Transformer作者及Cohere公司创始人之一艾丹·戈麦斯也对AMD及其技术持积极看法,认为AMD和其他平台如Tranium将很快在主流市场中占据一席之地。

由于微信改版,最近很多家人收不到我们的推送
如果不加个星标,你可能就看不到我们了
动动你的小手,我们明晚接着约


新品评测   前沿资讯   玩机技巧  产品折扣  抽奖福利

点击前往泡泡科技星球,探索最潮最酷的科技奇趣

还有硬核抽奖福利等你!


泡泡科技星球
新潮资讯,酷玩评测,有趣又有料!更多精彩尽在泡泡网 PCPOP.COM!
 最新文章