NVIDIA H20性价比不高,中国AI初创企业纷纷选择GeForce RTX 4090 GPU

科技   2024-08-19 08:49   北京  

随着AI需求的不断增长,中国市场因对NVIDIA顶级AI芯片的供应禁令而遭受打击,许多人被迫寻找替代品。据报道,许多中国AI初创公司纷纷选择NVIDIA的旗舰游戏GPU GeForce RTX 4090,而不是H20。

由于美国对中国的制裁禁止NVIDIA在中国销售顶级AI GPU,如A100和H100,一些公司一直在寻找了替代品。尽管NVIDIA面相中国企业用户提供了H20 AI GPU,但该GPU并没有像预期的那样吸引中国市场。

H20是H100的一个缩减版,提供了296 SXM TF16 FLOPS的理论性能,相比之下H100是1979 SXM TF16 FLOPS。然而,H20不仅在性能上大大削弱,而且在能效方面也没有优势。与RTX 4090不同,H20在同性能上的价格要高得多。

这就是为什么许多小公司开始使用RTX 4090的原因,尽管该游戏图形卡在该地区被禁止,但其可用性仍然很好。据说尽管有禁令,初创公司仍然可以轻松获得他们所需的多个GeForce RTX 4090 GPU。即使是NVIDIA的GeForce RTX 4090D,一个中国特有的变体,也比H20 AI加速器具有更好的价值。这些GPU还配备了双倍的内存,以支持大型语言模型。

目前,NVIDIA H20加速器的价格1.2万至1.3万美元之间,其主要需求来自像阿里巴巴、腾讯、百度和字节跳动这样的成熟公司。

据一家公司称,RTX 4090是他们客户的首要选择,他们计划在这个月再安装100个RTX 4090 GPU。另一个企业表示,他的公司以前通过云服务租用A100和H100,但本地机器仍然使用V100和RTX 3090图形卡。

自从美国政府禁止在中国销售NVIDIA的顶级AI芯片,如A100/A800和Hopper H100/H800 GPU,已经有一年半了。其中一些GPU仍然通过黑市流通,但由于可用性差和价格高,没有多少公司,特别是初创公司能够为他们的系统获得这些GPU。

这并不是中国AI公司第一次开始使用RTX 4090代替AI GPU,在我们看到来自NVIDIA或其竞争对手的更新更好的AI GPU之前,大多数初创公司将继续使用游戏GPU。

但话虽如此,NVIDIA仍有望从H20加速器中获得数十亿美元的总收入,因为它们以数千单位的数量出售给更大的数据中心客户,而较小的AI初创公司几乎不会超过几百个单位。

————END————
近期文章推荐
300亿芯片公司因财务造假被强制退市
贵阳银行“假国产数据库”替代你怎么看?
以“芯”为核,龙芯加速拉萨培育新质生产力
OceanBase如何从数据库赛道“杀”出来?
国产芯片四大流派,你最看好哪一条?
彩蛋:1.喜欢公众号内容可以动动手指扫码关注公众号。
2.想参与更多信创技术讨论可以扫码加小助手微信号“RobotBear2”拉你入群即可。入群请备注公司名称。

信创世界
见证科技创新,引领智慧浪潮~ 一起支持中国科技品牌,为创新点赞!
 最新文章