推理芯片,英伟达迎来强劲对手

文摘   2024-11-06 10:11   安徽  

👆如果您希望可以时常见面,欢迎标星🌟收藏哦~


来源:内容编译自forbes,谢谢。


如果你从事金融行业,那么有关即将进行 IPO 的 Cerebras 的新闻全部是关于该公司的股票代码将如何在纳斯达克表现。


然而,如果你对科技感兴趣,故事就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的看不到大局。


很多人都知道人工智能革命的开始是如何导致用 GPU 取代 CPU 的:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。


当时,我们遵循一种非常常见的规定方法 - 输入大量训练数据,其中通常包括大量的网络抓取数据 - 然后用它来测试系统。


所有这些工作都需要大量的处理能力,而 GPU 就是为这些繁重的工作负载而构建的。


现在,该行业似乎正在进一步发展,走向所谓的推理,这是一种不同的任务,而且硬件必须更加专业化。


那么,什么是推论?因为每当有人开始谈论它时,你都能看到人们的眼睛都呆呆的。一般来说,除了高度科学的语境外,我们不喜欢这类词。


嗯,无论如何,推理基本上是人工智能的动态学习能力——获取实时数据并将其放入训练模型中以获得合乎逻辑的结果。


换句话说,训练有素的人工智能正在展示它从训练中学习到的知识。


因此,这种活动需要一些重量级的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于科技爱好者来说,它的规格相当令人印象深刻。(这些巨型芯片由台湾半导体制造公司生产,这一点并不令人意外)。



WSE:幕后



Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上内存。它拥有大约 9,000 个核心,估计每秒可执行 125 千万亿次浮点运算。


我们之前曾报道过这类巨大的多核引擎,其硬件物理上很大——以英寸而不是厘米来衡量。


Perplexity 首席技术官丹尼斯·亚拉茨 (Denis Yarats) 在一份新闻声明中指出:“更低的延迟可以提高用户参与度。凭借 Cerebras 比传统 GPU 快 20 倍的速度优势,我们相信用户与搜索和智能答案引擎的互动将发生根本性转变。”


不难看出,这种力量将会为众多行业的人工智能发展提供强大的动力。



人工智能推理的用例



思考这个消息的一种方式是,我们只是想要更快的速度和更强大的功能来实现越来越复杂的流程。但你也可以考虑一下推理在人工智能进化的这一阶段将扮演的角色。换句话说,我们正在从监督较多的学习类型转向监督较少的学习类型——从我们 10 年前所做的那种确定性机器学习,转向一种新型的神经网络活动,在这种活动中,我们更信任系统能够自行学习。


因此,Cerebras 的新挑战的故事(更不用说另一家加入这一潮流的公司 Groq)是硬件追赶的故事。


硬件本身令人印象深刻——这些新款凯迪拉克系统引人注目——但我们应该关注的是,这些产品的用途是什么,它们为何会颠覆商业格局。


Run:AI 的一位作者写道:“随着人工智能越来越多地融入日常生活和商业运营的各个方面,高效、准确的人工智能推理的重要性日益凸显。准确的推理在医疗保健、欺诈检测和自动驾驶等敏感用例中尤为重要。”


这些只是一些顶级示例:我们尚未真正发现更深层次推理模型的一些更隐蔽的用途。十年后人工智能会是什么样子?它看起来仍然像是从计算机中出来的吗?还是事情会变得完全不同?


几年前,福布斯技术委员会成员Nir Kaldero 为我们列出了这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对于许多工作负载有一个竞争的想法。它是在边缘、在设备上、在网络边缘进行处理。而且这也正在取得进展。


无论如何,硬件之争实际上是下一代技术系统的先兆。它们将会非常引人注目。


参考链接

https://www.forbes.com/sites/johnwerner/2024/11/04/nvidia-cerebras-race-to-supply-big-chips-for-ai-inference-activities/


END


👇半导体精品公众号推荐👇

▲点击上方名片即可关注

专注半导体领域更多原创内容


▲点击上方名片即可关注

关注全球半导体产业动向与趋势

*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。



今天是《半导体行业观察》为您分享的第3938内容,欢迎关注。


推荐阅读


EUV光刻机重磅报告,美国发布

碳化硅“狂飙”:追赶、内卷、替代

芯片巨头,都想“干掉”工程师!

苹果,玩转先进封装

GPU的历史性时刻!

大陆集团,开发7nm芯片

张忠谋最新采访:中国会找到反击方法

EUV光刻的新“救星”

『半导体第一垂直媒体』

实时 专业 原创 深度

公众号ID:icbank


喜欢我们的内容就点“在看”分享给小伙伴哦

半导体行业观察
半导体深度原创媒体,百万读者共同关注。搜索公众号:半导体芯闻、半导体产业洞察,阅读更多原创内容
 最新文章