一段时间以来，AI 硬件的江湖很热闹 —— 有 Meta 与雷朋联名的智能眼镜，有苹果的 Apple Intelligence，有微软的 Copilot + PC，还有创业公司推出的 AI pin 和 Rabbit……这番场景，让人联想到 2018 年前后 IoT（Internet of Things，物联网）爆发的时期。那时，能联网的就是 IoT；今天，能连大模型的似乎就是 AI 硬件。
但目前看来，那个划时代的产品还没有出现。当下所谓的 AI 硬件，更多让人感觉像「鸡肋」。
AI 时代的硬件究竟该是什么样？这又给国产端侧 AI 芯片企业带来了哪些机会？Cramer Techs 创始人、在半导体领域从业多年的吴骏，给出了他的回答。
以下为对话要点，文末还有完整音频，也可在各大音频、播客平台搜索「科技早知道」收听，不要错过。
声动活泼
在 ChatGPT 开启的这一波 AI 浪潮中，你看到了什么不一样的东西？端侧 AI 有没有出现值得关注的应用或产品？
吴骏
随着 AI 技术不断发展，新的终端应用设备会迎来一波很大的替换，甚至是更高一个层面上的迭代，这是不可避免的历史趋势。
我觉得所有大的技术创新，或者终端上的创新，都是基于人机交互。我们最早编程，都是敲命令行，后来有了桌面系统，又有了触摸屏，再后来变成了分布式系统……每一波发展的进程都是基于新的人机交互界面。
人是有惰性的，都喜欢省事、省力。这一波的核心创新点或者说应用升级，还是让人以一种更高效的方式来进行人机交互。原来很多硬件还需要动一下手指，需要做语音输入，才能执行相关任务。但是未来可能就在起心动念之间，外部的事物就能和你产生协同，像是家电、穿戴设备、智能终端，或者像 AI 智能体（AI Agent），能够理解用户时间序列上前后的动作，可以在没有明确指令的时候，帮用户把很多事情处理掉。
▲不同于聊天机器人和 Copilot，AI 智能体进一步提升了交互体验，能够更高效、自主、完整地执行人类任务。｜图源：福布斯
在这个领域内，我比较喜欢两家公司，一家是 Garmin，一家是苹果，它们在产品功能上真的有创新性。其他大量智能设备其实是缺乏智能化功能的。
我们的公司成立于 2021 年，当时我们做了很多算法和系统上的预演，比如如何更好地感知一个人的运动状态，或者一个物体的运动速度。但是我们发现，那时的终端侧芯片是不足以支撑这样的应用场景的，算力不够。为什么苹果可以做得很好？因为它的芯片都是自己做的，软硬件深度耦合，功能天然有硬件的加持。
那时我们判断，未来终端设备上芯片的算力会越来越强，但价格会越来越便宜。从去年底到今年，我们看到做端侧的小芯片公司越来越多，而且算力加强的趋势比我们预想的还要快。所以，AI 在终端应用的兴起只是一个时间问题。
声动活泼
现在很多 AI 硬件，说是和 AI 结合，但用起来都很「鸡肋」。您觉得在端侧 AI 硬件的大潮里，什么样的产品有可能脱颖而出？有没有一些具象的应用场景？
吴骏
从我的经验上来说，分两种。一种是利用 AI 技术去解决原来解决不了的问题。比如健康检测穿戴设备的客户，需要人体的一些运动或者健康数据，或是一些场景的识别，这些靠原有 CPU 的计算解决不了，精度不高，还容易犯错。但如果有了 AI 加持，效果就会提升得比较明显。国内一些头部高科技终端设备企业，逐渐在往这个方向走。
还有一种是更上层的，就是让人机交互变得更智能化、更顺滑。这部分需要各种传感器的接入，来保证机器能很好地领会你的意图。其实苹果已经打了个样，就是 Vision Pro ，它把自己空间计算的所有积累都用在里面了，人机交互界面变成有点科幻和魔幻的状态。这是下一步演进的方向。
▲Vision Pro 上的 App Store 使用体验。| 图源：苹果官网
声动活泼
在端侧 AI 芯片兴起之前，这样的技术都掌握在苹果这种大公司手里。现在随着端侧 AI 芯片技术成熟，是不是会有一大批穿戴设备、IoT 企业起来，创造出更多类似的应用消费场景？
吴骏
是的，苹果是把软件算法、硬件，以及整个系统生态等每一个环节都很好穿起来的公司。其实国内在每一个环节上都有一些很不错的企业，只是没有那么强的能力可以把整条线全部串起来。一些头部的企业可能不做芯片，没有算力加持，但是在自己的服务器和云端，已经做了很多工作；有一些企业有很好的产品，但是苦于没有硬件来承载这些功能。
我认为现在到了一个很有趣的时间点，除了苹果这样的顶尖企业，其他的企业也有机会去把这些点串起来。
声动活泼
从国内来看，大家是不是更偏重端侧 AI 芯片的研发，而不是云计算芯片？
吴骏
从整个行业的格局来看，中国一些优秀芯片公司的积累，是在偏消费类的、偏终端侧的芯片。通常来说终端测更能够看到成效，短期内投入产出比会更好，至少国内今年确实有不少企业在终端侧在发力。
说到云端，英伟达是一个绕不开的话题，英伟达有个很厉害的一个大杀器，就是 CUDA 指令集。我们在使用过程中发现，CUDA 和英伟达的显卡匹配之后，处理能力和性能确实很强。所以对国内企业来说，单把芯片本身做好还不够，还要有 CUDA 这种被广泛认可的应用。这是新进来的企业要面对的一大难点。
声动活泼
那现在芯片市场的竞争格局是什么样？
吴骏
我觉得端侧的机会比较大。它的入局门槛没有那么高。虽然端侧 AI 芯片在工具链上还是有问题，但这个问题解决起来比解决 CUDA 的问题难度低得多。它的可获得性、开发成本，以及周期等要解决的问题，难度也会低一些。而且，我觉得百花齐放的状态通常也是在终端侧呈现。
声动活泼
这会是中国企业的红利期吗？
吴骏
一定是的。我们在和美国同行交流的时候发现，美国企业现在更擅长做的是高端、前沿，但可能还找不到明显的应用落地的东西。而中国企业更擅长的是市场化，而这又恰恰是端侧小的计算芯片可以发挥长处的地方。
但我们也担心一个问题，中国的芯片企业通常「卷」起价格来，降价的速度会非常快。这会导致大家投入很多，研发好多年，等要摘果子的时候，发现这个果子不值钱了。这是要极力避免的。我也和一些国内的同行聊过，大家都没有一个特别好的想法，只能摸索着看了。
声动活泼
国内企业除了「卷」，还可以在消费者教育方面做些什么？
吴骏
归根结底，客户要的其实不是芯片，而是解决方案。如果你能提供的不仅仅是一颗芯片，而是真正解决客户的痛点，我觉得客户是愿意去买单的。
这就回到了刚才的话题，就是如何用 AI 技术提升人机交互的效率，提升机器理解人意图的能力。这才是 AI 竞争核心的问题。我们现在讨论的很多 AI 功能，更像是一个 demo 秀，是秀给产业圈、投资人和股民的。但如果这些技术得到深入挖掘和发展，是有可能帮人们真正解决问题的。
我和美国的同行聊，大家的困惑其实也是共通的，都在琢磨 AI 到底能干什么。当技术点都有了，其实需要的是一个乔布斯，一个好的产品经理，能把所有东西攒起来。在电子终端设备的领域，有一个很有意思的学习对象，就是任天堂。任天堂和索尼一个很大的区别就是，任天堂通常是把硬件的能力发挥得刚刚好，不追求特别前沿，但可玩性很强，同时又可以控制住成本。
现在大家应该想的，可能不再是「大力出奇迹」，要建多少数据中心，要把算力变得多强……而是应该反过来思考，用现有的东西能解决哪些问题。
声动活泼
今年您看到了哪些卖得比较好的 AI 硬件？
吴骏
有一个卖得很好的产品是穆斯林祈祷戒指。很多人想到智能戒指的应用无非就是替代手环，或者多一些手势控制，但是这个产品为一个十几亿人的群体，解决了刚需，比如提醒祈祷时间，提供准确的朝拜方向等。
▲专为穆斯林祈祷设计的智能戒指。｜图源：亚马逊商城
其实在一个很小众的领域，一些很小众的产品，它们的出货量甚至比一些广为人知的品牌还要大。所以，我们往往过多地在供给侧去想问题，但到最后真正的产品的爆点是在需求端。
声动活泼
我知道一个产品叫 Plaud，是一个 AI 卡片录音机，非常薄，充一次电能用蛮久，可以把采访文字整理出来，好几个做媒体的朋友手机上都贴了一个。对于内容创作者来说，这是一个很好的垂直细分的产品。
▲Plaud 是一款 ChatGPT 加持的超薄录音机，据称可以转译 59 种语言。｜图源：Plaud 官网
那在端侧硬件的开发上，国内企业还面临一些什么挑战？
吴骏
我现在切身体会到的是，要避免同质化竞争。如果今天华强北突然出现了一个爆品，明天整个华强北所有柜台就都在卖。这是一个很大的问题，我们投入大量的资源，但没有产生同比例的价值，而是浪费在大量、重复的低价低质竞争上。过于内卷把很多有价值的东西卷没了。另外，就是如何让端侧芯片能被更广泛的客户群使用。除此以外，我觉得整个大方向还是朝着光明的方向走。
无论是发掘最广大消费群体的需求公约数，还是在一个细分垂直领域深耕，只要是真正符合人们需求的，都有可能成为成功的产品。
你体验过哪些 AI 硬件？有比较看好的产品吗？欢迎在评论区分享。
以上内容整理自
声动活泼旗下播客「科技早知道」
想更多了解 AI 硬件
欢迎点击收听
也可在各大音频、播客平台搜索本期节目
监制/徐涛
编审/东君
编辑/Xinghan
设计/Mori
排版/Xinghan
运营/George
更多有趣问题
欢迎来声动活泼找答案
