发布2024年11月7日
作为Groq的创始人，他展现出一种坚定的视角：AI的核心不是替代人类，而是解锁智能的无限潜能，让每个人都能参与其中。Ross谈到TPU的研发历程，从谷歌内部的一次偶然机会到为AlphaGo注入“神之一手”的计算力，再到开创Groq的芯片奇迹，Ross的每一个决策都源于一个坚定的信念——不满足现状，敢于冒险，快速行动。
他提到的“10倍增长比10%增长更容易”并不是一句空谈。大多数公司追求稳定的小幅进展，却失去颠覆行业的可能性。而Groq的每一步都在重塑未来，坚定地朝向一个目标：让AI的计算力普及到如水电一般便利。
Jonathan Ross是谁
Jonathan Ross 是 Groq 的技术创始人兼首席执行官（CEO）。在创建 Groq 之前，他在谷歌开启了 TPU（张量处理单元）项目，这最初是一个 20% 时间项目，其中他设计并实现了原始芯片的核心元素。其后，Ross 加入了 Google X 的 Rapid Eval 团队，这是著名的“月球计划加工厂”的初始阶段，负责为谷歌的母公司 Alphabet 设计并孵化新的项目（Bets）。
Groq 的芯片专注于 AI 模型的推理，而不是训练，并且据称比传统的 GPU 更快、更便宜。Ross 的目标是通过提供快速、高效的 AI 推理解决方案，使 AI 计算能力更广泛地可被利用。
访谈目录：
芯片大佬谈AI：Groq创始人揭秘AI芯片，比英伟达还快？
AlphaGo幕后故事：TPU如何助力AlphaGo战胜李世石？
从谷歌到创业：Groq的八年“荒野求生”路。
对抗巨头：Groq如何挑战英伟达、英特尔和AMD？
长期主义的胜利：如何在短期诱惑下保持长远眼光？
地缘政治与芯片：Groq如何应对供应链风险？
理想的资本市场：如何鼓励长期投资，抑制短期投机？
打造高效团队：如何激励员工与你并肩作战？
同理心的力量：为什么工程师也需要同理心？
AI的未来：我们应该拥抱还是害怕AI？
以下是完整访谈内容：
Jonathan Ross: 大语言模型就像心灵的望远镜，让我们能观察到一种快速发展的智能，这种智能很快就会超越任何个人，甚至可能超越整个人类文明。面对如此宏大而强大的智能，我们难免会感到自身渺小和恐惧。但就像我们逐渐接受宇宙的浩瀚无垠一样，我们也应该学会欣赏智能的无限潜能，而不是害怕它超越我们。
主持: 非常荣幸能与Groq的创始人和CEO Jonathan Ross进行对话。
主持: Jonathan，欢迎做客我们的节目。
Jonathan Ross: 谢谢Eric，很高兴来到这里。
主持: AlphaGo对战李世石的比赛是AI发展史上的里程碑事件，而你当时在谷歌扮演了关键角色。据说如果AlphaGo当时使用的是GPU，很可能就无法赢得比赛，是这样吗？
Jonathan Ross: 很有可能。比赛前一个月，TPU团队收到一封邮件，大意是说他们刚刚进行了一场测试赛，结果输了，现在只剩下一个月的时间准备正式比赛，问我们的芯片是否真的像传闻中那么快。当然，面对这样的问题，我们只能硬着头皮说“是”。于是，我们派了一名TPU团队成员负责软件移植工作，最终我们成功了，AlphaGo以4:1赢得了比赛。后来我们用48个TPU与170个GPU进行了对比测试，使用相同的软件，TPU赢了99局。
主持: 那场比赛对我来说意义重大，因为它预示了AI的巨大潜力，也影响了后来大型语言模型等技术的兴起。能否带我们回到过去，谈谈你是如何参与到AlphaGo项目中的？你的背景是软件工程，怎么会为谷歌设计芯片呢？
Jonathan Ross: 当时我在谷歌纽约的广告部门做软件工程师，主要负责构建大规模测试框架。谷歌的文化氛围比较开放，不同团队之间经常一起吃午饭交流。有一次，我偶然听到语音识别团队说他们开发了一个超越人类的语音识别模型，但部署成本太高。谷歌的著名工程师Jeff Dean也曾说过，机器学习虽然有效，但成本太高。这引起了我的兴趣。我之前在金融领域做过一些FPGA方面的工作，虽然我不是电子工程师或电气工程师，但我还是说服了语音识别团队，让他们支持我的20%时间项目，并提供必要的硬件和其他资源。最终，我开发了第一代TPU，主要用于解决推理问题。你把围棋和语言模型做类比很贴切，因为它们都具有序列性，下一步的决策依赖于之前的步骤。这与信息时代的搜索技术不同，搜索技术依赖于预先建立的索引，结果的质量提升空间有限。而生成式AI是按需创建内容，计算能力越强，结果就越好。AlphaGo就是一个很好的例子，它凭借强大的计算能力，在比赛中找到了“神之一手”。生成式AI的直觉比分析能力更强，它能快速生成流畅的文本，就像人类的意识流一样。
主持: 这确实是一个出乎意料的机器人时代。能简单介绍一下TPU和GPU的区别吗？以及你是如何最终为谷歌设计芯片的？
Jonathan Ross: 谷歌的企业文化鼓励创新和尝试。当时谷歌内部同时启动了三个AI芯片项目，其中一个由图灵奖得主领导，大家都认为那个项目会最终胜出。我的TPU项目是用取消项目的剩余资金启动的，由于没有太大的压力，我们反而可以自由地探索新的想法，最终采用了脉动阵列架构。当时那位图灵奖得主还公开质疑过这种架构，认为它已经过时了。这说明，有时候专家反而会被固有的思维模式限制，而创新需要打破常规。TPU最终成功部署并广泛应用于谷歌的各个产品中，后来谷歌才开始招聘芯片专家。后续版本的TPU也开始变得更像GPU，失去了最初的优势。
主持: 这在企业创新中很常见，压力越大，风险承受能力就越低，创新也就越少。
Jonathan Ross: 是的，人们常常误解风险的含义。真正的风险在于不快速行动，错失机遇。
主持: 我们来谈谈Groq。Groq的成功并非一蹴而就，而是经过了多年的积累。我记得几个月前，Groq突然之间火遍了整个AI圈。Groq的演示令人印象深刻，它能几乎实时地生成高质量的文本，与其他大型语言模型相比，速度快得惊人。你是什么时候决定离开谷歌创办Groq的？能介绍一下Groq以及它的创立故事吗？
Jonathan Ross: 离开谷歌的决定很容易做出。我在谷歌X的快速评估团队工作，这个团队鼓励成员进行各种尝试，但人员流动率很高。我意识到在谷歌内部创业终究有限制，而真正的创业需要更大的自由度。在外部融资也更容易，因为只需要说服一位投资人就够了。另外，大公司内部的项目随时可能被取消，风险并不比创业低。TPU论文发表后，许多大型公司邀请我为他们设计芯片，其中一家公司认为谷歌在AI领域占据了主导地位，这对世界不利，希望我能加入他们，成为第三股力量。这让我意识到，我应该让更多人受益于这项技术，而不是只为一家公司服务。于是，我创办了Groq，并花了六个月的时间开发编译器，这使得我们的芯片架构更易于使用。我们很早就预见到大规模推理需要大量的芯片，并为此做了准备，虽然当时我们并不知道具体的应用场景会是语言模型。Groq成立初期非常艰难，融资困难，团队也一度士气低落。但我们始终相信自己的技术，并不断改进，最终实现了惊人的速度提升。我们最初发布的版本达到了每秒100个token，远远领先于其他竞争对手。Groq的快速发展也证明了我们当初的判断是正确的。
主持: 你是在2016年创办Groq的，当时AI技术远不如现在火热，你如何看待当时的AI发展前景？在AI还未被广泛认可的那些年里，你是如何坚持下来的？
Jonathan Ross: 那段时期就像在荒野中求生一样艰难。我们面临着人才流失、竞争对手的诋毁等各种挑战。每次与投资人会面，都要回答各种质疑。但开源LLM的出现让我们看到了希望，因为这正是我们芯片的理想应用场景。虽然团队一度士气低落，甚至有人建议放弃LLM方向，但我们最终还是坚持了下来，并取得了突破性的进展。Groq的速度优势让我们在市场上脱颖而出，用户数量也迅速增长。
主持: 创办一家芯片公司，与英伟达、英特尔和AMD等巨头竞争，需要巨大的勇气和决心。你当时是否感到过压力或畏惧？
Jonathan Ross: 我从来没想过要与这些巨头竞争，我们的目标是做一些与众不同的事情。GPU更适合用于训练模型，而我们的LPU更适合用于大规模推理。我们专注于降低计算成本，让更多人受益于AI技术。Groq的早期融资只有1000万美元，这反而让我们更加专注于软件开发。有限的资源迫使我们更高效地利用资金，并做出更明智的决策。
主持: 这与人们对风险的认知恰恰相反，许多人认为创业风险很高，而待在大公司更安全，但实际上大公司的项目也随时可能被取消。
Jonathan Ross: 是的，风险无处不在，关键在于如何利用风险，让它为你带来优势。
主持: Groq的长期愿景令人印象深刻，在如今这个追求短期回报的时代，你是如何保持这种长远眼光的？
Jonathan Ross: Groq的愿景是无限的，我们所有的决策都是基于无限时间范围来考虑的。虽然短期内可能会面临各种挑战和压力，但长期来看，这将是最佳策略。作为创始人，我的主要职责是保持积极的心态，并做出对公司最有利的决策。我们也一直向投资者和员工传达Groq的长期愿景，并鼓励他们以长远的眼光看待公司的发展。我们的目标不是快速盈利或上市，而是维护人类在AI时代的能动性。我们聘请了多位独立董事会成员，以确保公司的治理结构更加稳健和透明。
主持: 即使创始人拥有控制权，也可能面临来自各方的压力。你是如何应对这些压力的？
Jonathan Ross: 我们向投资者承诺，如果有人提出合理的收购要约，我们会拒绝；但如果是不合理的要约，我们才会考虑。由于我们的技术非常独特，很少有人能真正理解它的价值，因此也很难提出让我们满意的报价。目前只有英伟达和Groq能够大规模提供生成式AI计算所需的芯片，因为我们的供应链与其他公司不同，受地缘政治影响较小。
主持: 人们通常认为公司的治理结构取决于纸面上的规定，但实际上，谁掌握了你的权力才是关键。你考虑过如何应对未来可能出现的各种压力吗？
Jonathan Ross: 我们目前的芯片是在美国制造的，封装在加拿大，供应链安全性更高。我们也在努力将所有组件都转移到北美生产，以进一步降低风险。
主持: 你之前提到过不想被收购，也不想为了迎合季度业绩而过早上市。你理想中的资本市场是什么样的？
Jonathan Ross: 我希望控制权与持股时间成正比，长期持有者应该拥有更大的话语权。目前的金融体系鼓励短期交易，这不利于公司的长期发展。我们需要一种机制来奖励长期投资者，并惩罚短期投机行为。
主持: LTC提出了长期投票的建议，旨在解决这个问题。你在公司内部是如何维系企业文化，并鼓励员工进行长期思考的？尤其是在如今AI领域竞争如此激烈的情况下。
Jonathan Ross: 关键在于清晰的沟通和简单的信息。我们给每位员工发放了一个代币，上面写着“2500万”（我们计划在年底前实现每秒2500万个token的处理速度）和“让它成真，让它现在就成真，让它惊艳”。这成为了我们共同的目标，所有提案都必须围绕这个目标展开。我们预计到明年年底，Groq将提供全球超过一半的生成式AI推理计算能力。
主持: 你曾说过，将推理成本降至接近于零，让每个人都能像使用自来水和电一样轻松使用AI计算资源。这将带来哪些可能性和挑战？
Jonathan Ross: 降低计算成本会刺激需求增长，这被称为杰文斯悖论。Groq的目标是将通用AI的计算成本降低1000倍，这将推动AI应用的普及，并确保更多人能够参与到AI经济中来。我们还致力于为美国政府提供与商业用户相同的价格，以提高效率，减少浪费。
主持: 最后一个问题。你曾说过，实现10倍增长比实现10%增长更容易，这是什么意思？
Jonathan Ross: 因为当你的目标是10%的增长时，你面临着激烈的竞争，所有方法几乎都已经被尝试过了。而当你的目标是10倍增长时，你几乎没有竞争对手，反而更容易实现突破。
主持: 你还说过，如果一个想法听起来好得不像真的，那它很可能就是真的，因为如果每个人都认为它可行，那早就有人去做了。你为什么会有这样的观点？
Jonathan Ross: 我经常在会议上听到有人说“这不可能是真的，因为如果是真的，每个人都会去做”。每当听到这种说法时，我都会感到兴奋，因为这意味着这是一个巨大的机会。Groq的第一位离职员工就是因为不相信我们能够实现预想的线路密度而离开的，但我们最终还是做到了。
主持: 这确实反映了人们的一种普遍心理。你认为是什么导致了这种误判？
Jonathan Ross: 我不知道，但我认为这是一个机会。
主持: 你还说过，如果你没有感到恐惧，那说明你没有在做任何重要的事情。
Jonathan Ross: 是的，我们的人员规范中的每个维度都是基于克服恐惧而设定的。人们常常因为恐惧而放弃一些想法，而作为创始人，我的职责就是克服恐惧，勇于尝试。
主持: 你认为团队应该由哪些人组成？
Jonathan Ross: 你的团队应该由那些你愿意与之分享未完成想法的人组成。许多创始人害怕在董事会面前展示不成熟的想法，但实际上，董事会成员应该是你团队的一部分，他们能提供宝贵的反馈和建议。
主持: 你认为在招聘工程师时，同理心为什么重要？
Jonathan Ross: 同理心和同情心对于工程领导者至关重要。同理心能让你理解他人的感受，而同情心能让你克服自身恐惧，做出对他人有利的决策。要想取得卓越的成就，就必须学会与他人合作，而同理心和同情心是有效沟通和团队协作的基础。
主持: 最后一个问题，你认为没有文明就不可能有感知，这是什么意思？你如何看待AI的未来发展？我们应该害怕AI吗？
Jonathan Ross: 首先，我们需要明确“感知”的定义。我认为感知是指提升认知能力的能力。个体人类的认知能力在有限的生命周期内会趋于平缓，而文明的认知能力则可以不断提升。因此，我认为只有文明才可能拥有真正的感知能力。至于是否应该害怕AI，我的观点是，大型语言模型就像心灵的望远镜，让我们能够窥探到更加广阔的智能领域。就像伽利略用望远镜证明地球并非宇宙中心一样，AI也让我们意识到人类的渺小。但我们不必为此感到恐惧，而应该欣赏智能的无限潜能，就像我们欣赏宇宙的浩瀚一样。
主持: 非常精彩的总结。感谢Groq的创始人和CEO Jonathan Ross与我们分享他的故事和见解。Groq很可能成为未来AI革命的标志性公司之一。
关注《森林聊AI商业》公众号
了解 AI 如何塑造商业的未来
