在红杉资本8月的播客中,Fireworks 的创始人兼 CEO 乔琳分享了她对 AI 行业发展的独特洞见。作为曾领导 PyTorch 项目的 AI 领域重量级人物,她对 AI 推理市场趋势有着深刻的理解。让我们一起来看看这位华人创业者眼中的 AI 未来。
开源与闭源模型将趋同
乔琳大胆预测,在 7亿到 70 亿参数的模型范围内,开源和闭源模型之间的质量差距将显著缩小,最终趋同。她解释道:"对于相同模型大小,尤其是在 70 亿参数到 1000 亿参数之间的模型,质量会趋同。这是我的预测。"
这一趋势意味着,未来 AI 领域的关键差异化因素将是定制化能力 - 模型在多大程度上可以针对特定的用例和工作负载进行定制。林乔强调:"如果这个趋势是真的,那么关键的差异化在于我们如何针对个人的使用场景和工作负载来定制这些模型。"
在这样的驱使下，数据和工程的重要性将会进一步凸显。
小而专的模型正在崛起
乔琳认为,相比庞大的通用模型,小型专门化模型正变得越来越强大。她提出了"百花齐放"的策略,即使用更小、更容易调优的模型,这些模型可以针对特定的问题空间进行定制。
"小模型更容易调优,更容易提高质量,更容易专注于特定的问题空间,所以它让千花齐放。"她解释道,"为了解决企业问题,千花齐放对企业来说要好得多,因为企业会出现很多问题。事实上,在任何一个问题空间里,总有一个适合你的解决方案。"
这时模型的训练成本和效率成为赢得竞争优势的一大关键。
AI 客户旅程正从训练转向推理
乔琳观察到,AI 客户的需求正在从训练向推理转变。她解释说:"训练往往与研究人员的数量成比例增长,而推理则往往与客户的数量成比例增长。从长远来看,AI 产品的客户可能会比 AI 研究人员多,因此推理是未来的重点领域。"
这种转变带来了新的挑战。她指出:"大多数生成式 AI 应用是面向 B2C 的。它需要非常高的响应速度。低延迟是产品可行性的重要部分。没有低延迟,产品就不具备可行性。人们没有足够的耐心等待半分钟来获得回应。"
产品工程、复合AI应用成为落地最后一公里。
函数调用成为关键能力
面对这些趋势和挑战,乔琳分享了 Fireworks 的远景:"我们的北极星愿景是通过一个简单的 API 访问全部知识。"为实现这一目标,Fireworks 正在构建一个融合层,将不同模型和公共/私有 API 连接起来。
乔琳解释说:"实现这个愿景的工具是函数调用模型。基本上,这个模型能够理解你需要访问哪些 API 以及出于什么原因。它可以自动成为最精确调用这些 API 的路由器,无论是访问模型还是非模型 API,都能做到最精确。"
应用开发者的入口是API，拥有了API就是拥有了开发者，进而拥有了用户。
小结
乔琳利用过去Pytorch一统模型研究者的成功模式，通过构建一个围绕API的新统一应用开发入口,进而希望达到一统AI应用开发的新成就，我们拭目以待。
笔者看来，就像Pytorch的成功在于它的开发者生态，抖音的成功在于它的自媒体生态，随着底层模型和MAAS为代表的工具链趋向于成熟、可替代性进一步增强，平台实现无关的公域和私域AI应用要素（数据集、大小模型、知识库、工具或API等）的存用（资源库）和能力融合暴露（网关）以及进一步围绕它们的生态运营将成为新的战场。
来自：https://www.youtube.com/watch?v=U8FFeG0qeTU
