北京时间 12 月 16 日晚,GMI Cloud 携手 Lepton AI,联合 36 氪、InfoQ、扬帆出海、甲子光年四家媒体,发起了一场年度 AI 圆桌话题讨论,围绕“AI 出海新风向:AI Infra 如何重塑全球 AI 版图”为主题展开激烈探讨。
本次直播嘉宾相当重磅,除 GMI Cloud 创始人 &CEO Alex、Lepton AI 创始人 & CEO/ 前阿里巴巴副总裁贾扬清以外,36 氪合伙人 & 副总裁李政、InfoQ 极客传媒总经理王一鹏、扬帆出海创始人 &CEO 刘武华、甲子光年首席内容官王博 4 家媒体老板罕见同框,全程直播探讨长达 2 个小时,在 36 氪 -APP& 官网、InfoQ 视频号、AI 前线视频号、扬帆出海视频号、甲子光年视频号等多个渠道同步直播,开聊十分钟就冲破了 5 万关注度。
直播探讨内容分为两个章节,分别由 InfoQ 极客传媒总经理王一鹏、甲子光年首席内容官王博作为主持人,以下为当天直播内容精华:
Lepton AI- 贾扬清:我认为国内外 AI 技术相较于以前的科技潮流更加同频共振。大家都在关注 AI 模型,无论是大语言模型还是多模态模型,它们的天花板在哪里。国内也在迅速跟进,包括六小龙在做的模型突破以及 deep seek 等。我认为国外更靠前的是对于前沿模型的探索和落地,大家会更加迅速地发现可以使用现有的成熟模型,例如 OpenAI 、Anthropic 构建应用并推动应用的 adoption。最典型的例子是 codebug code generation,如 cursor 公司,今天已经达到了接近一年 5,000 万的回报,是一个非常 impressive 的状态。国内我认为大家可能还慢 3 到 4 个月左右。从对大模型的狂热到逐渐冷静,国内也开始讨论应用如何落地等问题。我们发现,国内的应用可能被 1~2 个超级 ToC 公司所控制。在这种情况下,越来越多的人看到出海机会,通过国内优秀的 AI 人才和迅速迭代的能力,在海外实现更多业务和应用落地。例如我们在海外也会看到欧美人不太会注意,在华人圈子里会非常迅速地发现,比如 MiniMax 的 Talkie 以及快手的可灵等,非常迅速地占有用户的心智。这是一个有趣的现象,即墙内开花,墙外香。
GMI Cloud-Alex:我认为中国企业出海主要分为几大类别。其一是 EV,由于最近政策问题,存在不确定性。我认为出海是必须的事情,毕竟海外市场才能摊销 EV 所的制造成本,海外愿意出资金打造新的 EV company。其二是互联网巨头。目前,它们在国内市场遭遇瓶颈,虽仍有增长,但增速已然放缓。所以,我觉得它们需要在海外寻求新的发展契机,例如在服务、新产品以及视频模式等领域开拓新方向,这既是形势所迫,也是必由之路。其三,人工智能领域的六小龙在国内的发展或许会面临较大挑战,就目前来看,MiniMax 所走的路径可能是较为理想的方向。其四,一些大型云公司,出于出海的需求,为了训练大型模型,会选择在海外部署节点。
接下来谈谈其他趋势。我注意到一个有趣的现象,在美国,排名 Top20-25 的大型公司拥有数万张计算卡组成的集群,用于持续迭代大云模型或者多模态模型的训练。近期,有大量 VC 需要落地,形成了 “B to B to C” 的模式,其中 “B to B” 实际上类似于 “B to VC”。当下,大家不仅开始盈利,还在探索新的应用方向。我认为当前落地速度最快的领域当属广告、媒体以及娱乐领域。其中,最具前景且落地迅速的是对话和视频生成领域,在东南亚和美国等地已经陆续落地实施。在美国,与国内情况有所不同,面向 To B 的业务发展相对更为顺利,有各类公司提供多样化的服务,比如 RAG 的解决方案或者特定垂直领域的人工智能应用。近来,出现了许多人工智能领域的 SDR,这表明美国的整个销售流程已较为成熟。其销售流程通常包括 SDR 负责对外拓展客户资源,销售人员负责完成交易,并且他们还会在 Linkedin、Facebook 和 Instagram 等平台上进行营销文章的创作,这些平台已然成为了极为有效的营销工具。
当然,还有众多其他行业类别。金融公司大量运用 GPU 来训练不同的智慧服务;在医疗保健领域,以人工智能药物研发公司为例,鉴于糖尿病在美国乃至全球都是一个严峻的问题,如何更精准地为患者投药,便是人工智能的不同应用场景之一。这便是我所观察到的美国和中国在相关领域的差异之处。相比之下,欧洲以及世界其他地区的发展速度相对较慢。此外,还有一个值得关注的地区是日本。除美国和中国外,日本的人工智能应用大多由政府主导推动整个项目的开展,日本政府投入了大量资金来扶持初创企业,呈现出一种独特的全球态势。综上所述,我认为目前全球人工智能的发展潮流主要集中在美国和中国。
36 氪 - 李政:我们观察到中国 AI+ 产业的应用发展较快。今年上半年,我们见到了美国硅谷的几位华人投资人朋友,我们发现他们对 AI+ 产业的理解与国内比还是存在差距的。下半年,华为和盘古等公司已在产业端开始精进生产力。
GMI Cloud-Alex:自三年前 GPT - 3 诞生起,这基本可被视为 AI 和通用人工智能的元年,众多企业纷纷朝着这个新兴市场全力冲刺。目前,无论是 VC 还是 PE,其投入的资金大多来源于 VC 和 PE 机构本身。在我看来,人们对此感到兴奋的部分原因,一是看到英伟达这边持续强劲的增长态势,并持续热情地对其加大投入;二是源于 OpenAI 及其他公司所取得的突破。我们刚刚谈到,半年前,Sora 的出现令人印象深刻,只是由于当下 AI 公司的市场竞争异常激烈,其他公司也逐渐追赶上来,所以我认为未来仍有望出现一些重大突破。但这并非意味着这只是一场转瞬即逝的泡沫。
有一种思考逻辑叫做第一性原理,我的想法是以演绎推理为基础,即我会首先确立一个长期不变的真理。我认为在未来,AI 尤其是通用人工智能的发展将会发生什么,其确切的时间节点并不明晰,就如同所有的技术创新一样,我们难以预测其未来的发展时机以及状态。在 1999 年时,人们无法预见到 2008 年社交媒体所带来的变革,当时,你对着屏幕或摄像头讲话就能有人给你付钱,这是你根本无法想象,也无从知晓的事情。我们投身于 AI 事业,就是为了确定其未来走向。那么未来是什么样的呢?在这波 AI 浪潮中,必然会有不同的迭代过程,会有各类公司持续发展,从面向消费者到面向企业,再到各种应用的更新换代。我要如何确立这个长期不变的真理呢?在这波 AI 浪潮中,确立“真理”意味着需要大量的算力来构建模型。需要着重指出的是,在这个机遇面前,我该如何更好地服务客户?大家购买 GPU 或显卡,并非仅仅因为其外观酷炫,而是为了利用这些设备来开发应用产品。那么,我们应当如何更优质地服务客户,助力他们更快地开发出所需的应用呢?这就如同在某个关键节点之前做好准备。另外,目前 AI 基础设施非常复杂,GPT 也会出现故障。不仅如此,在预训练阶段还存在诸多问题亟待解决。GMI Cloud 的职责就是构建足够完善的基础设施和应用平台,让大家能够像搭建乐高积木一样便捷快速地实现目标。
回答你的问题,我认为在时间节点的把握上确实存在难度,未来的态势也难以精准预测。我们可以看到,视频图像和语音部分已经快速落地应用。未来在议程的工作流程执行以及不同的行动方面,我认为这将会是一个极具潜力和吸引力的赛道。
36 氪 - 李政:首先从商业角度来看,这个市场肯定呈现快速增长。AI 只有两个字母,实际上我们观察到大家的定义差距较大。虽然我们从数据上看,过去一年的增长为 35% 或者 50%,但是从整个 AI 市场看,增长率一直在 50% 以上。未来增长速度会更快,2023 年,我们称之为 AI2.0 时代的元年,到今年可能称为生产力的元年,目前仍然处于起步阶段,相应的因素非常多。我认为第一个问题是基础设施,中国企业要更好地出海需要大量的基础设施。我们暂时不讨论 AI,之前中国企业的出海主要从外汇到物流,今天我们提供给大家包括在线支付、本地仓以及当地运营团队等在内的所有支持。AI 出海对我们技术方面的基础建设产生了一个非常重要的影响。如果基础设施建设速度快,那么使用成本就会降低,AI 是将大量低于平均水平的工种拉到平均水平。虽然目前情况如此,但是未来通用智能发展到顶尖或者更高水平,至少今天我认为平均水平没有问题。
在这种情况下,卖铲子是一个特别好的生意,每个人都可以利用铲子进行淘金,而一个人的产能有限。在中国,大家都一直采用数字化思路,鼓励 AI 提供出海服务或者外贸服务的政策,对我们的出海影响相当大。另一个重点是海外对我们的接受度。例如,欧美国家对中国的信任以及数字隐私安全方面存在许多疑虑,中国企业在接下来的出海过程中如何实现透明、公开,以获取大家的信任,这也是我们需要思考的,与原来商品出海时代不同的地方。
Lepton AI - 贾扬清:今天我们在讨论出海时,看到第一波会出现的是 consumer APP(如 Talkie)等。我认为出海,从实务的角度来看,有一个非常巨大的机会与国内不同,即 enterprise service。对我们公司而言,Lepton AI 算是一个小公司。如果有一个新同事加入,那么我们会花费哪些资金?我们会有 Google 的 enterprise account。我们会有一个 slack 的 account 用于密码管理,有一个 one password 的 account 用于开发 GitHub。我们现在有 code generation、GitHub、Copilot 或者 cursor 等,实际上有不下 10 个企业服务 acount。如果是 sales,他需要购买一个 Apollo,之后如果我要开会或者录音,我会再去购买如 Otter 等 subscription 领域的服务。一方面它能够较高地提升生产力,另一方面企业愿意为此付钱。对我个人而言,7 月的时候,我购买了一个 ChatGPT 的 subscription,一个月 20 元,还需要租用,我需要考虑是否需要付这笔钱。对于企业而言,一个人一个月 20 元钱眼睛都不眨,只要它能够提升效率。
我们可以看到在北美,enterprise service 是一个非常值得做且具有较强付费意愿的领域,这可能是我们在进行出海业务时值得考虑的一点。我想提这一点的原因是,我们之前在国内也做过很长时间,国内一直有一个说法是 SaaS 无法做,但在北美,SaaS 是一个能做且值得做的事情。
Lepton AI- 贾扬清:我继续讨论实务。我们之前从事云服务等工作,从 ToB 角度来看,出海与国内客户的心智有所不同。国内客户通常认为最好有一个人为他们贴身服务,在遇到问题时他们会找我。因此,在国内开展业务时,我们会更关注客户情况的维护、团队的打磨和合作关系等,这对 operation 有着非常高的要求。在海外,许多海外用户,尤其是 b 端用户,他们的想法是最好不要来找我,而是先使用产品,他们的想法是你的业务将来会增长。不只是我一个用户,你还会有 100 个用户。如果每个用户都要提升服务,你可能会倒闭。而我不希望你会倒闭,因此我会努力。
首先我们需要评估 selfserving 的产品能力是否优秀。因此,当我们企业进行出海时,我们会考虑到底是否需要按照国内 instinct 提供优质服务。如果用户想要进入,那么在一定程度上不会被肯定,反而会起到反作用。如果我们告诉用户先尝试产品,再把产品打磨好,那么用户会表示非常喜欢,他们可以自己使用。因此我认为在国内出海时,对于产品能力的打磨以及由优秀的产品经理定义产品的边界是非常值得重视的一件事情。我认为其他方面的问题确实很多,例如语言壁垒和习惯壁垒等,这方面的讨论较多,最大的区别还是在于以服务和产品为中心。
36 氪 - 李政:从出海的商业角度来看,关键问题在于盈利。但这里有两个问题,一方面国内实在太卷,目前无论是科技领域还是非科技领域都非常卷。另外一方面,海外有一个广阔天地,其中有几个值得讨论的地方。我们一直在为企业提供新业务,例如 ToB 业务。每年我们接触几万家中小企业,报道数千家企业,我们是中国一级市场企业数据库最全的,所以我们有很多观察,国外企业愿意为产品和带来效益的人付费,中国企业更愿意为服务付费,而不是为产品或者内容付费。另一个问题是习惯,包括经济发展情况不同。在中国,付费在可支配收入中占比较高,而国外相对较低。
大家在海外发现即使是 c 端用户这一端,大家的订阅习惯也比国内好。虽然中国的情况也比之前好很多,但是与国外的成熟市场相比仍然差很多。这几个原因导致企业纷纷出海。另一个重要原因是过去非技术类出海,即使是手机消费电子类,再加上现在茶饮技术较少的技术,这种经验也给了我们很大的信心。大量企业在创业初期瞄准的是出海。虽然刚才我们提到可能有很多被迫的原因,但是大家对出海的成熟度确实高了很多。挑战很多,包括文化和产品。如果我们在国内研发,素材等方面也有差距,因此仍然有一些诉求。我们一直认为,出海文化存在很大差异,我们认为是否可以寻找当地团队解决这个问题?目前看来并非完全如此,商业模式初期不太一样,我认为这确实是对企业的一个巨大挑战。
从宏观角度分析,我认为人才方面是一个很大的挑战。我给大家一个数据,在国内,我们优秀的部分是中国人社部已经储备了 40 万 AI 人才。然而根据 2024 年的口径,我们的缺口是 500 万,两年之后到 2027 年我们的缺口是 2,000 万。在出海之后,到了国外,你可能还需要与当地企业,如欧美发达的企业争抢当地人才,人才方面的挑战非常大。
GMI Cloud-Alex:在全球的 AI 出海企业领域,我觉得 To C 这一端蕴含着诸多潜力。就像扬清老师方才提及的,在 To B 的业务方面存在着极为迫切需求的解决方案,我们拥有不少于 20 个的 SaaS 产品解决方案。针对不同的企业,需要将各式各样的解决方案进行组合运用。同时,我们也在关注各类新兴的初创企业,目前尚未有一款产品能够出色地将知识图谱与信息收集结合起来做出更优决策。我认为在 Sales、Marketing 以及人力资源这些方面存在着大量的潜力与机遇可供挖掘。
在全球的出海企业格局中,我觉得竞争主要集中在几个大型模型公司引领潮流持续开发整个模型的过程中。有许多公司直接运用不同的 API,例如腰部客户公司会基于这些 API 来开发各类不同的应用。我认为对于那些有志于出海的朋友们而言,可以借助现有的解决方案,直接落地实施并制作出简单的产品,进而实现快速迭代,而不要一开始就将大量精力聚焦在产品成本上。如今有不同的 API 可供使用,例如可以直接利用 ChatGPT 制作出简单的产品。只要拥有自己的专有数据,就能够开发出许多不同的有趣应用,从 Sales、Marketing 和人力资源等领域落地实施。这便是我所观察到的竞争态势,初创企业无需从基础层面去训练模型,而是直接利用现有的资源进行快速迭代。当产品在市场上获得一定的认可度,即了解到用户喜欢你的产品时,再去思考规模化所需要的解决方案,这一点很重要。
36 氪 - 李政:AI 是全人类的事情,已经不像以前那样需要某个地方。例如我们从中国出海,第一站肯定是东南亚。我认为东南亚最大的两个优势是什么?第一目前整体东南亚的监管相对宽松,因此我们有很多创新的东西,甚至可能在国内不可以的东南亚都可以作为第一站落地。另外目前东南亚社会年轻人较多,因此我们可以在 TikTok 或其他方面看到,东南亚在里面有很大的流量。东南亚的年轻人非常喜欢中国的社交软件,因此他们对 AI,包括对中国企业、中国产品的接受度也非常高。此外,根据不同企业的需求,去美国这个事,对于企业长期战略而言,未来 3 年、5 年、10 年还是比较关键的,只有在市场中能够站得住脚,才能留在牌桌上。如果你有这个策略,例如在 AGI 和通用智能完全到来之前,我一直在一线发展,那么你无法打进北美市场。未来实际上仍然像中国原来一样,制作 MADE in China 的产品,销售到美国无法销售的地方,这是不同的想法。
还有几个值得关注的地方,一个是中东。大家都知道目前中东非常富有,资本上给予大家支持特别多。另一个特别重要的是沙特等国家,他们目前的策略非常清楚,正在为后石油时代做布局。他们投入大量资金到后石油时代,因此他们对新能源、数字化、AI、低空经济等领域的投资都非常大,中东是一个值得关注的潜力市场。还有就是非洲。过去,非洲人认为我们可能会将低价产品销往其他地区。然而,目前中国有多家企业已经在非洲与农业、医疗、能源和 AI 领域合作,实现了这些项目。与其他地区相比,非洲贫富差距较大,非洲富人非常富有,政府在发展产业时也非常愿意花钱,因此非洲的发展非常值得。
过去软件时代可能是印度时代,互联网时代是中国时代,移动互联网中国发展得非常迅速。由于我们跑得快,许多人并未发现印度拉得并不远。印度在移动互联网领域跳开光缆,基础建设高成本阶段直接开始上无线。因此,印度在移动互联网上与中国相比差距不大。目前印度也在推广这个数字,这些计划与中国相同,因为人口多且市场大。所以印度非常值得借鉴。AI 的本质是提高效率,在大市场上提高效率的商业效应会更大。
其他没有提及到的地区,比如欧洲现在可能相对慢了一点,从政策上保守程度等方面,我认为可能不太能跟上,也有可能是已经 AGI 来了,欧洲的政策还没有出台。
Lepton AI- 贾扬清:关于出海,我想 share 一个原则性的事情,我认为可以找两个地方,一个是有单一大市场的地方,北美是最好的地方。另一个是有足够的 unique 的地方,无论是准入还是文化,或者市场风格上有特点的地方,这样可以构建壁垒,例如日本、李正老师刚才提到的中东等地,就是一个比较典型的地方。
GMI Cloud-Alex:我认为非常有趣,从底层到最上层,大家都知道的是应用层的像 OpenAI、Anthropic 这样的公司,而从基础设施层赛道则是像 GMI Cloud 这样的硬件提供商。从底层开始讲,硬件之上可能是 inference、the host fine tuning、 issue solution,再上面还有 Trans Factor database,有些提供整个 rack 的解决方案,或者再上面就是 Orchestration Model 或者 code source 的 model,分别都有不同的打法。
目前 AI 企业的出海呈现出一种竞争激烈的态势,与过去有所不同。以往,全球市场更像是一个整体,仿佛一家公司就有可能占据全球市场的较大份额,就像我过去所观察到的 AWS 能够顺利地在全球范围内扩张业务那样。然而在当前的这个赛道上,企业们意识到自身的数据至关重要,不会轻易与他人共享。所以现在我发现许多公司,尤其是欧洲的企业,开始强调企业主权。欧洲、美国、中国和日本各自发展,市场已经呈现出一种相对割裂的态势,大家都在各自的区域内不断探索和重复寻找适合自身的发展路径,重复造轮子。但我认为在这样的竞争格局当中,其实蕴含着非常多的机会。所谓 “Redundancy”,意思是有些企业由于文化、政治以及其他种种原因,无法进入某些特定市场,而这恰恰为其他企业提供了很好的落地机会。
Lepton AI - 贾扬清:我认为今天有一个 Meta question,即 AI 正在创建一个单一大应用。这与互联网时代的 Google 相似,AI 是在为许多 application area 提效或者为其插上翅膀吗?如果 AI 是一个单一应用,那么它可能会出现全球化的全新产品。Chatgpt 可能是现象级的产品,虽然今天它仍然在进一步分化成不同的垂直领域服务。我认为 AI 是一个应用加 AI 的过程,而非单一应用。2004 年时,微软的《Exchange &Outlook》杂志上面有需求和场景,这个场景多年没有变过,最上面是 expand communication,这就是今天我们说的钉钉飞书企微等在做的事情。也许就是即时通讯之类的功能。是的,我的意思是,请开发你的第一个应用。
Web services 即小程序,今天有各种小程序、公众号、图片共享空间等,很多文章写出 conference in Server。今年全球的 Zoom 等都是这样的事情,20 年过去了,这些场景没有太大变化。AI 来了之后,conference Server 可以自动做会议总结、写小程序等,今天我可以用 cursor 或者 ChatGPT 等来写,交流变得更加高效,Essentially 这些需求没有太大变化。因此我认为 AI 今天是为这些应用提效的,尤其是在 ToB 方面。ToB 天生需要针对不同的具体场景进行定制化,这也是 naturally 的原因。我们经常看到中国有中国的 AI,美国有美国的 AI,日本有日本的 AI,它们需要被 embed 到自己更加深入的 application 中。我认为这是一个优势和不同之处,以前我需要进行深入的定制化才能制作产品。今天 AI 也许利用底层通用技术以及本地化的专业技术产品工具,可以更加高效地使用底层 for lack of better words,我们可以利用底层中台技术和更加高效的本地化团队打赢全球市场。
36 氪 - 李政:我想谈论一个小点,无论是否出海,还是 AI 应用落地,未来还有一个特别重要的话题,即重新认识流量,过去的流量都是在表面,过去我们的互联网是活在浏览器里面,从浏览器逐渐到应用 APP,未来流量无法看到,可能在智能体和智能体之间,这是一个非常重要的点。选择合作伙伴的关键在于能够先认识到,未来流量会流向桌面下的企业是优秀的合作伙伴。那些想将流量在桌面上流到自己碗里的企业,很可能是接下来要被淘汰的巨头。
Lepton AI- 贾扬清:创始人需要关注海外市场需求。在国内受到大厂压力,尤其是 SaaS 这一领域,赚钱能力面临挑战。大家可能直接认为出海就一切都是蓝海,遍地都有果子摘了,实际上出海会遇到不同的问题。有时候国内因为大家卷,问题没有太大办法解决。对于创业公司而言,在出海时,很多问题更多的是创业公司内在带来的,比如了解市场和需求,能否设计出 exactly,能够高效地、简单地解决这些问题的产品,以及对本地使用风格是否一致。例如,在国内不需要担心充电问题,遍地都是充电宝,到了海外之后,硅谷全境没有充电宝。在这种情况下,市场环境或者市场 existing market 的状态会使你在设计产品时需要根据用户使用场景变化。因此创始人首先实地采访用户,与各用户交流,其次实地观察用户的风格,这非常重要。我们观察到国内数据领域的出海时间比 AI 早。例如 Pingcap、Starbucks 等,他们的创始人会在这里待好几个月,深度与潜在客户交流,以及与现在的客户交流,比如建立本地的 sales 团队等。
他们的 operating model 对 AI 公司来说非常值得借鉴,没有太好的方法,需要创始人自己了解,潜移默化地就能设计出与这边更相似或者更符合用户需求的产品。从技术角度来看,在海外制作一个产品更加容易,现有的 components,比如云、SaaS 等小组件更好。
从心态上分析,尤其是像我们这样技术出身的创始人,在国内通常做东西都是自己完成,因为依赖其他组件,后面出现的 bug 会更多。在北美,他们非常自然的想法是使用标准组件搭建产品,这种想法是利用成熟的现有组件,尤其是在海外,利用成熟组件的生态优势迅速将自己的产品 build 起来并推向市场,我认为这是技术创始人需要习惯的事情。
扬帆出海 - 刘武华:“出海”这个概念十分重要,嘉宾们提到了很多出海涉及的不同区域,像非洲、中东市场,还有与我们文化相通的东南亚地区。而对于欧美、日韩以及巴西等各个区域,无论是互联网相关领域,还是人工智能相关领域的创业者来说,我认为都需要重点关注数据方面的情况。数据涵盖的内容繁多,就像李老师也提到的,在当下融资环境并不轻松的情况下,大家依然要关注资金状况、自身所做的业务,以及团队是否能够存续发展。要留意谷歌应用商店和苹果应用商店的榜单情况,看看自己所做的产品在相应区域市场的收入以及用户数量如何,是否已经有同行在做类似的产品,要提前做好精准的数据整理工作。总之,在真正出海之前,一定要做足充分的准备工作。
就扬帆出海的近几年的观察,全球出海,包括中东或者非洲的一些细分领域,实际上竞争已经非常激烈了,如今出海业务已经遍布全球各地。所以,我们首先要关注所做业务在当地的核心数据,并且花费时间去观察市场动态。我们建议企业的负责人一定要花时间去深入了解,这样在走出国门拓展业务时相对会更容易些,也能避免花很多冤枉钱。
我们还特别关注系统性风险,如果业务存在因地域因素延伸出的政治问题,那么参考“一带一路”的策略大体上不会有太大问题,比如一些名企重点投入的区域,其他企业跟着投入,一般来说风险不大,而有些业务并没有太多涉及地缘政治方面的影响,那就更多地回归到业务本身来看,产品和数据的合规性是关键所在。所有业务的拓展,尤其是出海业务,都需要本地化人才的支持。在搭建本地化人才队伍这件事上,不管是小型企业还是大型企业,都面临着巨大的挑战。就拿国内一家非常头部的电商平台来说,去年我们参加中国印尼互联网大会的时候了解到,他们在当地进行了多达十几轮的裁员,投入的十几亿资金差不多都消耗殆尽了。由此可见,当地团队或者负责人的选用是极为关键的一点,不过这对于中小公司来说,也可能是个有利的切入点。
我们建议由中国主管来带领当地的相关团队开展工作,本地化人才以及当地组织架构的设计是至关重要的环节。要是一味地追求本地化,就必须去寻找当地人合作,而这就涉及到当地合伙人是否可靠的问题,如果合伙人不靠谱,很容易让自己陷入困境。我之前对出海情况有所了解,也和不少出海人员交流过,之前在墨西哥就有这样一个例子。墨西哥当地有很多制造业企业出海,也包括一些交易厂商出海,当地的华人已经组建了一些组织或者机构来帮助承接国内出海的需求,东南亚地区也存在类似的组织。我们在 AI 应用层面的出海确实有着明显的优势,但面临的问题是合规性更为重要。做海外业务早已过了那种轻轻松松就能遍地捡钱的阶段,大家需要做好长期投入的打算,并且严格遵守当地的法律法规。
GMI Cloud-Alex:回想一两年前,那时候大家的需求还只是有卡能用就行,但如今,局势已经大不一样,现在大多以裸金属为主流,当下对稳定性和可观测性方面提出了诸多要求,我认为这体现了整个行业正在走向成熟的过程。要确保稳定性,有几个关键要点:
第一,在硬件层面,需要对供应链进行强有力的把控。我觉得一些云公司,甚至是部分上市公司,都可能在这方面吃过亏。就拿一台服务器来说,它包含多达 20 万个零部件,如果将几千台服务器连接在一起,出现故障的概率就绝非零,总会有部分零部件出现问题。例如,Meta 披露的报告显示,为期 54 天的预训练阶段中,总共出现了 466 次工作中断,其中 419 次是意外的,且大部分都来自硬件问题,像电源故障、内存故障等情况都有可能发生。所以,对于拥有硬件的厂商而言,我们能够直接与英伟达及其供应链进行对接,甚至可以直接向厂商指定,不需要三星的内存,而只选用 Hynix 内存,这样便于在硬件上开展大量调试工作。稳定性至关重要,需要从测试、温度、CPU、GPU 等多达八道工序去进行测试,通过在硬件上运行大模型,基本就能筛除那些一开始就存在故障、无法正常使用的机器。
第二,在软件层面提升稳定性也很重要。首先得能够提前察觉问题所在,不然等到客户反馈了才知晓,那就太晚了。所以,我们需要深入了解底层的具体情况,从架构层面去观察、去理解机器到底存在什么样的问题,以便在客户提出问题之前,比如 IB 出现问题时,我们就能主动去解决,replace 给你。
第三,即便在利用机器进行训练、推理或者微调等操作时,机器依然有可能出现故障,这是正常现象,但 GMI Cloud 可以确保如果发生组件故障(如 GPU、内存等),始终有预先储备的组件可以快速更换,不影响客户运营。
对于客户来说,尤其是我们有众多大型企业客户,他们极为看重稳定性。在今年,我们为客户提供了整个企业级别的稳定性以及定制化服务。接下来会怎样发展呢?这只是我的推测,如果能够持续保障发展以及稳定性,市场就会朝着这个方向逐步迈进。所以,GMI Cloud 明年的布局方向可能是打造垂直领域的解决方案,方便客户后续能够快速地基于这些方案去开发不同的应用。从企业所需的技术层面来看,除了技术本身,另一个维度就是垂直领域应用。
我认为,要弄清楚客户的需求所在,然后去尽力满足。我们的客户遍布全球,中国客户和其他国家或地区的客户在需求方面存在差异。在人工智能领域,我觉得中国企业的特点是喜欢自己构建模型、自行开展培训工作,不太愿意使用别人提供的现成东西。在美国,除了医疗或者制药之类的公司外,大多数企业其实不太想拥有这些硬件设备。中国出海企业,有些人会跟我们说某个机房归他们所有,在这个机房进行部署没问题,或者在我们的机房里划分出一个专属空间,用铁栅栏围起来,表明这个地方是他们专用的,然后再拉一根光纤过去,这就是中国企业比较特殊的地方,而 GMI Cloud 就能满足这些需求。
扬帆出海 - 刘武华:年初时有个朋友说机器价格很贵,当时找我们帮忙问海外有没有资源,想购买完去部署。我问他这么贵为什么不租了?他说人家非得要买,所以各个不同国家的创业者喜欢用云厂的,有些人租就行了,有些人喜欢自己买搭建。
前段时间,中国一家非常头部的互联网公司在日本部署了大模型训练环境。即使是头部大厂和顶流创业者,也面临着如何连接算力集群的问题。一台设备可以完成,但几十台或上百台设备行业缺乏这方面的人才,很多人不知道如何高效地将这些设备连接起来进行协作。因此,集团专门派遣一个人去日本帮忙处理这些事情,他们集团是国内的一家核心大模型公司,只能调集团的人员去做,这里就呈现出了大量的服务需求。目前,大多国家都要求数据不出境,AI 训练的数据必须不出境。这就涉及到 IDC 问题,训练完的大数据库,很多公司在部署时尽量离他们公司近一点,否则数据传输的瓶颈非常大,面临很多挑战。
Lepton AI- 贾扬清:我认为海外 AI 基础设施的经验更加充分,在这种情况下出海时应该利用这个优势。GPU 是一个典型的例子,因为今天价格太贵,所以大家仅仅是聚焦在 GPU 的单价上,这是很多公司所遇到的挑战,例如 CEO、CTO、CIO,他们花费巨大时间讨论 H100 的价格是“两块一”还是“两块钱”,忽略了一个现实,即为了 5% 的名义上的价格可能损失非常多其他解决方案。大家在做 ToB 时都有一个经验,即强扭的瓜不甜。如果我苦口婆心地告诉他这个地方应该这样做,他可能会认为这是因为你在卖我货。“Without prejudice”是中国创业者们经常会遇到的问题,即想找到最便宜的硬件资源,结果发现有很多坑。例如在两小时 59 分的时候突然断了一下。海外实际上一分钱一分货是一个更加实在的状态,尤其是完整的 SaaS 服务。
我们是做 AI 软件云的,用户可以自己建立并节省成本,例如一年节省 3,000 元,他占用了 2 个或者 5 个人,因此我认为价格更贵。By the way,我有 best interest,我希望大家购买平台。我的切实感受是作为 CEO 需要考虑自己的综合成本,硬件成本或者物料成本是很重要的部分,但绝不是全部,但是你还需要考虑人力成本和机会成本。对于创业公司而言,人力成本是最大的成本,机会成本是更大的成本。如果为了节省 2 万元甚至节省 2 万元的 GPU,人和时间都投入其中,在快速迭代中带来机会,这是得不偿失的事情。前一年,我认为大家的心态在逐渐发生变化,从最开始的疯狂地只是单纯地寻找机器,到今天越来越多地关注质量和如何应用起来。这是大家经历了 GPU 荒后现在归于理性的状态。今天绝对不会有人先购买几台虚拟机,然后在上面自己添加数据库,直接购买一个数据库方案即可。AI 较新,软件也较早,因此大家都还在“购买一堆机器,自己搭建一个平台,而且一定程度上会表示搭建一个平台会很开心”这个层面上,这就像出水痘一样,出过两次之后大家发现省心最好。我认为只有在对于 Infra 采取最省心的心态时,才能真正 focus,将自己的 focus 放到 application、市场和业务上。
GMI Cloud-Alex:据我所知,中国企业往往更倾向于选择马来西亚和泰国作为出海目的地,这些地区相对中立。随便说说我的一些想法吧。大家都对东南亚地区存在担忧,甚至每隔几个月,就会有一些“禁用”相关的传言。而这也对于我们 GMI Cloud 提出了要求,我们需要了解客户所需要的解决方案,并迅速将其提供给客户。另一个关键要点在于对客户数据的保护,他们会选择一个自己信任的厂商来保障数据安全。
在美国,人们对使用云计算的接受程度相当高,这是一种集中式的模式,并且在地域方面也有其特点。其限制因素基本不涉及政治问题,只要具备应有的许可证就行,只有获得政府许可证的交易(deal)才能承接政府的项目任务。所以,或许在美国开展业务可能相对简单直接,能够依靠软件定义的方式来满足他们所需要的政策要求。
Lepton AI- 贾扬清:我觉得 AI Infra 带来的根本性机会点在于,传统的以数据为中心的基础设施已不再能满足需求。20 年前超大规模云服务提供商出现时,其基本需求是数据传输,也就是互联网上的各类数据,包括网页、图片以及后来的视频等等。数据传输是当时最为关键的需求,所以整个基础设施都是围绕数据构建的。AI 加入后,形成了一种以计算为核心的模式。比如,当我与 ChatGPT 进行交互时,在交互过程中,我与它之间的数据传输量很少,仅仅是文本或者图片之类的。与之相比,其背后所需的计算量比传统的 CPU 计算要多得多,甚至有成百上千倍的提升。因此,计算能力在何处成为主导因素,这也是我们如今看到人工智能基础设施相较于传统云基础设施变得更加分布式的原因。
这里所说的区别是,现在不仅有几家超大规模的云服务提供商,还有新兴的 GPU 云服务提供商,例如 GMI Cloud 等,它们正在进行更为分布式的部署。从我们以及用户的角度来看,会面临很多复杂混乱的情况,比如不知道如何处理资源,我们正在利用全球供应链以及软件云运营层面的经验,让用户感觉到所有的计算资源都能汇聚成一个逻辑上统一的环境。在构建应用程序时,只需要在美国东部和美西部各放置一部分资源即可。这种状态对我们是有益的,可以通过多元化的供应链和全球分布来实现成本的降低,无论是从厂商还是从用户的角度,都是如此。假设如今我们所有的机器都集中在一两个数据中心聚集的特定区域,比如弗吉尼亚北部或者俄勒冈,那么成本确实难以控制。
如果我们能够在全球范围内寻找电价更低的地方,仅仅拉一根网线就可以开始建设,在这种情况下,整体资源的利用效率会更高。但企业目前并不仅仅关乎效率,目前企业更加关注主权安全以及科技安全,这是不可避免的趋势。对于不同的企业而言,无论是合规性还是多地部署,都会面临这样的问题,这并非新出现的问题。
GMI Cloud-Alex:我认为前三年的市场重点在 B2B 领域,而接下来的几年,全球 2000 强企业必然会进入这个市场。他们现在已经设立了大量的创新部门,并在各自的领域展开探索。这些企业的首要要求是安全保障,他们不仅仅关注资金投入,更注重数据的安全性。基于此,我们得到了一些启示,比如采用隐私计算,这是一个不错的解决方案。要确保我们的私钥不是由我们自己单独管理,因为如果我们自身遭受黑客攻击,即便我们有很强的加密措施,也可能无法解决问题。所以,我们会把加密密钥交给第三方,即一个专门的验证机构。这样做的目的是确保数据在传输和计算过程中的安全性,这也是我们与客户沟通并展现自身优势的方式之一。
在 GMI Cloud 所选择的赛道上,我们发现客户已经在使用多种云服务平台,如 AWS、Google Cloud、 Azure 等等,他们自己的大楼里可能也部署了一些服务器,然而在管理这三个不同的平台和本地服务器时,他们会感到十分棘手。当多个工作流程同时运行时,Infra 团队的成员很难处理协调。因此,我们利用了一种可行的方式,通过“软件授权”的形式将整个软件提供给客户,使其能够进行统一管理,而且不仅仅是管理我们的硬件资源,还包括他们自己的硬件资源,这也是我们从技术角度出发的一种理念,即“紧密贴合客户的实际需求”。
从 GMI Cloud 的定位来看,我们更倾向于从人工智能的技术服务的角度切入市场。对于出海企业来说,大家相信我们不会与其产生直接竞争,我们只专注于做好自身的基础设施服务角色,不会涉足开发自己的大模型业务,我们会依据自身的优势与客户进行合作。在所有企业的投资过程中,我观察到的情况也是如此,面向企业(ToB)的企业基本上都紧紧围绕着一两个、两三个大客户展开业务,深入了解他们的需求、核心关注点以及自身的优势,然后持续推进业务发展。
Lepton AI- 贾扬清:我觉得从基础设施的角度来讲,最终我们应当尽快摆脱以 IaaS 为中心的思路,把更多的注意力放在模型和应用适配上,用标准化的 AI Infra 迅速解决问题。模型是一个百花齐放的状态,我作为供应商的目标就是让大家更容易地进行迭代和走向市场。
扬帆出海 - 刘武华:我们必须与客户需求同步快速发展。就拿近期中国出海社交领域的情况来说,由于涉及未成年人监管问题,大量产品在美国被谷歌和苹果应用商店集体下架。这一情况促使了针对人工智能在海外数据方面的新需求产生,尤其是在处理涉及儿童侵权账号时所需的人工智能能力。这主要涉及两个层面:其一,能否借助人工智能快速构建一个基于当地设备号的数据库,以供整个行业使用;其二是保障底层安全,也就是打造最后的防火墙。如此一来,一旦出现相关违规画面,就能迅速处理账号问题,确保平台符合监管要求,并且平台能够立即采取行动,避免受到监管处罚。所以,在应用层方面,我觉得我们作为基础设施领域的厂商,需要与具备生态构建能力的合作伙伴携手,以便更好地服务企业客户,只有这样,AI 企业出海才有未来。
Lepton AI 是新一代 AI 技术创新公司,由阿里巴巴前副总裁贾扬清创办,总部位于美国加州库比蒂诺,专注于开发高性能的 AI 训练与推理平台。公司拥有领先的 AI 模型优化技术,致力于为企业提供高性能、易用的 AI 技术解决方案,协助企业快速实现 AI 应用的商业价值。
由 Google X 的 AI 专家与硅谷精英共同参与创立的 GMI Cloud 是一家领先的 AI Native Cloud 服务商,拥有遍布全球的数据中心网络,为企业 AI 应用提供最新、最优的 GPU 资源,为全球新创公司、研究机构和大型企业提供稳定安全、高效经济的 AI 云服务解决方案。