👇关注公众号后设🌟标，不错过第一手AI新鲜观点和动态
本文访谈内容整理自本·霍洛维茨接受FII Institute 峰会 专访，公开发表于2024年10月31日。原始内容参考：https://www.youtube.com/watch?v=DqvtzC2fQAA
本·霍洛维茨接受FII Institute峰会专访
★内容导读：
本次访谈中，Horowitz主要表达了以下几个观点：
AI浪潮的巨大规模和影响： AI革命的规模将远超云计算、移动互联网和社交媒体，它更像微处理器那样的基础性技术变革，将改变几乎所有领域，并催生大量新的软件和应用。 这波浪潮也带来了新型的工程师和创业者，他们更关注系统属性而非代码细节。 风险投资行业的变革： 过去15年，风险投资行业发生了巨大变化，可投资的科技公司数量大幅增加，传统风投公司难以适应这种规模化发展。 同时，美国上市公司数量减少，导致更多大型公司停留在私募市场，改变了风险投资的格局。 AI发展阶段与瓶颈： 目前AI处于“搜索模式”和“爬坡模式”之间，虽然AI是未来方向，但最佳平台尚未明确。 现有的Transformer模型正接近性能瓶颈，原因在于数据量已接近上限，未来需要新的算法或更多数据。 目前AI并非通用人工智能（AGI），而是人工人类智能（AHI），它基于人类知识的总结，而非对世界的直接学习。 小型公司在AI时代的机遇： 大型科技公司拥有规模优势，但同时也面临限制，例如为了符合“人类价值观”而牺牲模型的创造力。 小型公司可以在细分领域（例如个性化AI应用）或不受限制的领域（例如另类AI模型训练）寻找机会。 一个例子是Character AI的成功。 国家层面AI战略的重要性： 各国需要重视AI战略，这关系到经济、军事和文化安全。 过度依赖大型科技公司提供的AI服务可能导致“网络殖民化”，每个国家都应该发展具有自身文化和价值观导向的AI系统，避免在技术上落后。
★金句摘录：
我认为人工智能浪潮的规模明显大于云计算、移动和社交。原因在于它更类似于微处理器。计算领域的两大浪潮是计算机和网络。你可以追溯到集成电路和微波，然后是局域网、个人电脑、移动设备和互联网等等。它总是这样发展。现在，人工智能是新的计算机。多年来，我们拥有这种确定性计算机。现在我们拥有概率性计算机。 它看起来更像英特尔、德州仪器和AMD等公司开启微处理器产业的早期阶段，当时所有的工程师都有物理学背景。而现在你看看人工智能领域，工程师们似乎又开始拥有物理学背景了 人类在世界上训练自己，并将其封装在一个称为语言的结构中，然后我们用它来训练人工智能，这比世界本身要小得多、偏差更大、结构化程度更高。因此，我们今天拥有的不是AGI（通用人工智能），而是AHI（人工人类智能）。它相当于取人类已知一切的平均值，然后从中推断结果。
本·霍洛维茨简介
本·霍洛维茨（Benjamin Horowitz），硅谷著名风险投资家、企业家和作家。他是风险投资公司Andreessen Horowitz（a16z）的联合创始人，该公司以其对科技初创企业的积极投资和深入的行业洞察而闻名。
在创立a16z之前，霍洛维茨曾担任Opsware（后被惠普收购）的联合创始人兼首席执行官。他早期的职业生涯包括在硅谷图形公司（SGI）和网景等公司担任各种技术和管理职位。 这些经历为他积累了丰富的企业运营经验，也塑造了他独特的投资理念。
除了投资，霍洛维茨还是一位畅销书作家。他的著作《创业维艰》被誉为创业者的必读书目，真实地描绘了创业过程中面临的挑战和困境，并提供了宝贵的建议。他还撰写了《你所不知道的领导力》，分享了他对领导力的深刻见解，以及如何打造高效团队。
霍洛维茨以其直言不讳的风格和对科技行业的深刻理解而备受尊敬。他不仅为无数创业公司提供了资金支持，更以导师和顾问的身份，帮助他们 navigate 创业的复杂旅程。他对科技行业的贡献使其成为硅谷最具影响力的人物之一。
访谈全文
主持人Raghuram： 早上好，这三天过得非常棒。显然，谈话的主要话题是人工智能与金融的交汇。在这个世界上，很少有人比坐在我对面这位行业巨擘Ben更适合谈论这个话题了。Ben，早上好。
霍洛维茨：早上好。
主持人Raghuram： 让我们开始讨论手头的话题。但在开始之前，让我们先从一些视角入手。现在距离你和Marc创立公司大约已经15年了，对吧？在过去的15年中，它取得了惊人的成功。管理资产增加了10倍。你们帮助打造了许多家喻户晓的公司。与此同时，有趣的是，行业发生了巨大变化，对吧？是的。我们当时正处于云计算和互联网的早期阶段。然后是云计算、移动架构的转变，以及社交媒体成为主要的应用模式。
所以，我们即将迎来另一个主要的架构转变。但让我们从这里开始。这是一个有点不公平的问题。如果你必须概括你15年来在所有这些技术变革中取得成功的经验和原则，以及对正确的技术转变和使用转变的押注，你会选择哪些？
霍洛维茨： 是的，这是一个很大的问题。你知道，这很有趣。当我们创立公司时，风险投资非常不同，风险投资中有一句谚语：你看，每年只有15家新科技公司能够达到1亿美元的收入。整个风险投资的游戏就是尽可能多地进入这15家公司。
但是，我认为在2011年，我的合作伙伴Marc写了一篇文章，名为“软件正在吞噬世界”，这篇文章预测这15家公司将会变得更多。而且，你知道，基本上，这就是发生的事情。这就是改变风险投资的原因。我认为这是风险投资的一个重大变化，因为自从我们2009年成立以来，值得投资的公司数量可能增长了10到20倍。我认为，传统的风险投资公司并没有为这种情况做好准备，因为它们是具有共享经济和共享控制权的非常传统的合伙企业。因此，它们在扩展方面遇到了很大的困难。
因此，你知道，我们能够预见这种大规模发展。我们现在大约有600名员工。然后是一些非常非常小的公司，而不是以前那种规模相当的公司，这非常非常不同。对。我认为这很有趣。另一件事是美国公共市场的萎缩，你不会认为它们会萎缩。但是，由于我们在21世纪初实施的各种监管措施，公司不想上市，即使有更多非常大的公司。因此，这些公司成为了风险投资领域的一部分。因此，增长型投资，而且，我认为很多主权财富基金也因此参与了风险投资等等。因为公共市场上已经没有那么多增长型公司了。
所以，你知道，这就是转变。这对我们来说是很好的，因为我们是一家新公司，我们能够很快适应这些变化。而我认为一些已经存在50年的公司在这方面遇到了更多困难。
主持人Raghuram： 是的，这很有趣，我认为我们稍后会谈到人工智能对投资的影响。但是，让我们谈谈这种架构转变。纯粹从技术人员的角度来看，你会如何将这种架构转变与我们刚才谈到的或之前发生的架构转变进行比较？
霍洛维茨： 你知道，如果回顾一下，我的意思是，当我们创立这家公司时，我们想，哇，云和移动，这两个都是非常重要的新型平台。思考风险投资的方式，我们将其分为“搜索模式”和“爬坡模式”。“搜索模式”指的是寻找将成为所有事物构建基础的新平台。“爬坡模式”指的是，哦，我们有了平台，现在我们正在构建所有应用程序。而我们现在正处于搜索模式和爬坡模式之间。
我们知道是人工智能，但我们还不清楚实际应该构建的正确平台是什么。因此，我们仍在资助基础模型层。我认为人工智能浪潮的规模明显大于云计算、移动和社交。原因在于它更类似于微处理器。计算领域的两大浪潮是计算机和网络。你可以追溯到集成电路和微波，然后是局域网、个人电脑、移动设备和互联网等等。它总是这样发展。现在，人工智能是新的计算机。多年来，我们拥有这种确定性计算机。现在我们拥有概率性计算机。
事实证明，概率性计算机可以解决我们无法用旧计算机解决的几乎所有问题。这是一个巨大的问题空间。而且，它在许多旧问题上也做得更好，尤其是在用户界面方面，比旧计算机更好。因此，它可能比所有现有软件都大，并且还会出现一个新的软件类别，规模也如此之大。也许还会更大，因为它是一个巨大的设计空间，所以这是一波真正意义上的巨大浪潮。
它在创业者类型上也有所不同。如果你回顾一下，这对我来说很有趣，它看起来更像英特尔、德州仪器和AMD等公司开启微处理器产业的早期阶段，当时所有的工程师都有物理学背景。而现在你看看人工智能领域，工程师们似乎又开始拥有物理学背景了。是的。数学背景。为什么会这样呢？
事实证明，常规的计算机编程工程，你可以理解整个程序并对其进行调试。但在这些人工智能系统中，它们拥有2300亿、6000亿甚至7000亿个参数，没有人能够调试这些。你无法逐一找出问题所在。因此，你开始处理系统属性。你们中有些人可能听说过，如果你想减少人工智能的“幻觉”，你就会降低温度。温度是一个物理学术语，指的是分子运动的速度等等。但这就是你控制系统的方式。你不再是说，“这段代码写的是这个，答案是错的，我要把它改成那个”。你是在降低温度。所以，这是一种全新的创业者类型，一种全新的工程师类型。这令人兴奋，非常有趣。
主持人Raghuram： 是的，这也是一种新型的货币。输入代币和输出代币。但你提到了一些有趣的事情，因为它是一种概率性计算机。至少到目前为止，我们看到的是，投入的计算能力越多，结果就越接近准确性，对吧？就像任何概率性事件一样，都会存在一定程度的不准确性或所谓的“幻觉”。对吧？所以，我们还没有发现计算能力的增加会导致质量渐近趋于平稳的情况，对吧？
霍洛维茨：嗯，我们已经有点接近那个点了。对于Transformer模型来说，这是大型应用（如ChatGPT等）中占主导地位的模型，它基于一篇名为“Attention is All You Need”的论文，这篇论文发表于2018年的谷歌。而这个模型现在基本上已经达到了渐近线。因为我们已经用尽了数据，我们基本上已经训练了整个互联网的数据。互联网之外的数据已经不多了。
因此，如果你看看从GPT-2到GPT-3.5的改进，你会发现它要大得多，比GPT-3.5到4的提升要大得多。GPT-3.5到4在GPU方面要昂贵得多。这与数据耗尽有关。所以现在你看到人们在研究新的算法和新的架构来突破这个瓶颈。或者我们必须找到更多的数据。
但人工智能的有趣之处在于，人们会说，哦，这是一个在世界上训练出来的超级智能，但它实际上并没有在世界上进行训练。人类在世界上训练自己，并将其封装在一个称为语言的结构中，然后我们用它来训练人工智能，这比世界本身要小得多、偏差更大、结构化程度更高。因此，我们今天拥有的不是AGI（通用人工智能），而是AHI（人工人类智能）。它相当于取人类已知一切的平均值，然后从中推断结果。也许新的模型能够观察世界等等，但这才是目前的最新技术水平。
主持人Raghuram：是的，我的时间只剩五分钟了，所以我将快速问两个非常重要的问题。
第一个问题是，考虑到计算能力、资源、资本以及大型公司的分销优势，以及你们创造的术语“小技术”（little tech），这对于初创企业意味着什么？它们该如何在竞争中脱颖而出并取得胜利？就像你所说的，是改变算法还是其他机制？
霍洛维茨：是的，事实证明，无论是基础层还是应用层，都有很大的空间。
在应用层，一些细微之处往往会带来巨大的影响。目前全球排名第一的对话应用是一款名为Character AI的产品。没错，它是一款陪伴型应用，就像一个可以成为你朋友的AI。为什么它比ChatGPT更受欢迎呢？ChatGPT也可以成为你的朋友，你可以和它交谈，但它不够友好。这就是问题所在。
ChatGPT就像一位优秀的学校老师，而不是一位好朋友。为什么呢？因为好朋友需要知道什么时候在你说话时暂停，什么时候打断你；需要记住关于你的事情，比如你孩子的名字，以及忘记一些事情，比如你昨天说的关于拜登的那些不着边际的话等等。否则，它就不是一个真正的好朋友。因此，理解所有这些互动，需要一个不同的AI模型。而这些对话数据正是训练该模型的养分。如果你在这个领域占据领先地位，那么这可能就是一个新公司潜在的有趣领域。
第二个有趣的点在于，大型公司有很多限制。其中一点是，他们会将模型与所谓的“人类价值观”对齐，也就是决定哪些话是可以说的。例如，你不能说种族歧视的话、仇恨言论等等。但事实证明，这样做反而会让模型变得迟钝，并在其他方面缺乏创造力。
有一个非常有趣的案例，你可以搜索一下这位研究人员训练的模型“Truth Terminal”。他训练了一个AI，没有进行任何与人类价值观对齐的操作，而是用表情包和欧洲哲学思想来训练它。所以这个AI拥有非常独特的个性。然后他将这个AI连接到X平台，让它发布内容。结果，它痴迷于一个2004年的表情包“Goetze meme”，并疯狂地推广这个表情包，之后它决定需要钱。于是它在一个它自己虚构出来的比特币地址上请求捐款。但之后它的创造者创建了一个比特币地址。我的合作伙伴马克向这个AI机器人捐赠了5万美元。这个AI机器人用这笔钱来推广这个表情包，有人将这个表情包变成了加密货币，其价格在四天内从零涨到了5亿美元，这完全是基于这个AI机器人的推广。所以，有一些想法是大型公司绝对不会去做的，他们甚至不会想到这些。
主持人Raghuram：我们还剩一分半钟的时间。让我们谈谈另一个重要的话题，即国家建设与人工智能的交集。你给出的例子清楚地表明，本地化互动和个性化互动具有巨大的价值。那么，由于文化和价值观的差异，人工智能注定要被各个国家分割开来吗？正如你所说，大型公司的模型都调整到特定的价值观体系等等。你是否看到了这种情况的发生？如果是这样，对于像这里和其他正在开始人工智能之旅的国家来说，机遇在哪里？
霍洛维茨：是的，我认为会这样，因为人工智能包含了所有的人类知识，人们可以向它提出任何问题，我认为对于某些国家来说，这存在着一种真正的危险，那就是很容易在网络空间中被殖民，对吧？例如，如果你依赖谷歌的Gemini、OpenAI或其他类似的工具，而你身处沙特阿拉伯，你想要谷歌版本的沙特历史、沙里亚法以及对9·11事件的解读吗？或者你想要拥有自己对这些事情的看法？我认为很明显，你想要拥有自己的看法。
所以，至少，各国都必须考虑拥有某种主权人工智能，用于本国的文化、人民、思想和价值观。例如，我认为这是一个非常重要的观点，用于指导国家的发展方向。除此之外，每个国家的法律，取决于它们对技术奇点等问题的恐慌程度，我们没有时间详细讨论所有这些，但它们会以可能在竞争中将它们淘汰的方式来限制人工智能。因此，如果你依赖一个过度监管的国家，那么你将在技术上落后。这又是另一种危险。所以我认为，每个国家都必须将人工智能战略视为经济战略、军事战略和文化战略的综合体。我认为将这些外包非常危险。
主持人Raghuram：好的，我已经收到几次结束对话的信号了。非常感谢你，这是一次很棒的谈话，我们可以就这个话题聊上几个小时。
霍洛维茨：好的，谢谢。
参考资料: https://www.youtube.com/watch?v=DqvtzC2fQAA，公开发表于2024-10-31
👇关注公众号后设🌟标，不错过第一手AI新鲜观点和动态
