大家好,我是王路情博士,一个坚持早上5点起床、阅读1小时书籍和晨跑5公里的创业者。
我们提供:
1)软件设计与实现服务
2)数据科学与人工智能服务
3)数字化转型咨询与服务
请问有什么需要我们帮助的吗?我的微信:shushengya360。
感恩遇见,共赢未来!
近日,谷歌前CEO Eric Schmidt(埃里克·施密特)在斯坦福大学的一次课堂访谈因观点直接、内容颇具争议等原因在国内外众多社交媒体上引发了广泛关注。
Eric Schmidt,美国著名软件工程师、企业家,曾于2001年至2011年期间担任谷歌CEO,并在董事会任职至2019年,还曾是苹果公司的董事会成员。除了“企业家”的身份,Eric Schmidt还担任过美国政府和军事机构的多个职位与顾问。
在此次斯坦福的课堂访谈中,Eric Schmidt揭露了许多AI行业的真相,涵盖了AI的未来发展、AI投资与国家安全、企业文化、开源闭源争论以及AI技术差距对全球的影响等多个方面。关于AI的短期发展,Eric Schmidt表示,长的上下文窗口、Agents和“文本转行动指令”这三件事将在下一波浪潮中同时发生。他还认为:谷歌之所以在AI领域落后于OpenAI,主要是因为谷歌认为工作与生活的平衡、早点下班以及居家办公比获胜更重要。
这次访谈的完整视频有40多分钟,观点密集、全程高能。为了让大家更清晰地了解Eric Schmidt的观点,本文将访谈中关于AI领域真正值得关注的精彩内容进行提炼呈现,希望对你有所启发。
精
彩
观
点
关于AI的短期发展,长的上下文窗口、Agents和“文本转行动指令”这三件事将在下一波浪潮中同时发生。
在科技行业中,长期以来,公司总是以真正有创意的方式赢得胜利,并主宰某个领域,而不是进行下一次转型。
关于开源与闭源的争论非常激烈。过去的一切工作都建立在人们愿意分享开源软件的基础上,然而,巨大的资本成本可能会从根本上改变软件的构建方式。
#01
AI的短期发展
主持教授:今天的嘉宾无需多做介绍。我第一次见到Eric是在大约25年前,当时他以Novell首席执行官的身份来到斯坦福商学院。从那时起,他在Google(从2001年开始)和Schmidt Futures(从2017年开始)做了很多事情,还有很多其他的事情大家可以查询了解。
首先,你认为AI在短期内的发展方向是什么?我想你将其定义为未来一到两年。
Eric Schmidt:事情变化得太快了,我觉得每六个月我都需要就即将发生的事情发表一次新的演讲。有一个技术问题,为什么NVIDIA市值2万亿美元,而其他公司却在苦苦挣扎?
学生:我认为,这主要是因为,大多数代码都需要使用目前只有NVIDIA GPU支持的CUDA优化来运行。
Eric Schmidt:我喜欢将CUDA视为GPU的C语言。CUDA成立于2008年,尽管我一直认为它是一种糟糕的语言,但它却成为了市场主导。还有一点值得注意,有一组开源库针对CUDA进行了高度优化,而对其他平台的优化却很少。所有构建这些技术堆栈的人在讨论中完全忽略了这一点。这些库在技术上被称为VLLM,还有许多类似的库也针对CUDA进行了高度优化,这使得竞争对手很难复制。
那么,这一切意味着什么呢?
明年,你将看到长的上下文窗口、Agents和“文本转行动指令”的应用。当这些技术大规模交付时,它们将对世界产生巨大的影响,远超社交媒体带来的影响。原因如下:
在上下文窗口中,你可以将其用作短期记忆,我对上下文窗口能达到如此之长感到震惊,技术上它的计算和处理难度很高。短期记忆的有趣之处在于,当你输入信息并询问问题时,比如将20本书的文本作为查询,然后询问它们的内容,它会忘记中间的部分,这与人类大脑的工作方式相似。
关于Agents,现在有些人正在构建基于LLM的Agents,Agents通过阅读和理解化学等领域的知识,发现其内在原理,然后进行测试,并将其重新添加到它的理解中,这是非常强大的。
第三个方面是“文本转行动指令”。如果你可以从任意自然语言转换为任意数字命令,这在本质上就是这个场景中的Python。想象一下,如果地球上的每个人都有属于自己的程序员,他们会真正按照你的要求去做事,一位既不自大,又会真正按照你的要求去做事的程序员,你甚至不需要付他一大笔工资,并且这些程序员的供应是无限的。
主持教授:这一切将在未来一两年内发生?
Eric Schmidt:很快。这三件事将在下一波浪潮中同时发生。
你问我接下来还会发生什么。我的观点每六个月会有所改变,这就像一个周期性的摆动。比如,现在,前沿模型与其他模型之间的差距,在我看来似乎越来越大;但六个月前,我确信这种差距正在缩小,然而,现在我对此不太确定了。
我正在与一些大公司交谈,他们告诉我,他们需要100亿、200亿、500亿甚至1000亿美元的资金。Sam Altman是我的好朋友,他认为打造Stargate可能需要大约3000亿美元,甚至更多。我向他指出,我已经计算了所需的能量。
本着完全公开的精神,我在周五前往白宫,告诉他们我们需要与加拿大建立紧密的关系。因为加拿大人民真的很好,帮助发明了AI,并且拥有大量的水力发电资源。因为我们作为一个国家没有足够的力量来完成这一目标。另一种选择是让阿拉伯国家来资助。我个人很喜欢阿拉伯人,我在那里待过很久,但他们可能不会遵守我们的国家安全规则。而加拿大和美国是共同遵守安全规则的三方联盟之一。
学生:你提到长的上下文窗口、Agents和“文本转行动指令”将产生难以想象的影响。首先,为什么这种组合很重要?其次,我知道你不是预言家,无法预知未来,但你为什么认为它们超出了我们的想象呢?
Eric Schmidt:我认为主要是因为长的上下文窗口有助于解决时效性问题。目前的模型需要大约18个月的时间来训练,包括6个月的准备、6个月的训练和6个月的微调,因此它们总是过时的。而通过长的上下文窗口,你可以询问最新发生的事情,这非常强大,使其变得像Google一样保持时效性。
关于Agents,我举个例子。我成立了一个基金会,为一个非营利组织提供资金。有一个名为ChemCrow的工具,一个基于大语言模型的系统,可以学习化学知识,他们运行这个系统来生成有关蛋白质的化学假设,然后在实验室连夜进行测试,系统就会学习。这大大加速了化学、材料科学等领域的研究进程。这是Agents模型的一个例子。
对于“文本转行动指令”,可以理解为你拥有大量廉价的程序员。我想我们很难想象当每个人都有自己的程序员时会发生什么。
#02
Google为何会在AI领域落后?
主持教授:你在Google工作了很长时间,他们发明了Transformer架构。但现在,面对OpenAI这样的企业,Google似乎已经失去了主动权。我曾问过Sundar(Google现任CEO)这方面的问题,但他并没有给我一个非常明确的答案,也许你能给出更明确或客观的解释。
Eric Schmidt:我现在已经不是Google的员工了。坦白来说,Google认为,工作与生活的平衡、早点下班以及居家办公比获胜更重要。相比之下,初创公司之所以能够成功,是因为员工拼命工作。很抱歉这么直白,但事实是,如果你们离开大学去创办公司,并想与其他初创公司竞争,就不能让员工居家办公,每周只来公司一天。
主持教授:在Google早期,微软就是这样的。
Eric Schmidt:没错。但现在看来,在我们的行业中,长期以来,公司总是以真正有创意的方式赢得胜利,并主宰某个领域,而不是进行下一次转型。这是有据可查的。我认为创始人是特别的,他们需要掌控一切,尽管与他们共事可能会很艰难,因为他们会对员工施加很大的压力。
我对工作如此苛刻,是因为这些系统具有网络效应,时间非常重要。而在大多数企业中,时间并不那么重要,你有很多时间。可口可乐和百事可乐仍将存在,并继续进行竞争。当我与电信公司打交道时,典型的交易需要18个月才能签署。实际上,没有理由花18个月来做任何事情,应该尽快完成。
我们正处于增长和收益最大化的时期,但这也需要疯狂的想法。例如,当微软与OpenAI达成交易时,我认为那是我听过的最愚蠢的想法,将你的AI领导层外包给OpenAI和Sam及其团队。这太疯狂了。通常而言,无论在微软或其他任何地方,没有人会这样做。然而今天,它们正在成为最有价值的公司。
#03
问答环节
AI进步的驱动力
学生:总的来说,你似乎对AI进步的潜力非常乐观。我很好奇,你认为是什么推动了这一进步?是更强大的算力、更多的数据,还是根本性的或实际性的转变?
Eric Schmidt:答案是以上所有。现在投入的资金数额令人难以置信。我基本上投资了一切,因为我不知道谁会赢,而跟随我的资金数额如此之大。部分原因是早期投资的回报已经有了,那些不太了解的大资金投资者,他们的投资中必须包含AI成分。现在一切都是AI投资,所以他们无法分辨出差异。
我将AI定义为学习系统,即真正能够自我学习的系统,我认为这是其中的一个驱动力。第二个驱动力是,现在出现了一些非常复杂的新算法。我的朋友,也是我长期的合作伙伴,发明了一种新的非Transformer架构。我在巴黎资助的一个团队声称也做了同样的事情。最后一点是,市场相信智能的发明会带来无限的回报。假设你向一家公司投入了500亿美元的资金,你必须从智能中获得大量的收益才能回本。因此,我们可能会经历一场巨大的投资泡沫,最终市场会自行调整。过去一直如此,现在也可能如此。
AI开源与闭源的争论
主持教授:你之前提到,领导者正在拉开与其他人的距离?
Eric Schmidt:现在。这个问题可以这样理解,法国有一家叫Mistral的公司,它们做得非常好,已经推出了第二个版本,但它们的第三个版本很可能是封闭的,因为它太昂贵了,它们需要收入,不能再免费提供模型。
我们行业中关于开源与闭源的争论非常激烈。我的整个职业生涯都建立在人们愿意分享开源软件的基础上,我的一切工作都是基于开源的,Google的大部分基础也是建立在开源之上的。然而,巨大的资本成本可能会从根本上改变软件的构建方式。我认为软件程序员的生产力至少会提高一倍。目前有三、四家软件公司正在尝试实现这一目标。
AI技术差距对全球的影响
学生:我想知道所有这些发展将给那些不参与前沿模型开发和计算访问的国家带来什么影响?
Eric Schmidt:“The rich get richer and the poor do the best they can.”富国越来越富,穷国尽其所能。实际上,这是一场富国的游戏,需要巨大的资本、技术人才和强大的政府支持。在全球范围内,许多国家面临着各种各样的问题,他们没有这些资源,他们需要找到合作伙伴,以解决这些问题。
主持教授:好的,非常感谢,Eric。
Eric Schmidt:谢谢大家。
相关参考:
https://b23.tv/VilTkTd
感恩遇见,共赢未来!我的微信,欢迎添加!!
据统计,99%的大咖都关注了这个公众号