微软AI CEO苏莱曼清华演讲：始终致力于建立人类与AI间的信任

百科 2024-11-14 06:30 北京

和所有技术一样，人工智能模型仅凭自身并没有意义。一个没有明确用途的AI模型，不过是一个引人入胜的计算机科学展示。真正关键的，是技术或人工智能带给人们的感受，以及它对社会所造成的影响。

日前，微软AI CEO穆斯塔法·苏莱曼在清华大学的演讲中，分享了他对人工智能未来发展的深刻洞见。

苏莱曼提出了三个对于AI的核心观点——首先，他强调，发展人工智能的目标应当是服务人类并对社会产生积极影响，而不仅仅关注技术性能的比较。其次，他提出人工智能应被用于解决全球面临的最紧迫社会挑战，如气候、环境问题等，将AI的能力扩展到更广阔的应用领域；最后，苏莱曼强调了负责任地发展人工智能的重要性。

在新书《浪潮将至：技术、权力与未来的冲击》中，穆斯塔法·苏莱曼围绕技术浪潮所带来的风险，讨论了一系列发人深省的问题。

他指出：“人工智能既极具价值，又充满危险，因为它正是人性最好与最坏的延伸。”

和所有技术一样，人工智能模型本身仅凭自身并没有意义。一个没有明确用途的AI模型，不过是一个引人入胜的计算机科学展示。真正关键的，是技术或人工智能带给人们的感受，以及它为社会所带来的影响。

人工智能有潜力成为历史上或许最强大的促进人类福祉的力量，是为全球数十亿人带来具体而持久益处的最有效手段之一。

技术真正的价值在于其对生活品质的提升：它能够带来欢乐、健康、知识、愉悦以及内心的宁静。技术的成功与否，最终取决于它在实际生活中的应用，而这些应用与真实生活息息相关。

随着人工智能不断增强，我们必须认真思考和减轻那些最极端情况的影响。然而，在我们能够做到这些之前，很多问题可能已经发生。

以下是演讲全文：

大家好。

今天能有机会与大家面对面交流，我感到非常高兴。我们正身处一个技术，尤其是对人工智能领域充满激动人心和新奇发现的非凡时刻。

回想一下，这期间发生了多大的变化。我投身于人工智能领域已有十五载。记得我初加入DeepMind时，我们常常遭遇异样的目光。在会议上，我们向投资者们介绍“人工智能”的概念，但鲜有人真正理解其含义。

除了在边缘学科以及科幻小说里，只有少数勇敢的思想家在探讨人工智能。它曾被看作是一个失败的尝试，一个不切实际的幻想。20世纪80年代的“AI寒冬”让人们对这项技术失去了信心。在当时，讨论机器学习尚可，但提及AI，则被认为是完全不现实的。

但显然，现在情况已大为不同。无论你身处何处，人工智能的新闻无处不在。你很可能也已经在使用AI。AI的全球时刻已经到来——我们必须认真思考下一步将走向何方。

在今天的演讲中，我想分享三个关于AI仍然被低估的观点。

首先，让我们为这场变革提供一些背景。我们正处在一个变革的时代。我们不仅目睹了AI能力的迅速提升，也看到了其应用的广泛增长。从AI赢得围棋世界冠军到生成大篇幅连贯的文本，这些成就如果放在2010年，简直是天方夜谭。但如今，这已经成为常态。

进展的速度非常快。去年被视为最先进的模型，如今已低成本开源，甚至在你口袋里的手机上运行，在为这栋楼提供电力的电网中运行，在你来这里乘坐的汽车或火车中运行。

AI由规模法则（Scaling Law）来定义：投入模型的计算资源和数据量越大，模型的能力就越强。过去十多年中，计算资源和数据的规模呈现出指数级增长，这也是“人工智能”重新进入公众视野的原因。这个规模定律至今依然成立。

举个例子，我去年算过，我们当前最先进的AI模型所使用的计算资源是十年前DeepMind所用模型的50亿倍——也就是10个数量级——还要多。自那以后，我们又增加了一个数量级。与此同时，推理成本——即运行AI模型的成本——也大幅下降。举例来说，现在在一个顶级模型上处理一百万个Token的成本仅为60美分。

60美分几乎能生成大约一百万个单词。更具体地说，每个Token的成本在不到两年的时间内下降了超过99%。这些趋势是深刻且持久的，目前没有减缓的迹象，更不可能停止。现在，太平洋两岸都在积极投资，确保了这一趋势的持续。

对我个人而言，这些变化同样深远。我不仅创立了DeepMind并在那里工作了十年，还在谷歌参与了LaMDA团队的建设——LaMDA是ChatGPT的前身之一。我们率先推出了如今随处可见的聊天界面。对我来说，这是一个巨大的时刻。让我深刻认识到大型语言模型具有改变世界的力量，这也激发了我创立名为Inflection的AI初创公司。

今年，我加入了微软并领导AI部门，负责包括Copilot——微软的旗舰AI产品，以及搜索引擎Bing、浏览器Edge和内容聚合平台MSN。在我们面前，是一个重塑消费互联网的绝佳机遇。

在我的职业生涯中，我亲眼目睹了周遭的巨变。但有两件事始终未变：第一，我坚信人工智能能够成为一股强大的正能量；第二，它也带来了我们必须努力应对的新挑战。我的三个核心洞见正是围绕这一冲突的两面展开的。

我的第一个观点很简单。

让我们牢记人工智能也有“人性”的一面。在科技界，我们对最新模型充满痴迷，讨论它们包含的参数数量，训练时消耗的计算资源，以及我们输入的数据。我们关注它们在基准测试中的飞速进步，并努力确保它们构建所需的大量芯片和能源。

同时，公众对领先的AI企业投以极大的关注。媒体对这些企业和AI领域的名人的报道，其热度和关注度堪比一部全球热播的肥皂剧。

然而，重要的是，要记住，和所有技术一样，人工智能模型仅凭自身并没有意义。一个没有明确用途的AI模型，不过是一个引人入胜的计算机科学展示。真正关键的，是技术或人工智能带给人们的感受，以及它对社会所造成的影响。

它关乎如何改善生活、打开新世界的大门、拓宽思维视野并缓解压力。人工智能有潜力成为历史上或许最强大的促进人类福祉的力量，是为全球数十亿人带来具体而持久益处的最有效手段之一。

在纷繁喧嚣之中，我们应将人的需求置于核心位置。我们必须铭记，技术真正的价值在于其对生活品质的提升：它能够带来欢乐、健康、知识、愉悦以及内心的宁静。技术的成功与否，最终取决于它在实际生活中的应用，而这些应用应始终与真实生活息息相关。

带来真实的影响。

这是当今人工智能面临的挑战。我们必须将它融入现实生活，让它真正发挥作用。我们关注的焦点不应是模型在性能测试上的得分，或是它消耗了多少计算资源。真正重要的是它带给用户的体验，以及它对你和你的家人所代表的意义。与此相比，对于我们这些技术人员来说，构建的细节最终远不如它们对你产生的影响重要。

在微软AI，我们的使命是为每个人打造一个AI伙伴——Copilot。

Copilot将时刻陪伴你，站在你这边，忠诚地支持你，并始终与你的利益保持一致。它能够理解你生活的情境，同时守护你的隐私、数据和安全，铭记在任何情况下对你最有助益的信息。Copilot为你打开了一个知识宇宙的大门，帮你简化和整理日常海量的信息，并在你需要时提供支持与鼓励。

随着时间的推进，它将逐渐适应你的行为模式，并根据你的喜好和需求发展新功能。我们不是在创建一个静态工具，而是在建立一个动态的、不断进化的互动体验。它将为你提供坚定不移的支持，帮助你在日常生活中展现你真正想成为的样子，成为促进人际关系和成就的新方式。

在你的允许下，Copilot最终将能够代表你行事，简化生活的复杂性，并给你更多时间专注于对你重要的事情。

它将是你生命中许多关键时刻的坚强后盾。它会陪同你看医生，为你记录要点并在恰当时刻提醒你。它会帮你分担策划和筹备孩子生日派对的压力。而在一天结束时，它也会在你身边，协助你深思熟虑那些复杂的人生抉择。

有些人担心人工智能会削弱我们作为人类的独特性。我毕生的工作就是要确保它恰恰相反。

因此，我们不应忽视技术对日常生活的直接影响和情感价值。任何技术的实际意义决定了它的价值，我们必须始终将人的需求和感受放在首位。无论是犁、帆、电视还是人工智能模型，技术的真正考验在于它能否为人类带来实实在在的好处。

我的第二个观点是，人工智能理应致力于解决我们最重大的社会挑战。

我们应该让人工智能发挥作用。这应与对个体生活的深刻理解相结合。其中最紧要且影响深远的议题便是气候变化。我们对它在全球各地造成的影响越来越有所感知。尽管取得了一些进展，面对这一时代性的宏大挑战，我们的努力尚未足够。

目前，人工智能主要集中在了文本、代码和符号上。它在语言处理和游戏等曾经被认为难以攻克的领域取得了重大突破，这些成就确实令人瞩目。但如果说一个考验是它对现实世界的实际影响，那么另一个考验就是它是否能够对气候变化等全球性问题产生积极作用。

人工智能的承诺要求我们在此领域采取果断行动。我们要打破屏幕的局限，将其能力扩展到更广阔的领域，这不仅是一项挑战，更是一个迫切的要求。

我们看看人工智能如何帮助应对气候问题。它能够显著提升气候模型的精确度和天气预报的准确性，帮助我们不仅理解长期的气候变化趋势，还能预测从热浪到洪水等极端气候事件。

它能够优化我们的能源系统：调控来自可再生能源的电力在电网中的流动，以及在供应、需求和储存之间实现平衡。

人工智能还能帮助企业减少能源消耗。例如，我参与的一个项目使用人工智能让数据中心变得更高效。类似的努力可以推广到整个供应链。

人工智能能更有效地利用卫星图像监测森林砍伐和栖息地的减少。它还能协助农民制定更为精细和适应性强的种植策略。此外，它在设计更环保的新技术方面也发挥着重要作用，无论是集装箱船、计算机还是碳捕获技术，都能见到它的身影。

它能够助力开发一种新型的可持续材料，并具备从大气中吸收碳的能力。

这仅仅是起点。我们对人工智能的潜力还只是初窥门径。无疑，它也应当在解决生物多样性的减少、资源的耗竭、海洋的酸化以及塑料垃圾等相关问题上发挥关键作用。在这些领域，人工智能有望带来显著的改变。

微软正全力以赴推进这一领域。我们推出了一系列卓越的计划，探索人工智能如何助力解决问题。

微软正在全球范围内积极推动利用人工智能对抗气候变化的项目，从肯尼亚到加勒比地区都有其项目在运作。通过“全球可再生能源观察”(Global Renewables Watch)，我们利用人工智能和卫星图像来绘制和追踪公用事业规模的太阳能和风能设施。这个全球性的项目有助于简化并加速这些设施的部署。

微软的标志性项目“Guacamaya”利用人工智能对抗森林砍伐。通过分析卫星图像，它能够探测非法伐木活动并监测亚马逊地区的野生动物。

我们的“人工智能为善实验室”携手麻省理工学院，致力于研发性能更强、效率更高的太阳能电池。同时，我们的“人工智能科学实验室”和“气候研究倡议”正将人工智能技术应用于一系列重大挑战。这些项目正在探索如何预测和管理野火、优化能源系统，以及培育能够适应气候变化的作物。

我们的气候创新基金致力于投资那些能够推动可持续未来的关键企业。

人工智能不仅具有改变世界的能力，实际上它已经在这样做了。

当然，人工智能本身也消耗大量能源。尤其是下一代数据中心，它们对电力的需求是巨大的。但令我自豪的是，微软已经在这方面做出了坚定的承诺：即使面对人工智能应用的迅猛增长，我们仍将努力在明年实现碳中和，并力争到2030年达到碳负排放，以应对这一挑战。

我们正大力投资绿色能源，以保障人工智能的未来发展不会对地球造成负面影响。自2020年起，微软已经在全球范围内签署了34吉瓦的可再生能源购买协议，成为全球最大的清洁能源买家之一。此外，我们的投资步伐还在不断加快。

人工智能致力于应对各种规模的挑战，从工作中的复杂局面——无论是处理电子表格，还是准备那些充满挑战和引发焦虑的工作。同时，它也关注气候变化和环境恶化等宏观问题。每一个问题都是人工智能可以发挥作用的领域。我们的责任是确保人工智能能够在所有这些层面上产生积极的影响，覆盖从微观到宏观的每一个环节。

但这引出了我的第三点。

在这些令人兴奋的发展中，我们绝不能忽视我们肩负的责任。正如气候变化需要我们共同面对，负责任地发展人工智能也是我们共同的义务。我的职业生涯一直在强调这一点。我始终坚信，我们必须坚守负责任、道德和安全的人工智能原则。这应当成为我们首要的考量。

透明度与可解释性是至关重要的。监管机构和公众必须能够清楚地了解我们正在创造什么、创造的方式以及创造的地点。提供详尽的文档、在部署前进行彻底的测试、与所有相关方保持开放的沟通：这些步骤都至关重要。考虑到其深远的影响，我们有责任采取正确的行动。

人工智能系统也必须使决策清晰易懂，特别是在医疗保健和金融等关键领域。识别和减轻偏见应确保这些系统公平对待所有用户，无论他们的背景如何。

保护用户数据和保障人工智能系统的安全性是我们必须坚守的底线。同样，我们也要坚决保护个人信息，并强化系统安全，以抵御未经授权的访问。

问责和有效的治理同样重要。对于人工智能的决策及其结果，我们必须确立明确的责任体系，并确保有坚实的治理框架作为支撑。同时，保持人类的主导权和协作始终是关键所在。

我们必须密切关注人工智能对社会的影响。我们不能袖手旁观，让技术自行发展。相反，我们需要主动出击。我们需要不断地监控和衡量影响。然后，我们需要根据这些评估，迭代技术特性和治理框架。

的确，针对这些问题，众多高质量的研究工作正在积极推进。我对近期全球的积极反应感到振奋。随着人工智能的迅猛发展，全球迅速行动。我们已经见证了富有成效的努力和构建负责任治理的实质性框架。

但我们不能因此而自满。

“信任”，这个词始终萦绕在我心头。人工智能的开发者必须持续关注信任问题，包括赢得用户、政府以及社会各界的信任。无论在世界的任何地方，负责任的人工智能都关乎于建立这种信任。这是我始终致力于的事情。

人们经常问我对人工智能的未来是持乐观还是悲观的态度。

面对挑战，我认为过分沉溺于负面结果是一种误区。人工智能在应对挑战方面拥有巨大的潜力。随着我们取得的进展不断增加，以及我们在安全和责任方面的基本工作不断深化，我变得更加乐观。人工智能赋予了人类构建更多美好事物的机会，这些事物将增进我们的福祉、促进和平与幸福。这是我们共同面临的挑战。

数智研究社

专注企业数智化观察、研究。