OpenAI首位投资者《时代》刊文:AI将重新定义「人类的意义」

学术   2024-11-13 12:42   北京  
Vinod Khosla

本文授权转载自:背个毛豆

作为 OpenAI 的首位投资者,硅谷著名投资人和企业家、风投公司 Khosla Ventures 创始人 Vinod Khosla,曾直言不讳地支持 OpenAI 首席执行官 Sam Altman 在「宫斗风波」后回归领导岗位。

他是一个技术可能性主义者和技术乐观主义者。他对人工智能(AI)的未来发展有着独到的见解,认为「人工智能将重新定义人类的意义」,并在多个领域带来变革。他此前预言,「人类 80% 职业的 80% 工作将被人工智能取代」。

昨日,Khosla 在《时代》(TIME)发表长文"A Roadmap to AI Utopia",再次反驳了批评者、末日论者对人工智能主导世界的反乌托邦式想象

他认为,人工智能可以为地球上的每个孩子提供近乎免费的人工智能家教;为地球上的每个人提供近乎免费的人工智能医生专业知识;从肿瘤学家到结构工程师,从软件工程师到产品设计师,从芯片设计师到科学家,几乎所有的专业知识都将是近乎免费的;人工智能还将帮助控制核聚变反应堆中的等离子体、自动驾驶飞机、自动驾驶汽车和公共交通,使所有人都能更实惠地使用这些交通工具...

在他看来,「人工智能将增强并倍增人类的大脑,就像蒸汽机曾经增强人类肌肉的力量一样」部分观点如下:

  • 考虑到全球人口老龄化和年轻劳动力的减少,人工智能变得至关重要,只要政策得当,我们就能......迎来每周工作三天的时代。
  • 人们对人工智能在医疗保健、司法和治理方面做出关键决策的担忧是有道理的,但这些偏见源于人类,而人工智能提供了识别和纠正这些偏见的机会。
  • 未来 5-10 年,人类将监督人工智能“实习生”的工作,使生产率提高一倍或两倍。
  • 未来 10 年内,我们将摆脱围绕无法控制的“黑盒系统”的恐吓。
  • 未来 25 年内,在任何与人类结果相关的专长领域,人工智能都可以并且将会胜过人类,且几乎免费。
  • 25 年后,可能会有 10 亿双足机器人从事人类所从事的各种工作,把人类从最底层 50% 真正不愉快的工作(如流水线和农场工作)中解放出来。
  • 人工智能可以通过个性化医疗彻底改变医疗保健,根据个人基因、生活方式和环境量身定制治疗方案。
  • 人工智能可以根据每个学生的需求和兴趣创造个性化的学习体验。人工智能辅导员可以全天候提供服务,让全世界的人们都能接受高质量的教育。
  • 艺术、竞赛和体育等通常与经济安全无关的职业,将成为任何人都可以实现的目标,人类将不再受制于谋生的需求。随着每周 40 小时工作制的消失,生活将变得更有意义。
  • 重新定义人类的重点,不应该是工作或生产力的需求,而应该是激情、想象力和人际关系,允许个人对人类进行诠释。
  • 人类终将获得“自由”。

以下为文章完整内容,我们在不改变文章原意的前提下做了适当精简与补充。

制图|Midjourney

我曾多次目睹技术重塑我们的世界。以前的技术平台增强了人类的能力,但并没有从根本上改变人类智力的本质。它们扩展了我们能够达成的范围,却没有倍增我们的思维。

人工智能则不同。它已经超越了程度上的差异,达到了性质上的差异。人工智能增强并倍增了人类的大脑,就像蒸汽机曾经增强了肌肉的力量一样。在使用蒸汽机之前,我们的主要能源来源是食物,支撑人类的体力劳动。蒸汽机让我们能够利用煤炭和石油等外部能源,彻底改变了生产力和社会。人工智能有望成为与之同等重要的智能工具,为人类提供近乎无限的脑力服务。

人工智能承诺了一个无比富足的未来。然而,在我们向后稀缺社会过渡的过程中,旅程可能会很复杂,对于那些被(人工智能)取代的人来说,短期内可能会很痛苦。要应对这些挑战,就必须制定合理的政策。未来 10 年、10 至 25 年、25 至 50 年,每一个时间段都将发生翻天覆地的变化。变化的速度将很难预测或预料,尤其是当技术能力远远超过人类智能并以不同的速度渗透社会时。

后稀缺社会是一种迄今为止还未实现的社会。在这种社会里,商品、服务、资讯都可以被人们无偿占有,货币也将不复存在。人们之所以能这么做,是由于在后匮乏社会里,物质、能量、资讯都大量的存在,并且存在自动系统,使人们不需要付出任何劳动即可获取日常用品和其它产品。

悲观主义者从经济和社会两个方面描绘了一个反乌托邦式的未来。他们担心大规模失业、经济不平等、社会操纵、人类能动性的削弱、创造力的丧失,甚至来自人工智能的生存威胁

我认为,这些恐惧在很大程度上是没有根据的、短视的、有害的。它们可以通过社会选择来解决。此外,真正的风险不是“有意识的人工智能(sentient AI)”,而是在人工智能竞赛中输给不良行为者。

在经济反乌托邦中,财富集中在顶层,而智力和体力劳动却被贬低。大规模失业和通货紧缩破坏了经济和购买力,加剧了不平等。人工智能可能会创造出这样一个世界:一小部分精英生活的很美好,而其他人则面临不稳定。

但是,通过明智的干预措施,如收入再分配或全民基本收入(UBI),以及战略性立法,我们可以避免这种情况的发生。

全民基本收入是指没有条件、资格限制,不做资格审查,每个人皆可定期领取一定金额的金钱,由政府或团体组织发放给全体成员,以满足人民的基本生活条件,包括食物、居住、教育、医疗、公用事业等基本花费。

考虑到全球人口老龄化和年轻劳动力的减少,人工智能变得至关重要。只要政策得当,我们就能平稳过渡,甚至迎来每周工作三天的时代。如果 GDP 增长率从 2% 跃升至 5% 或更高,我们就会有足够的资金来建立“过渡基金”,就像挪威等国家通过石油基金促进国家繁荣一样。

持反对意见者认为,人工智能会通过无孔不入的监视和操纵来伤害人类。他们担心人工智能会被用来控制信息,通过有针对性的宣传或深度伪造来侵蚀民主,使真相难以辨别。

但这些结果并非不可避免。立法将决定人工智能如何融入我们的生活。随着人工智能的发展,犯罪的理由甚至可能会减少。我们可以实现一种平衡,既能从人工智能的进步中受益,又不会屈服于反乌托邦式的幻想。

对人工智能被操纵的担忧是建立在一个单一的、专制的人工智能霸主的假设之上的,而这种假设是不切实际的。更有可能的是,我们会看到不同的人工智能为不同的利益群体服务,从而防止权力的巩固。

鉴于当前系统中隐藏的偏见,人们对人工智能在医疗保健、司法和治理方面做出关键决策的担忧是有道理的。但这些偏见源于人类,而人工智能提供了识别和纠正这些偏见的机会。例如,如果人类医生按手术次数收费,他们就会做更多的手术,这很难说是无偏见的。人工智能可以发现并纠正这种偏见,提供更公平的结果。

人类将保留撤销人工智能决策特权的权力,确保人工智能始终遵循人类的共识。一个有意识的、恶意的人工智能的幽灵是一种风险,但我们可以通过提高警惕和采取适当的防护措施来降低这种风险。

批评者担心,过度依赖人工智能会削弱人类的创造力和批判性思维,因为人们依赖机器做出决定。他们担心人工智能算法会制造“回音室”,从而导致文化同质化。

但在我看来,人工智能将拓展我们的创造力。像我这样毫无音乐天赋的人也能创作出个性化的歌曲。人工智能带来了新的表达方式,拓展了我们的能力,而并非取代

末日论者警告说,人工智能可能变得无法控制,并使人类灭绝。虽然我们必须在人工智能安全研究方面投入巨资,但重要的是要在这种担忧与人工智能的巨大好处之间取得平衡。

此外,我们很可能会拥有多个人工智能,因此即使在最坏的情况下,所有人工智能也不太可能同时背叛人类。最有可能的是,对人工智能可解释性的日益重视将使人工智能的目标与人类的价值观保持一致,从而提高安全性。我相信,在未来 10 年内,我们将摆脱围绕无法控制的“黑盒系统”的恐吓。

然而,要解决这个问题,就必须高度重视人工智能的安全性和伦理问题。大力投资人工智能安全至关重要,大学研究的很大一部分应集中在这一领域。政府应加大对人工智能安全研究和检测的投入。在进行适当的研究和测试后,应要求人工智能具备“关闭开关”等功能。同样重要的是要记住,人类面临着许多生存风险——疾病、小行星撞击、核战争等。人工智能只是更广泛背景下的一个风险,我们需要考虑在这些风险和人工智能可能带来的利益之间进行权衡。

此外,人工智能发展的民主化和多种人工智能的存在使得权力不可能集中。

我写这篇文章的部分动机是要消除对人工智能主导世界的反乌托邦式想象。首先,这是一个认知上的懒惰愿景——很容易陷入其中,而且缺乏想象力:大规模失业、富人更富、智力技能和体力劳动的贬值、人类创造力丧失,所有这些都是为了我们的人工智能霸主服务。

相反,人工智能可以为地球上的每个孩子提供近乎免费的人工智能家教,为地球上的每个人提供近乎免费的人工智能医生专业知识。从肿瘤学家到结构工程师,从软件工程师到产品设计师,从芯片设计师到科学家,几乎所有的专业知识都将是近乎免费的。人工智能还将帮助控制核聚变反应堆中的等离子体、自动驾驶飞机、自动驾驶汽车和公共交通,使所有人都能更实惠地使用这些交通工具。人工智能甚至有望使我们建立企业的方式民主化。但更重要的是,它将成为一种平等的力量,因为所有人类都能利用同样的专业知识。

我估计,在未来 25 年内,人工智能可以完成 80% 的工作——无论是医生、销售人员、工程师还是农场工人。大多数情况下,人工智能会把工作做得更好、更一致。在任何与人类结果相关的专长领域,人工智能都可以并且将会胜过人类,并且几乎免费。人工智能将改变我们发现和利用锂、钴、钢和铜等自然资源的方式,使我们发现资源的能力超过消耗资源的能力。目前的挑战不是缺乏资源,而是我们发现资源的能力有限,而人工智能将帮助我们打破这一障碍。此外,人工智能还有助于优化资源的使用,并有助于发现新材料。

未来 5-10 年,人类将监督人工智能“实习生”的工作,使生产率提高一倍或两倍。最终,我们将决定把哪些工作分配给人工智能,哪些保留。人工智能将使专业知识近乎免费,使每个人都能获得更多商品和服务。

我们的物质生活将发生变化。双足机器人将彻底改变从家政到制造业的各个领域,把人们从不愉快的工作中解放出来。25 年后,可能会有 10 亿双足机器人从事人类所从事的各种工作。我们可以把人类从最底层 50% 真正不愉快的工作(如流水线和农场工作)中解放出来。

不仅仅是我们的物质生活将会改变。很快,大多数消费者访问互联网时,都可以由智能体(agent)代表,使他们能够高效地管理日常事务,抵御营销人员和机器人的攻击。这对消费者来说可能是一个伟大的平衡器,可以抵御那些企图利用人类心理来提高消费水平、向消费者推销产品或偏离其思维的营销机器。

人工智能可以通过个性化医疗彻底改变医疗保健,根据个人基因、生活方式和环境量身定制治疗方案。人工智能可用于早期检测疾病,通常是在症状出现之前,这样就可以进行更有效、创伤更小的治疗。人工智能将增强生物技术,创造有效、可扩展的精准药物。人工智能肿瘤学家可以比人类获取更多的研究成果,从而做出更明智的决定

近乎免费的人工智能医生可以在全球范围内提供高质量的医疗服务。扩大基本初级保健、慢性病护理和专业护理(如心脏病学、肿瘤学、肌肉骨骼学等)对于改善新兴市场居民的健康状况和预防疾病至关重要。如果我们继续依赖人类来提供医疗保健服务,那么世界上每个儿童都能全天候获得近乎免费的医生服务将是不可能的。事实上,当前的辩论令人痛心地没有关注人工智能最突出的方面:受人工智能革命影响最大的是地球上最底层的一半人--40 亿人--他们每天都在为生存而挣扎

人工智能可以根据每个学生的需求和兴趣创造个性化的学习体验。人工智能辅导员可以全天候提供服务,让全世界的人们都能接受高质量的教育,从而释放机会,提高自我效能。

人工智能可以通过优化能源使用、减少排放来应对气候变化,但更重要的是,它有助于开发低碳技术

当然,推动这个人工智能乌托邦将需要大量的能源,需要核聚变等辅助技术,以实现无限、清洁和廉价的发电。此外,利用地热、太阳能和先进的电池系统提供清洁、可调度的电力也是很有前景的。多种载体正在降低计算的环境成本。

人工智能可以增强人类的能力,让我们能够解决复杂的问题。人工智能可以成为创造性的合作伙伴,协助艺术、设计和创新,推动各个领域的发展。

新的“工作”将会出现,创造力将蓬勃发展。

人工智能可以帮助创建公正的社会,确保公平决策,减少偏见,提高治理的透明度,远远超出人类所能做到的。通过大量的数据分析,人工智能可以协助制定基于证据的政策。

我们可以为每个公民提供全天候的律师服务,提高专业能力,扩大诉诸司法的机会。教育、法律和财务咨询将不再仅限于社会的上层。

在乌托邦式的愿景中,人工智能可以将社会焦点从经济增长转移到福祉和满足上。想象一下,在这样一个世界里,人们追求令自己兴奋的事物,而没有就业或职业发展的压力,激情自然会涌现。

艺术、竞赛和体育等通常与经济安全无关的职业,将成为任何人都可以实现的目标,而不再受制于谋生的需要。随着每周 40 小时工作制的消失,生活将变得更有意义

阻碍人工智能发展的障碍包括:现有的阻力、技术上的失败、金融风险、反科技情绪以及公众的负面看法。但我相信,只要有正确的社会选择和技术进步,人工智能驱动的乌托邦是可以实现的。

未来 5 年,人们可能不会感觉到生活有什么显著变化。但从现在起的 10 到 20 年间,我们将见证重塑社会的巨大变革。

人类劳动力可能会贬值,从而给工资带来下行压力。相对于资本而言,劳动力将贬值,相对于创意和人工智能技术而言,贬值幅度更大。

人工智能拉平了技能差异,可能会降低工资。价值创造可能会转向创造力、创新或人工智能所有权,从而可能导致新的不平等。我们不能简单地推断过去的经济历史;人工智能可能会完全超越人类的能力,从而使教育和技能提升变得不那么有效。

人工智能周期将比以往的技术转变更快,从而使调整变得更加困难。特别是在未来 10 年或 20 年,即使整个社会有所改善,变化对某些人的冲击也会比其他人更严重。

让我们以美国医疗保健系统中医生工资的总成本为起点,继续围绕工资压缩和工作中断进行思考实验。这个数字在 3000 亿美元以上,很可能接近 4000 亿美元(以 100 万名医生为例,每名医生的工资在 30 万到 40 万美元之间)。预测每年花费在美国医生薪酬上的 3000 亿至 4000 亿美元的命运,取决于医疗保健的供需弹性。如果医疗成本因人工智能自动化而下降 90%,那么消费是否会增加 10 倍,以保持美国医生薪酬支出约 3500 亿美元不变?不太可能。人们不会因为骨科治疗更便宜而骨折更多。但随着就医门槛的降低,他们可能会增加预防性护理、心理保健和选择性手术。人工智能将使高质量的娱乐和媒体高度个性化并可能商品化,任何艺术形式都将争夺用户每天 24 小时的注意力。媒体的多样性和质量可能会大幅提高;消费者的支出是否也会增加?在会计等其他领域,即使通过自动化降低了服务成本,公司也不会需要多十倍的审计。需求受制于监管需求,而非成本。

即使每项服务的成本下降,但如果数量的增加与价格的下降相平衡,总支出也可能保持不变。每个部门都将在供应、需求和弹性之间找到平衡点,因此,如果不进行细致的具体部门分析,就很难做出准确预测,而目前我们还没有足够的数据。随着时间的推移,一旦需求达到各部门总消费和时间的渐近线,新的人工智能经济就会找到平衡点。

人工智能生产力的激增可能会导致通货紧——一般价格水平的下降。以更少的投入提高效率(如人工智能和机器人技术带来的劳动力成本降低),以及竞争加剧,都可能引发通货紧缩和失业。

但这种通货紧缩型经济对国内生产总值(GDP)等传统衡量标准提出了挑战。如果我们的消费增加,但由于价格下降而支出减少,那么 GDP 可能无法反映福祉。如果国内生产总值不能反映生活水平和富裕程度的提高,那么它就没有什么意义。

我们需要新的经济衡量标准来反映这些变化。这里的通货紧缩不是消极的,而是效率的提高、商品和服务的生产以及富足。我们当前的词汇将 GDP 增长等同于繁荣——这是一个缺陷。在这个新时代,货币政策可能不再那么有效。

我们面临着选择:加速、放慢或缓和颠覆性技术的发展,并决定是否为那些被取代者提供补偿。对于被取代来说,变革可能是痛苦的,而拥抱人工智能的积极因素则需要将受影响者放在政策的中心位置。这些变化带来了巨大的挑战,但也为我们提供了一个机会,在 25 年多的时间里创造一个更具同理心的社会和一个后资源紧缺的世界。

鉴于生产率即将大幅提高,以及未来 50 年 GDP 年增长率可能从 2% 提高到 5% 或更高,人均 GDP 可能达到 100 万美元左右(假设 50 年的年增长率为 5%,如果 GDP 仍是一个好的衡量标准的话)。一个足够通货紧缩的经济会让目前的美元变得更值钱,我怀疑目前的 GDP 衡量标准将无法很好地衡量经济福祉。当然,要实现这一愿景,就必须建立一个类似于“全民基本收入”的机制,提供一个总体上远远超过今天的最低标准,使我们能够获得丰富生活的商品和服务。

我可以想象 25 年后的消费乌托邦,在那里,我们在大多数领域都不会受到供应限制,通货紧缩实际上是获取和更平等消费的积极顺风。想象一下,在这样一个世界里,住房、能源、医疗保健、食品和交通都由机器送货上门,几乎是免费的;在这些领域几乎没有工作机会。这个世界的主要特征是什么?人类最终将获得“自由”。

归根结底,未来将取决于我们决定如何引导这一强大的工具。这将是一系列政策选择,而非技术必然性。各国的选择会有所不同。我们必须负责任地利用人工智能,确保其利益得到公平分配。

我是一个技术可能性主义者,一个技术乐观主义者,希望技术得到谨慎使用。回想我在 2000 年说过的话,我们需要重新定义人类的意义。这个新定义的重点不应该是工作或生产力的需求,而应该是激情、想象力和人际关系,允许个人对人类进行诠释。




学术头条
致力于学术传播和科学普及,重点关注AI4Science/大模型等前沿科学进展。
 最新文章