AI或终结人类文明
题记：著名物理学家斯蒂芬·霍金通过视频发表演讲，谈到了被人们视作未来的人工智能技术，在题为《让人工智能造福人类及其赖以生存的家园》主题演讲中，霍金表示，人工智能崛起要么是人类最好的事情，要么就是最糟糕的事情——可能是人类文明的终结。
2017年4月27日，全球移动互联网大会（GMIC）在北京国家会议中心举行。著名物理学家斯蒂芬·霍金通过视频发表演讲，谈到了被人们视作未来的人工智能技术，在题为《让人工智能造福人类及其赖以生存的家园》主题演讲中，霍金表示，人工智能崛起要么是人类最好的事情，要么就是最糟糕的事情——可能是人类文明的终结。
以下是演讲全文：
人工智能：要么是最好的，要么是最糟的
在我的一生中，我见证了很多社会深刻的变化。其中最深刻，同时也是对人类影响与日俱增的变化就是人工智能的崛起。简单来说，我认为强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。
是好是坏，我不得不说我们依然不能确定。但我们应该竭尽所能，确保其未来发展对我们的后代和环境有利。我们别无选择。我认为人工智能的发展，本身是一种存在着的问题，而这些问题必须在现在和将来得到解决。人工智能的研究与开发正在迅速推进，也许科学研究应该暂停片刻，从而使研究重点从提升人工智能能力转移到最大化人工智能的社会效益上面。
基于这样的考虑，美国人工智能协会（AAAI）于2008年至2009年，成立了人工智能长期未来总筹论坛。他们近期在目的导向的中性技术上投入了大量的关注，但人工智能系统的原则依然必须要按照我们的意志工作。
我相信生物大脑总有一天会达到计算机可以达到的程度，没有本质区别。因此，它遵循了“计算机在理论上可以模仿人类智能，然后超越”这一原则。但我们并不确定，所以我们无法知道我们将无限地得到人工智能的帮助，还是被藐视并被边缘化，或者很可能被它毁灭。
我也在担忧这样的结果，即创造一个可以等同或超越人类智能的人工智能：人工智能一旦脱离束缚，就会以不断加速的状态重新设计自身。未来，人工智能可以发展出自我意志，一个与我们冲突的意志。很多人认为人类可以在相当长的时间里控制技术的发展，这样我们就能看到人工智能可以解决世界上大部分问题的潜力。但我并不确定，尽管我对人类一贯持有乐观的态度。
人工智能对社会所造成的影响，需要认真调研
2015年1月，我和科技企业家埃隆·马斯克，以及许多其他的人工智能专家签署了一份关于人工智能的公开信。目的是提倡就人工智能对社会所造成的影响，做认真的调研。
在过去的20年或更长时间里，人工智能一直专注于建设智能代理所产生的问题，即：在特定环境下可以感知并行动的各种系统。智能是一个与统计学和经济学相关的理性概念。通俗地讲，这是一种能做出好的决定、计划和推论的能力。基于这些工作，大量的整合和交叉孕育被应用在人工智能、机器学习、统计学、控制论、神经科学以及其他领域。
共享理论框架的建立，结合数据的供应和处理能力，在各种细分的领域取得了显著的成功。例如语音识别、图像分类、自动驾驶、机器翻译、步态运动和问答系统。
目前人们广泛认同，人工智能的研究正在稳步发展，而它对社会的影响很可能还在扩大。潜在的好处是巨大的，甚至文明所产生的一切，都可能是人类智能的产物。但我们无法预测我们会取得什么成果，这种成果可能是被人工智能工具放大过的。正如我说的，根除疾病和贫穷并不是完全不可能，由于人工智能的巨大潜力，研究如何（从人工智能）获益并规避风险是非常重要的。
从短期和长期看人工智能
现在，关于人工智能的研究正在迅速发展，这一研究可以从短期和长期来分别讨论。
短期担忧：
1.无人驾驶
从民用无人机到自主驾驶汽车。在紧急情况下，一辆无人驾驶汽车不得不在小概率的大事故和大概率的小事故之间进行选择。
2.致命性智能自主武器
它们是否该被禁止？如果是，那么“自主”该如何精确定义？如果不是，任何使用不当和故障的过失应该如何被问责？
3.隐私的担忧
由于人工智能逐渐开始解读大量监控数据，会造成隐私上的担忧，以及如何管理因人工智能取代工作岗位带来的经济影响。
长期担忧：人工智能系统失控的潜在风险
随着不遵循人类意愿行事的超级智能的崛起，强大的系统可能会威胁到人类发展。这种错位是否会发生？
当前控制人工智能技术的工具，例如强化学习，简单实用的功能，还不足以解决系统失控的问题。因此，我们需要进一步研究来找到和确认一个可靠的解决办法来掌控这一问题。
我们远不能预测我们能取得什么成就。当我们的头脑被人工智能放大以后，也许在这种新技术革命的辅助下，我们可以解决一些工业化对自然界造成的损害。关乎到我们生活的各个方面都即将被改变。
简而言之，人工智能的成功有可能是人类文明史上最大的事件。
但人工智能也有可能是人类文明史的终结，除非我们学会如何避免危险。目前，九个核大国可以控制大约一万四千个核武器，它们中的任何一个国家都可以将城市夷为平地，放射性废物会大面积污染农田，最可怕的危害是诱发核冬天，火和烟雾会导致全球的小冰河期。
这一结果就使全球粮食体系崩塌，造成末日般动荡，很可能导致大部分人死亡。我们作为科学家，对核武器承担着特殊的责任。正是科学家发明了核武器，并发现它们的影响比最初预想的更加可怕。
重要的是，在影响当前技术的未来研发中，你们要清楚自己所处的位置。我相信只要我们团结在一起，来呼吁国际条约的支持或者签署呈交给各国政府的公开信，科技领袖和科学家定极尽所能避免不可控的人工智能的崛起。
我们对潜在危险已经有所意识，我内心仍秉持乐观态度，我相信创造智能的潜在收益是巨大的。也许借助这项新技术革命的工具，我们将可以削减工业化对自然界造成的伤害。
人工智能的最新进展
人工智能的最新进展，包括欧洲议会呼吁起草一系列法规，以管理机器人和人工智能的创新。令人些许惊讶的是，这里涉及了一种形式的电子人格，以确保最有能力和最先进的人工智能尽到其应尽的权利和责任。
欧洲议会发言人评论说，随着日常生活中越来越多的领域日益受到机器人的影响，我们需要确保机器人无论于现在还是将来，都为人类而服务。
在人工智能发展进程中，我们还应该确保下一代的发展。在早期阶段充分参与科学研究，以便他们继续发挥潜力，帮助人类创造一个更加美好的世界。这就是我刚谈到学习和教育的重要性时所要表达的意思。我们需要跳出“事情应该如何”这样的理论探讨，并且采取行动，以确保他们有机会参与进来。我们站在一个美丽新世界的入口。这是一个令人兴奋的、同时充满了不确定性的世界，而你们是先行者。我祝福你们。
来源：《中国科技奖励》2017年第5期
编发：三束光部落
现代大学网
在这里，读懂大学
westudying.com
iuniversity@qq.com
版权说明
为著作权人的作品提供网络推广服务，以提升其价值影响力。部分信息选录自相关书刊或网站，如有异议请发电邮洽商处理。▲
