伟大头脑 NO.41
Max Tegmark
或许我们是幸运的，我们有幸参与和见证着人类历史中的重要转折——人工智能革命。也许我们应该提前确认真相：技术史就是人类不断被取代的历史。
能与人工智能革命相较的，大约只有19世纪末始于英国的工业革命、20世纪末始于美国和德国的第二次工业革命、“二战”后以摩尔定律为标准的信息革命。每一场革命都改写了人类进程——我们携手步入了新世界。
但或许，我们也是不幸的。尤其是GPT时代的到来，作为参与者，我们似乎只拥有使用权，没有发言权，我们甚至来不及有一丝疑虑，更不要提反思与观望——“屏幕在哪里亮起，哪里才有人的生命”。
就在这个月底，世界将迎来ChatGPT上线两周年。2022年11月30日，ChatGPT正式问世，上线仅5天内就获得了100万用户，2个月内用户数突破1亿。
ChatGPT的出现标志着强人工智能时代的来临——这是变革中的变革。当会思考的机器出现，那些不会思考的人将何去何从？但总有人一直在思考。就在今年六月某次会议中，麻省理工教授迈克斯·泰格马克再次提醒我们：必须停止认为强人工智能是遥远的事！
时逢GPT上线两周年，11月份，我们为你呈现伟大头脑特别专题——请出4位与人类明日世界相关的“大人物”，经由他们，经由AI，经由科技，经由我们此时还有大部分掌控权（此处存疑）的人脑，边思考边参与GPT时代进程。
聊到AI，我们绝对不能“放过”泰克马克，他甚至掌握着对人类的的生杀大权。2018年，他创立的生命科学研究所，联合2000多位AI专家签署誓言，号召各方禁绝杀人机器人的出现。签名的还有马斯克等一众科技大佬。203年，由研究所带头，包括马斯克在内的1000多名科学界和商界大佬，共同签署公开信：呼吁暂时“封杀”强人工智能研发。
对了，霍金在生前就担任生命科学研究所的顾问。
迈克斯·泰格马克在麻省理工学院的实验室里
他是顶尖的物理学家，平行宇宙理论研究权威。作为麻省理工学院物理系终身教授，《科学》杂志“年度突破奖”第一名获得者，泰格马克擅长用物理学思维解决各种跨界难题，被誉为“最接近理查德·费曼的科学家”。
他创办了未来生命研究所，这个机构汇聚了8000多位世界顶级人工智能专家，其中包括了埃隆·马斯克、比尔·盖茨这样的商业大咖，也会看到史蒂芬·霍金、雷·库兹韦尔这样的顶尖科学家，还会看到尼克·波斯特洛姆这样的思想大牛。
联手马斯克创立神秘组织
他正改写人类与AI的未来
01
一场影响人类未来的大会，和一个组织
在2015年第一个星期天的下午，一群人悄然集结参加一场在波多黎各某度假胜地举办的闭门会议。
这场会议，汇集了牛津大学人工智能伦理学家尼克·博斯特伦、Skype的创始人扬·塔里安以及Google的AI专家肖恩·莱格。会议有着非常乐观的主题：“AI的未来：机遇与挑战并存”，而让这场大会显得更加神秘的是，一切媒体记者被禁止参加，同时参会者在参会期间也不能私下公开看法。
波多黎各大会参会者合影
在长达一周的会议即将落幕的傍晚时分，所有人准备走向酒吧，参加随后的庆祝聚会。而大会的主办人泰格马克教授，却让大家再留步片刻，“有个大事情要宣布”。随后，一个健硕的身影走到台前，他就是埃隆·马斯克。灯光下，马斯克的出现让台下爆发一阵骚动。
马斯克清了清喉咙，开始宣布，要将1000万美元捐赠给这个MIT教授创立仅一年的组织——未来生命研究所（Future of Life Institute的英文缩写，简称FLI）。
02
未来生命研究所诞生记
马斯克是在最后几分钟才赶到庆典现场。两天后，SpaceX就要进行一次重要的火箭发射，尝试在海面平台回收部分火箭。但他还是坚持赶到了现场，因为他相信，这场大会和这个新诞生的组织，对世界有着非同寻常的意义。
在很多媒体的报道中，经常是这样描述埃隆·马斯克——一个坚定的人工智能威胁论者。起因是他在2014年8月发布的那条人尽皆知的推特：“我们需要对AI保持谨慎。它们可能比核武器还要危险。”
未来生命研究所作为一家非盈利组织，
链接学术界与科技企业界，推动“AI有益运动”的发展
也几乎是与此同时，一位MIT的教授也在这样的信念下，推动着自己的计划。因为马斯克那条有些“危言耸听”的推特，两人的故事发生了交集。几乎是一拍即合，在他们第一次电话联络的时候，马斯克便同意加入未来生命研究所的科学顾问委员会，并表示愿意资助未来生命研究所筹备开篇提到的波多黎各大会。
那这个未来生命研究所究竟是在什么样的情况下诞生的呢？
成立之后究竟为了推进什么研究呢？
03
疯狂迈克斯
在成立未来生命研究所之前，作为MIT物理学终身教授，泰格马克已经在平行宇宙方面的研究上成果斐然。他师承约翰·惠勒，与理查德·费曼和基普·索恩师出同门。数理宇宙的假说让他成为“当今最具原创力的科学家”。
这些年里，泰格马克将研究领域扩展到了人工智能。不少人会觉得诧异，一个物理学家，为什么要“开小差”，跑去研究人工智能？
《生命3.0》作者：泰格马克
一方面，MIT在人工智能领域积淀深厚。虽然人工智能在达特茅斯学院最先提出，但最初实现的却是麻省理工学院。另一方面，泰格马克的很多研究都是基于最新的计算机技术，他自己曾开发数据分析工具，用于宇宙微波背景的研究。过去几年一直与MIT的团队在AI研究领域耕耘，至今已经发表了5篇AI技术领域的论文，其中一篇是与杨立昆（深度学习领域三巨头之一）合作发表。
私下里，他更喜欢大家给他取的外号“疯狂迈克斯。”在科学家的外衣下，他有着一颗梦想家的心。用他的话说，“从我14岁知道了核军备竞赛以来，我一直担心我们的技术力量比我们控制它的智慧增长得更快。”这种担忧一直伴随着他的学术生涯，并让他不断行动起来。也正是这种浪漫主义，让他和埃隆·马斯克和斯蒂芬·霍金走到了一起。
在他的第一本书《穿越平行宇宙》新书巡回之旅中，他决心要为这个世界做些什么。首先，要成立一家非盈利组织，专注于用技术管理来改善未来生命的境况。
04
未来生命研究所与它的成员们
接下来，泰格马克开始勾搭自己的朋友。在伦敦，泰格马克找到了Deepmind的创始人丹尼斯·哈萨比斯。两个人在聊了一圈AI领域的技术突破与变革后，泰格马克向哈萨比斯摊牌，包括自己在AI安全研究方面的想法以及未来生命研究所的计划。哈萨比斯赞同了泰格马克的想法，并将在研究方面给予支持和帮助。
而另一位朋友扬·塔里安（Skype创始人）就更实在了，当泰格马克向他承诺了未来生命研究所的愿景后，便决定每年拨给他10万美元的经费。
在一年后的波多黎各大会上，塔里安半开玩笑说：这是我做过的最好的一笔投资，这对我来说简直意味着整个世界。随后，一批来自高校的志愿者加入到了未来生命研究所中。
委员会中涵盖了AI领域研究者、企业家、科学家乃至哲学家。
详细介绍可参考https://futureoflife.org/team-chinese/
一方面，未来生命研究所通过资助全球各地的研究团队，保证AI安全领域研究的推进。另一方面，通过与世界顶级专家、企业家的定期会议与讨论，推动AI安全研究的社会共识。
而未来生命研究所该机构的科学顾问委员堪称豪华，包括宇宙学家史蒂芬·霍金、SpaceX 和特斯拉汽车创始人埃隆·马斯克、牛津大学未来人类研究院主任尼克·博斯特伦、麻省理工数字商业主任埃里克·布林约尔松、哈佛大学遗传学教授乔治·丘奇、MIT物理学教授阿兰·古斯以及剑桥大学、加州伯克利等大学的人工智能方面的著名教授都参与其中。
05
“AI有益运动”——让AI安全性研究进入主流
2014年，未来生命研究所打响了自己的第一枪。泰格马克与斯图尔特·罗素、史蒂芬·霍金联合在赫芬顿邮报上发表的《超越我们对超级智能机器的自满》一文。表达了作者对迅速发展的AI潜在的风险与隐忧。
那篇经常被其他媒体曲解的“原版”文章：
https://www.huffingtonpost.com/stephen-hawking/artificial-intelligence_b_5174265.html
这篇文章引发媒体对AI安全报道的热潮，伊隆·马斯克、比尔·盖茨等科技领袖纷纷加入讨论，发表各自的观点。遗憾的是，很多媒体搞错了方向，发表《史蒂芬·霍金警告说，机器人的崛起对人类可能造成灾难性破坏》这种危言耸听的文章。
所以真正让AI安全性研究步入主流的，是2015年1月召开的波多黎各大会。也就是刚刚文章开头出现的那一幕，这场大会，几乎所有的参会者都对这个问题产生了共识。
06
这个时代最聪明的头脑集合在一起
在这场大会结束后一周，未来生命研究所便推出AI研究资助金申请通道。全世界大约有300个团队申请，在经过筛选后，37个团队开始了第一阶段的研究。
另外，一封著名的公开信也进入了公众视野。在这封名为《迈向强大和有益人工智能的优先考量研究方案》的公开信中，强调了“研究不应该只限于扩展AI的能力，而是也需要把AI对社会的效益发挥至最高点”，并为下一阶段的研究列出了优先考量的目标。这封公开信很快就收集了8000多个签名，其中包括许多享誉全球的AI开发者以及伊隆·马斯克和斯蒂芬·霍金等人。
也是在此时，媒体对“AI有益运动”报道产生了微妙的变化，再也没有终结者的照片。AI安全性研究终于不再是空谈，而是有许多实际有用的工作要做。并且，许多优秀的研究团队纷纷卷起袖子加入进来。
阿西洛马大会的合影，也是AI有益运动的“群英谱”，你可以在里面找到拉里·佩奇、埃里克•施密特这些企业家，吴恩达、丹米斯·哈萨比斯这样的技术专家，以及丹尼尔·卡尼曼这样的来自心理学、经济学、社会学方面的顶级专家。DeepMind、谷歌、Facebook、苹果、IBM、微软和百度等公司的代表悉数到场。
随后，在2017年阿西洛马大会上，“AI有益运动”被推向了第一个高潮。2018年，生命科学研究所联合2000多位AI专家签署誓言，号召各方禁绝杀人机器人的出现。
一本神作征服全球
教授却曾流出泪来
要看清AI的前景，一个巨大的困难在于，AI的概念已迷失于种种神话和误解。泰格马克试图解决这个问题，仔细地展开 AI 所涉及的与智慧，记忆，学习，意识相关的想法，逐一解释它们，让这些概念不再神秘。泰格马克开始撰写《生命3.0》
首先，我们最应该明确的是，AI不是什么。
“我认为，好莱坞对我们的引导是错误的。”他说。“这种对机器人的意识和邪恶的恐惧是杞人忧天。高级人工智能的真正可怕之处不是邪恶，而是无能。 如果你拥有超级智能的AI，那么根据设定，它将非常好地实现它的目标；但我们需要确保，这些目标与我们的目标一致。我并不仇恨蚂蚁，但如果你让我负责在蚁巢上建设绿色能源水电站，这对蚂蚁来说将是毁灭性的。在面临超级智能时，我们可不想让自己处于这些蚂蚁的位置。”
《生命3.0》并不是一部关于超级AI碾压人类的哀歌。实际上，它对超级智能的潜力是乐观的。不过，什么是超级智能？甚至，什么是智能？ 泰格马克把智能定义为“完成复杂目标的能力”。因此，普通计算机已具有智能。但是，它们的智能仍很狭隘。
泰格马克研究这些问题的方式是，设想一个具有发展阶段的生命历程。他把最原始的生命形式，如细菌，他称之为Life 1.0。
生命2.0阶段或所谓文化阶段是人类所在的地方：人类能够学习，适应不断变化的环境，并能有意地改变这些环境。。
第三个阶段，即生命 3.0阶段，是高科技阶段。在这个阶段，后期人类不仅可以重新设计自身的软件，还可以重新设计自身的硬件。泰格马克写道，这种形式的生命将是“自己命运的主人，最终完全摆脱自然进化的束缚”。
作为一名物理学家，泰格马克可不是关于生命的感伤主义者。他是一名唯物主义者，将世界乃至宇宙视为由不同层次的粒子组成，具有不同层次的活动。 在他看来，普通人的生物性智能与自我维持的机器智能之间没有任何有意义的、道德上的区别。
智能时代，谁会成为数码弃民？在“低度警觉”中的我们，如何更好地应对智能变革？泰格马克给年轻人的基本建议是，去做那些机器目前不擅长并且在不远的未来也很难被自动化的工作。这就是人们常说的，面对人工智能与智能化的发展，人类还剩下哪些不会被机器取代的优势？
牛津大学一个研究报告指出，到目前为止，人类至少在创造性与变通性、社会认知、谈判艺术和论证能力等方面胜机器一筹。
泰格马克也从类似的角度给出了建议。《生命3.0》中引用了一个判断职业是否会被机器替代的预测方法，对于下面一系列问题，肯定的答案越多，这个职业选择就越安全。
这些问题包括：这份工作是否需要与人交互，是否会运用到社交能力？这份工作是否涉及创造性，会不会使你想出聪明的解决办法？这份工作是否需要你在不可预料的环境中工作？
如果人能够与人工智能实现人机协同，无疑比单靠人类或者是单靠机器能够更好地完成各种任务。
将来，人类智能与机器智能可以形成新的智能生态。人类在创造力、情绪智能、伦理道德等人性上的优势，可以与机器在逻辑严密性、计算速度、准确性、客观、不知疲倦等方面的长处，形成互补、相互结合。
几年前，泰格马克站在南肯辛顿科学博物馆门外哭了。他刚刚参观了一个展示人类知识增长的展览。
“我就像被砖块击中了一样。”他回忆说，“每当我们深入了解了自然中的某些东西，我们自己身心的某些方面就会变得过时、多余。 一旦我们理解了肌肉如何工作，我们就会以机器的形式造出更好的肌肉；也许当我们理解我们的大脑如何工作时，我们也将造出更好的人造大脑，这样我们自己的大脑也会变得完全过时。“
“作为一个社会，我们对此太轻率了”。泰格马克进一步问自己： 如果我们创造出了超越我们智慧的超级智能，人类将变成什么样呢？
本期策划：Burt
编辑：芦丁
//湛庐文化//
与最聪明的人共同进化！
商务合作事宜，请联系：
BD@cheerspublishing.com,
13911298303
点击“阅读原文”，挑选以上好书
