伟大头脑 No.42
Kate Darling
关于人工智能的思考，我们犯错了？但我们的确逐渐陷入了某个认知误区——下意识地把机器人比作人类，把人工智能比作人类的智能。这种比较限制了我们的想象力，也让我们陷入更多的“思想揪斗”之中。
器人能否超越人？甚至机器人是否会最终统治人？这些个恼人的问题，越来越多地纠缠着我们。自两年前ChatGPT上线以来，这些担忧、质疑、追问……越来越急迫。
OpenAI持续发布新产品，在全球各地、硅谷各处，也都涌现着“强人工智能”的新突破，更多核心问题浮出水面：人类的身份又将如何被重新定义？
跳出思考人与机器人关系的传统“怪圈”，机器人伦理学专家凯特·达林，仅用了两个字就开辟了一条人机共生新思路——在《智能新物种》一书中，达林避开直接将机器人与人做类比的惯常做法，而是给机器人寻找新的投射对象：动物。
对，也许不是机器人，而是机器动物。也许不是人与机器人的关系，而是人与机器动物的关系。达林颠覆性的思考，震惊了科学界和AI领域。
北京大学哲学系教授何怀宏、苇草智酷创始合伙人段永朝、国家重-点实验室学术带头人杨溟、中国人民大学吴玉章讲席教授刘永谋、墨问西东创始人池建强、小米集团小爱同学负责人王刚重磅导读力荐！
首都师范大学政法学院教授谭笑、哈佛大学法学院教授劳伦斯·莱斯格、麻省理工学院科学家拉纳·埃尔·卡利乌比、哈佛大学副教授、鸟类学家艾琳·佩珀伯格、美国密码学家、咨询安全专家布鲁斯·施奈尔、Web 2.0之父 蒂姆·奥莱利联袂推荐!
《自然》、《科学》、《新科学家》、《柯克斯书评》、《书单》、《图书馆杂志》重磅力荐！
▼
比如说就像对动物伤害人的行为不要追责一样，也不要对机器人的这类行为追责；就像我们赋予动物权利一样，也要考虑赋予机器人权利；乃至我们要多生产一些类似动物模样的机器陪伴者，而不要类似人模样的机器陪伴者。
——凯特·达林
时逢GPT上线两周年，11月份，我们为你呈现伟大头脑特别专题——请出4位与人类明日世界相关的“伟大头脑”，经由他们，经由AI，经由科技，经由我们此时还有大部分掌控权（此处存疑）的人脑，边思考边参与GPT时代进程。
这是一幅全新的画卷——身为麻省理工学院媒体实验室的研究专家，同时也是波士顿动力AI研究所伦理与社会方向的负责人，达林对人与动物历史的进行了深刻总结，继而以此探索人与机器人的未来。
凯特·达林，机器人伦理学的杰出专家，麻省理工学院媒体实验室的研究员。她勇敢地探索着技术与社会的交织奥秘，以及那些由钢铁和电路构成的机器人所承载的伦理道德。
她的学术之旅始于瑞士巴塞尔大学的殿堂，她的智慧如同苏黎世联邦理工学院的科学博士帽上的流苏，而米德尔伯里学院的荣誉科学博士学位则是对她卓越贡献的加冕。
在哈佛大学法学院的讲坛上，她与法学教授劳伦斯·莱斯格共同点燃了机器人伦理的火炬，照亮了法律与机器人学的交汇点。耶鲁大学信息社会项目的研究员身份，更是她学术探索的见证。
在WeRobot会议的舞台上，她以高级联合主席的身份，引领着全球关于机器人法律和政策问题的讨论，她的话语如同指挥家的指挥棒，引领着思想的交响。
——以下内容摘改自《智能新物种》——
难以回答的问题：什么是机器人？
凯特·达林
我们好像都知道机器人是什么：20世纪20年代经典科幻小说《大都会》中的金属机器人、《杰森一家》里的罗西，以及深受大家喜爱的电影《星球大战》里的角色R2-D2和C-3PO。
为任何事物都可以有定义的想法是一种哲学上的错误。我们的语言是属于群体和语境的，华盛顿大学的研究人员梅格·扬和瑞安·卡洛已经在机器人的案例中证明了这一点：你如何定义它取决于你所在的领域。
《纽约时报》发表了一篇对特斯拉首席执行官马斯克的采访，他在采访中自信满满地说：“我们正朝着人工智能大大超越人类的方向发展，我认为这一过程从现在开始不超过5年就会实现。”他接着说，那些无法想象计算机会比人类更聪明的人“只是比他们自以为的要蠢得多”。
我不确定未来会怎样。几十年来，人们一直在说我们距离被机器人替代还有25年的时间。考虑到今天的机器人技术，在我看来，人类不太可能在25年内被取代。
但是，虽然我们很容易回顾过去，对人们认为机器人技术今天会达到的水平报以微笑，但我们也看到了未曾预料到的、改变世界的发展，比如互联网的爆炸式增长，而且时间比料想中的更短。承认这个预测是困难的，《智能新物种》敦促我们提出新问题，而不是关注机器人能否在未来几十年取代人类。这个新问题是：如果被取代了，那又会怎样呢？
创造我们已经拥有的东西似乎是一种非常短视的行为：如果我们的能力远不止于此，为什么还要尝试将人类的能力复制粘贴到机器上呢？我并不是说科幻小说中的超级智能是我们自己的指数级的翻版，我说的是我们在动物世界中看到的“超级智能”。
机器人技术的真正潜力，不是重新创造我们已经拥有的东西。就像农民把古老的耕作方法抛诸脑后，将农业推向现代化一样，我们可以创造技术来扩展我们的能力，让我们感知、发现、操控和完成我们从未做成的事情。我们可以创造技术支持，推动我们的活动、达成目标，这也适用于我们的关系。
当我们可以创造新事物时，如果依旧以简单的人类复制品为目标，岂不是无聊透顶？我们目前对失业、机器人接管或社会关系消亡的恐惧，存在着一种错误的决定论。
我希望的是，将机器人与动物进行比较，可以帮助我们摆脱机器人即将取代我们的执念。这种比较很有道理，因为动物具有不同的智力和技能。
纵观历史，我们一直在使用动物来补充我们自己的能力和关系。以这种方式看待机器人，不仅更接近现实，而且对我们来说也至关重要。
我们确实看起来试图用机器人取代人。
凯特·达林
在我怀孕三个月的时候，虽身体不适，但干劲儿十足。在加利福尼亚州山景城与人合办了一场为期两天的研讨会后，我获得了一个自己无法回绝的机会。
那天一大早我就起床出发，从圣何塞飞到丹佛，再转机到波士顿，接着从波士顿飞到瑞士的苏黎世。在到达苏黎世后，我又辗转搭乘了好几趟火车赶往德国的巴伐利亚州，最终如愿以偿，到达了我此次长途跋涉的目的地——因戈尔施塔特。
因戈尔施塔特以其建于19世纪的医学实验室闻名，当时的科学家和学生正是在这样的实验室里对死猪做了实验，玛丽·雪莱也因而有了创作灵感。在她1818年创作的科幻小说《弗兰肯斯坦》中，大部分故事都发生在巴伐利亚州的这座城市。然而，让我长途跋涉9300多千米来到这里的动因并非《弗兰肯斯坦》，而是因为因戈尔施塔特也是德国豪华汽车制造厂商奥迪汽车股份公司（后文简称奥迪）的所在地。
2017年，奥迪发起了一项研究计划，旨在围绕有关人工智能、自动驾驶汽车和未来工作的社会问题进行调查。我欣然接受了这次会议邀请，迫切地想了解他们的想法。
我按照指示，把手机扔进了走廊上脏兮兮的橡胶盒子里，随后跟着向导来到了车间。映入眼帘的是众多装配着机械臂的巨大吊笼。它们高悬在我们的头顶上方，令人啧啧称奇。机器人在自己的空间旋转着，以一种快速、精准且令人着迷的舞蹈节拍移动，它们在处理那些最终会组装成汽车的金属部件时火花四溅。
我们对这一壮观的景象赞叹不已，几乎没有注意到远在车间另一端正在处理汽车车身的工人。在向导看来，机器人平稳的操作只是例行公事而已，几乎可以用无聊来形容，这没什么好大惊小怪的。几十年来，汽车公司一直在工厂里使用机械臂。
但奥迪之所以推出新的人工智能计划，是因为它知道，尽管工厂的这些机器人展示了令人印象深刻的高质量的德国工程，但它们并不是未来的机器人。
像奥迪这样的公司正在大举投资人工智能和机器人技术，这些技术的用武之地不仅在工厂里，也在汽车上。现在，机器人被用于诸如检查下水道、拖地、递送墨西哥卷饼、陪伴我们年长的家人等许多事项中。从家庭到工作场所，一场革命即将来临。而这对于我在汽车制造厂所看到的那些在车间另一端的工人们来说，究竟意味着什么？
新闻头条报道称，随着机器人技术的发展，工人并不是唯一处于失业边缘的人——人人皆如此。在更大范围内的经济动荡和社会焦虑的背景下，这一话题已经从“机器人会取代我吗”转向了“机器人多久以后会取代我”。
这种担忧有道理吗？我们确实看起来试图用机器人取代人。
塑造未来的不是机器人，是我们。
凯特·达林与波士顿公司创始人
我那蹒跚学步的孩子一见到机器人，比如见到他爷爷办公室里的老式金属发条玩具，或是看到在家里地板上四处游荡的机器人吸尘器，就会手舞足蹈，并且嘴里发出“哔……哔……”的声音。当办公室里的打印机亮起来并吐出一张纸时，他也会说“哔……哔……”，但他不认为计算机是机器人。
成人划定的界限并没有那么随意。在我和数字版权专家卡米尔·弗朗索瓦以及一群相当精通技术的同事共同举办一场研讨会之际，他们绞尽脑汁来定义“机器人”这个术语，同时他们也很难确定自己家里的哪些设备是机器人：一台可以自己执行任务的机器是机器人吗？洗碗机可以做到这一点，台式计算机也可以。
大家在白板上举棋不定，犹豫着要不要把洗碗机和台式计算机归入机器人的类别里。对于机器人，我们心中都有一个生动的印象——一个深受科幻小说和流行文化影响的形象。在工作场所，我们不应该把机器人视为人类的替代品，而应更有创造性地考量：机器人，是我们在努力实现目标过程中的合作伙伴。
观历史，我们一直将动物用于工作、武器装备和陪伴等方面。像机器人一样，动物可以感知、做出自己的决定、对世界产生影响并学习；像机器人一样，动物对世界的感知和参与方式与人类不同。这就是为什么几千年来，我们一直依赖动物帮助我们做一些我们无法独自完成的事情。
在使用这些有自主能力的，有时是变幻莫测的智能体时，我们并没有被替换，而是在关系和技能方面得到了提升。我们驯化牛来耕田，学会了骑马，以新的方式在身体层面和经济层面扩展我们自身和我们所处的社会。
我们创建了鸽子运送系统，放出火猪来抵御大象的攻击，训练海豚来探测水雷。从人类的法律诞生之初，我们就在讨论动物对人类造成伤害的责任问题，甚至把动物当作罪行的审判对象。我们也拓展了社交圈：纵观历史，我们把大多数动物看作工具和产品，但也将其中的一些视为朋友。
凯特·达林
就像动物一样，机器人不需要成为我们工作或人际关系的一对一替代品，它们可以让我们以新的方式去工作和谈恋爱。
以不同的方式思考技术及其挑战，这样可以打开更为广泛的解决方案集，并提供一系列我们可以拥有以及可以努力改善这个世界的机会。毕竟，塑造未来的，不是机器人，而是我们自己。
北京大学哲学系教授何怀宏、苇草智酷创始合伙人段永朝、国家重-点实验室学术带头人杨溟、中国人民大学吴玉章讲席教授刘永谋、墨问西东创始人池建强、小米集团小爱同学负责人王刚重磅导读力荐！
首都师范大学政法学院教授谭笑、哈佛大学法学院教授劳伦斯·莱斯格、麻省理工学院科学家拉纳·埃尔·卡利乌比、哈佛大学副教授、鸟类学家艾琳·佩珀伯格、美国密码学家、咨询安全专家布鲁斯·施奈尔、Web 2.0之父 蒂姆·奥莱利联袂推荐!
《自然》、《科学》、《新科学家》、《柯克斯书评》、《书单》、《图书馆杂志》重磅力荐！
▼
这本书讲了一个“用心良苦”建构的叙事逻辑。
第一，人与动物的关系：长期以来，人类驯化动物作为人的“合作伙伴”，利用动物来担当各种繁重的劳动，完成各种人力所不及的任务，在生活、生产乃至在军事领域。
第二，将机器人视作动物一样的“生命体”：人类既然可以开启“宠养动物”的历程，将动物视作伙伴，也一定能将智能机器人视作伙伴，开启“宠养”机器人的全新旅程。更重要的是，人与动物的种种经验，几乎可以完美复制到机器人身上，这就带来了第三点。
第三，将动物伦理“平移”到机器人身上，倡导机器人伦理，以及给新型的人机关系可操作的指引。
但是，读完之后，总觉得作者似乎意犹未尽，甚至欲言又止。
——段永朝
苇草智酷创始合伙人
信息社会50人论坛执行主编
你认同达林的观点吗？
你渴望的相处对象
是机器人还是机器动物（物种）？
理想的人机相处模式
是类似人与人，还是人与动物？
欢迎大家留言讨论
……
本期策划：Burt
编辑：芦丁
//湛庐文化//
与最聪明的人共同进化！
商务合作事宜，请联系：
BD@cheerspublishing.com,
13911298303
点击“阅读原文”，挑选以上好书
