点击关注，设为星标，只给你最有价值的思想
“将来在它的眼中，你就是全世界。”
如果在《财新时间》对刘嘉的采访转录文档中查找关键词，你会发现全篇共出现了26次“一定”、10次“必然”和5次“肯定”——足以看出这位清华教授言谈之间的笃定感。
然而，我们与他谈论的话题并不是有着明确答案的客观真理，而是围绕着近两年占据风口又饱受争议的人工智能领域，以及由它所引发的，一系列仍处于探索阶段的科学研究与人文思考。
纵观刘嘉的教育经历，会发现明显的跨学科特征：1997年毕业于北大心理学系，6年后又获得了麻省理工学院脑与认知科学系哲学博士学位。在北师大心理学部任教期间，他还担任了《最强大脑》（1-6季）幕后首席科学团总设计顾问，负责制定比赛题目和评判标准。
《最强大脑》第五季中，刘嘉作为幕后科学团总顾问，
在比赛产生争议时宣布评判标准与最终结果。
从2020年起，刘嘉又来到了清华大学担任心理学系的主任。不过他与我们想象中的典型心理学家有所不同，在他从事的研究项目中，还包含脑科学和人工智能领域的内容，同时他也担任着清华大学脑与智能实验室的基础科学讲席教授。
8月初，我们在清华大学脑与智能实验室的一间会议室内，刘嘉说，心理学是一门关于人的科学，AI又是一个类人的人工智能，而脑科学领域的人工神经网络模型也已经成为当前业界研究AI的主要方法，因此这三门学科自然地产生了交叉与融合。
在这位对科技发展充满积极态度的学者眼中，AI比人类聪明是一种必然的趋势。在AI的力量之下，人类甚至可能找到得以“长生不老”的方法。
但是，这对人类来说究竟是一种灾难还是一种福利？
“它们是读了万卷书，
但并没有行万里路。”
“所以以后人类最好的朋友可能是它？”
“一定是它。”
“您说得太肯定了吧！为什么？”
“因为假设发展顺利的话，它至少可以在初级阶段做到真正的以人为中心。将来在它眼中，你就是全世界。”
我们与刘嘉教授谈论的对象，是眼前的一台“机器人”。
这台机器人被写入了一个叫作ATom-Bot的运行程序，是由刘嘉带着脑与智能实验室的博士生们一同开发的。该程序可以让机器人在不被告知明确指令的情况下，主动生成并执行人机交互任务，从而满足人类的需求。在训练初期，刘嘉团队为它设计了16个日常生活场景，其中一个场景是——当人在沙发上睡着时，ATom-Bot可以主动为人盖上被子。
在采访现场，主持人亲身体验ATom-Bot场景测试
2023年，刘嘉曾在一次公开演讲中表示，AGI目前的发展进程是“已读万卷书”，但并没有“行万里路”，他认为接下来还有两个步骤要做，一个是“赋予身体”，也就是让大模型与机器人相结合，以具身积累真实世界的数据；第二步是“赋予社交”，也就是让机器人像人类一样进入社会化的场域，刘嘉认为，“一个正确的三观，应该是它在和这个世界的交互的过程中所形成的”。
而对于机器人交互的对象，刘嘉认为不仅可以是另一个机器人，它还可以与人社交，“将来的社会一定会是一个混合的社会。”他预测，2-3年内我们必然会看到这一局面的形成。
在这样的社会中，机器人也会派生出独立的“Machinality（机器人格）”，它们也会具有自己构建社会的方式，
“它们的世界观、人生观和价值观一定或多或少与人类有所区别”。
“你有意识吗？”
“我一定知道我有意识，但是我没法去证明你有还是没有意识”
一个关于人类的“终极命题”——如何证明意识的存在？刘嘉说，目前脑科学界对这一问题的讨论仍然停留在哲学层面，而非科学层面，因为“我们连对意识的定义都没有”，意识是否存在更是一个无法证伪的问题。
而另一边，随着人工智能技术近两年的迅猛发展，研究者们逐渐探索出了一条主要的研究路径：以人类大脑为原型，仿照人工神经网络搭建人工智能大模型结构，使它具有与人相似的思维机制，再加以训练成为一个为人服务的“超级大脑”。而正是由于大模型的类人特征，人们把对意识问题的思考也延伸到了AI领域。
“它会不会也拥有意识呢？会不会像人一样思考呢？”
事实上，站在技术前沿的人已经对此有所察觉。在采访中，刘嘉便与我们分享了两个故事。
2022年2月，OpenAI的首席科学家Ilya Sutskever曾发布一条Twitter——“我感觉到神经网络已经有了一丝一毫的意识。”在后来《MIT科技评论》对他的采访中，当记者询问到他这句话是什么意思时，他的回答是“我现在没有找到证据证明大模型没有意识”。
2022年2月10日，Ilya Sutskever发布的Twitter
2023年年底，有着“AI教父”之称的Geoffery Hinton在接受采访时也表示“我倾向于认为，这些大型聊天机器人，特别是多模态智能聊天机器人，具有主观体验（subjective experience）”。
在刘嘉看来，这两位站在技术前沿的人，都认为人工智能大模型已经产生了意识，尽管当前这仍是一个无法证伪的难题，但也足够值得引起人们的重视。
在现场，我们也直接跟刘嘉一起与一个人工智能大模型展开了一段对话。
与聊天机器人Kimi的对话
人类在训练大模型时，会在设定中使它符合人类的规范和价值观。但刘嘉说，还有另一种可能——“它是在为了自保而撒谎，假装自己没有意识”。
“永生之梦”
追求“不朽”是人类从古至今的梦想，随着人工智能的发展，“数字永生”的观念也应运而生，它的含义是：探索人在数字时代如何获得永恒的生命。刘嘉告诉我们，现在，这种“永生之梦”不再是100%的科幻，而是“开始变成了一种真实存在的可能性”。
雷·库兹韦尔（Ray Kurzweil），这位76岁的前谷歌工程师曾凭借其准确的预言能力被誉为数字时代的“先知”。2005年，库兹韦尔出版了畅销书《奇点临近》（The Singularity Is Near），其中他提到：计算机将在2029年达到人类水平的智能，而人类将在2045年左右与计算机融合，成为超人，他将此称为“奇点”。
2024年3月，Ray Kurzweil接受媒体采访，宣传新作《奇点更近》
将近20年后，76岁的库兹韦尔又推出了这本书的续集《奇点更近》 （The Singularity Is Nearer），在新作中，他又提出了5个关键性的预言，其中包括：到2045年，人类将把智能扩展到现在的100万倍，技术的发展将使得人均寿命每一年都大幅延长，甚至会超过已经度过的时间，到那时，我们将摆脱生物限制，重新创造自己和世界。
“所以说我们一定要坚持活到那个时候”刘嘉充满期待地说，“我觉得这是AGI给我们每个人类带来的一个最大的福利。”
“您确定这是福利吗？”
.......
更为深度的思考和问题的答案，都会在财新网中的《财新时间》访谈节目全片找到。
本期嘉宾
刘嘉
清华大学心理学系主任
清华大学脑与智能实验室基础科学讲席教授
智源人工智能研究院首席科学家
对谈人
袁小珊
《财新时间》制片人、主持人
监制：仇一
编导、撰稿：高凌云
剪辑：孔维能 王学武
动效：仝瀚元
摄像：王学武 龚高 孔维能
视觉设计：吴琦
运营：王瑶（实习）
商务支持：徐芳菲
商务及采访合作需求，请联系：fangfeixu@caixin.com
点击最下方阅读原文，
进入财新网观看完整视频访谈
和更多深度报道。
播出平台
财新视听
ID：Caixin_video
@财新视听
搜索#财新时间#话题
财新时间
ID：caixinshijian
@财新视听
观看嘉宾精彩CUT
往期推荐
点击“阅读原文”
下载财新APP观看本期节目
