最近看了本名为《Deep utopia》的书，该书的内容虽然没有多少深度，但其中话题却是很值得讨论的。该书的作者 Nick Bostrom是英国哲学家，曾写作《超级智能-路线图、危险性与应对策略》，该书是他24年的新作。书的内容延续超级智能中的话题，探讨如果以AGI为代表的技术进步能解决当前经济面临的短缺问题后，人类该怎么生活在这样一个物资无限丰腴的乌托邦中？
《超级智能》一书讨论的是AGI能不能为人所用，而《Deep utopia》则是问娜拉走后的问题，即如果AGI的对齐问题被完全解决，那时会发生什么？生活在人人各取所需的世界中，并不意味着过上了幸福而有意义的生活。这是历史一次次通过贵族，富豪的悲剧证明给我们的。躺平不用上班，这是很多打工狗的梦想，然而正如《围城》中说的：出去的人想进来，进来的人想出去。当AI技术发展到可以近乎0成本完成所有具有经济价值工作的程度。人类还是需要工作的，这里便涉及到最近读的第二本《The Importance of Being Educable》中的内容，该书从可教育性论述人类相比其他动物的独特性，书中给出了可教育性的7个特征（从示例中学习, 泛化, 长上下文, 组合, 心智之眼, 抽象的命名, 教学）。而之所以要将这两本书合起来讨论，是由于在一个AI能够取代任何岗位的时代，无论是个人还是社会层面，最需要关注的是如何保持个人/群体的可教育性。
尽管当下还没有达到AGI，但人类中的很大一部分似乎正在变得不具备可教育性。先不说越发严重的饭圈文化，越来越极端化的舆论环境。就看当下的很多事务性的工作，参与其中的人如同一个工具，他们不需要能执行给定的指令，而不需要思考这么做背后的原因，更不会主动去尝试进行改进。一旦熟悉了这样的工作，就会由于失去尝试的机会，逐渐失去可教育性。在穿越小时《临高启明》中，那些能够问出为什么的明朝人，会被穿越的现代人当成宝，与之相对的是古代人对自己的持有的哪怕一点点技术都不肯传下去。当下技术越发有了封建时代的种种特征，可参考《技术封建主义》一书，而其中一种表现就是需要让技术的人能够以傻话式的方式进行操作，不必思考也不必trouble shooting。长此以往，就会让习惯了傻瓜化的人，不具备自主解决问题的能力，不会去问为什么，而只是照章办事。
回到若是所有的任务，都能由AI完成的乌托邦。在这样的世界中，保持人类的可教育性，对于人类的继续存活是极为重要的，甚至可以说，如果不能解决如何让人类能够继续通过学习进步的能力，那AGI的实现将注定意味着人类文明的慢性自杀。对此，科幻小说中不乏相关预测。例如刘慈欣的《赡养上帝》中，技术先进到能够穿越星际播种地球文明的超级文明由于失去了维护机器的能力，然而睡着时间流逝，即便超级文明的技术也会逐渐累积错误直到无法正常运行，最终这些超级文明的结局是被自己创造的文明当成老废物。不论多么先进多么智能化，任何机器的持续运行时间久了都会出现故障，如果由于使用者缺乏学习失去学习能力，对其只是能够操作却不理解原理，不具备持续改进的能力，那就注定是在集体层面的等死。而在个体的角度，不具备学习能力意味着失去自身能动性，成为机器的俘虏（被智能机器驯化）
在AGI之前，促使人类保有学习能力的是学习所带来的经济优势。这背后所依赖的是相比于资本，人力资源有着不可替代的价值，因此反人性的学习（例如死记硬背式的考证）能够带来经济收益，从而驱动人们将学习看成是对人力资本的长期投资。而一旦无法收到回报，社会上就会出现诸如读书无用论，造导弹的不如卖茶叶蛋的等说法。
然而如果AGI实现（即使只是近似AGI的技术），未来1%所能创造的生产力将远远超过剩下99%的人的总和。很多人将会意识到自身或者自己的子女注定无法成为那1%。既然如此为何不找个稳定的出路，或者干脆躺平。在一个大部分人的学习能力比不上机器，因此资本可以用技术替代人力的时候，如何为维持可学习性提供激励将会成为亟待解决的问题。
方案一是让学习变得不那么反人性，即所谓的游戏化学习。然而这样一种努力面临的问题是可以入门，但难以对较深较难的知识进行学习。在中小学中会发现诸多游戏化学习的尝试，然而到了大学以至于博士阶段，则难以通过游戏让你学会黎曼几何。
方案二是通过让学习具有社交属性，通过人与人之间的社交趋同，焦虑心态或者人与人的攀比心态去刺激人们不断学习，这也在当下诸如得到APP这样的工具中有很多应用。然而该方法的问题是如何刺激人们去探索个性化的问题，对于少有人走的路上独行者，仅仅是好奇心的驱动，以及社会舆论给与的声明是否足够激励人们去创造。
方案三是给与经济激励，例如奖励奢侈品给努力学习的人。即便到了物资无限充裕时，仍然可以人为的制造稀缺性，例如限量的手工制品，然而这本质上和第二类等同。即奢侈品给所有者带来的优势在于其社交价值，所谓的（低调或高调）炫耀。
针对可学习性这个话题，曾于友人有过交流，关键的差异在于那1%是不是固定的。未来如果创造远超当下想象价值的1%始终来自某个小群体，且在这个小群体内部自我繁衍，那么最终的结果是1个人的创造力超过了其它所有人，最终导致一个脆弱的，一个错误就会毁灭的文明。更好的办法是承认是少数人创造力绝大多数的科技成果，然而这少数人的集合是在不断动态变化的，保持可学习性就是要让每个人不论在什么年龄都能有机会去创造。虽然可学习性的基础取决于数学，阅读等在少年时就打下基础的能力。然而无论在社会还是个人层面保持可学习性，意味不论年龄大小，不带着先入之见而是去尝试学习自己觉得困难的领域，去主动思考如何做背后的为何这么做，同时将学到的思考框架在其它领域加以应用。
之前所有的讨论，都假设AGI即将实现，然而在此之前，当下已经是一个不会饿死人的好时代了，即便如三和大神，只要你想干活，多半不会饿死。如何在这样一个前人梦想的乌托邦中生活，是活着宣传及广告打造的幻影中，还是主动的去面对自身的未知，笔者在写作时刻意回避诸多社会问题，一方面是为了不引人注意，二也是希望能用不涉及当下，不蹭热点（例如类比《乡下人的悲歌》一书），不带情绪的方式来给读者思考留下空间。
