读书笔记 | Nexus(联接)——AI 的威胁篇

文摘   2024-11-22 08:30   澳大利亚  

AI 给人类社会带来的好处很多,但威胁也不少。主要集中在两个方面:

  • 鉴于 AI 集中处理信息流的方式,其更利于极权的发展,因为信息在极权中倾向于流入中央枢纽。

  • AI 代替人类做决定,可能会带来意想不到的结果。比如程序员给算法提出提高社交平台的热度,算法发现“仇恨言论”能够提高点击量,则疯狂在平台上推送“仇恨言论”来提高平台热度。尽管程序员本意并不是散播“仇恨言论”,但最终的结果却是。

由于 AI 的影响还不可预知,作者也只能提出一些原则上的对策。

1. 仁爱
当计算机网络收集我的信息时,这些信息应该用来帮助我,而不是操纵我。这一原则已经被许多传统制度(如医疗保健)成功地奉为圭臬。比如我们向大夫提供信息来医治自身的疾病。

2. 权力下放
民主社会绝不应该允许所有信息集中在一个地方,无论这个中心是政府还是企业。不同机构:政府、法院、媒体、学术界、私营企业、非政府组织等需要相互制衡。因为每个机构都有可能犯错和腐败,因此应该受到其他机构的制约。为了互相监督,这些机构必须有独立的信息获取渠道。

3. 默契
如果民主国家加强对个人的监督,他们也必须同时加强对政府和企业的监督。如果所有信息都单向流动,即自下而上,那就糟糕了,因为民主需要平衡。

4. 必须给改变和接受留有余地
人类生活是在努力改善自我和接受自我之间取得平衡的过程。历史上即充满了剥夺人类改变能力的僵化种姓制度,但也充满了试图像粘土一样塑造人类的独裁者。在这两个极端之间找到中间道路是一项永无止境的任务。

5. 提前为自动化做好准备
自动化将破坏就业市场的稳定,由此产生的压力可能会破坏民主。我们最大的问题不是绝对缺乏工作,而是再培训和适应不断变化的就业市场。如果三年的高失业率可以让希特勒上台,那么就业市场永无止境的动荡会对民主产生什么影响?因此,我们需要提前做好准备。特别是,我们需要让年轻一代掌握与 2050 年就业市场相关的技能。

6. 获得解释权
当算法变得越来越深不可测时,人们越来越需要确立一项新的人权:获得解释的权利。欧盟的《通用数据保护条例》于 2018 年生效,该条例规定,如果算法对人类做出决定(例如拒绝向我们提供信贷),那么该人类有权获得对该决定的解释,并在某些人类权威面前对该决定提出质疑。

7. 禁止机器人冒充人类
如果操纵机器人和难以捉摸的算法主导了公众对话,这可能会导致民主辩论在我们最需要的时候崩溃。所以政府应该像采取果断行动保护对货币的信任那样,采取同样果断的措施保护对人类的信任。

法律不仅应禁止对特定真人进行深度伪造,还应禁止任何非人类代理冒充人类的企图。如果有人抱怨这种严格的措施侵犯了言论自由,他们应该被提醒,机器人没有言论自由。这并不意味着民主国家必须禁止所有机器人、算法和人工智能参与任何讨论。数字代理可以加入许多对话,只要他们不假装是人类。例如,人工智能医生可以非常有帮助。

8. 全球合作
全球合作之所以困难重重,很大一部分原因在于错误的观念,认为全球合作需要废除所有文化、社会和政治差异。其实全球合作意味着两件更为温和的事情:首先,遵守一些全球规则。这些规则并不否认每个国家的独特性以及人民应该对自己国家的忠诚,它们只是规范国家之间的关系。世界杯就是一个很好的例子。

全球主义的第二个原则是有时有必要将全人类的长期利益置于少数人的短期利益之上。

购买原书

🖱请点击下方阅读原文🖱


相关阅读:

1. 读书笔记 | 领导力(Leadership)综述篇

2. 读书笔记 | 领导力(Leadership)之前三位领袖篇

3. 读书笔记 | 领导力(Leadership)之后三位领袖篇

德扑饭醉帮
传播价值观、知识、方法学和娱乐精神。 报告原文请点文章末尾的➡️:阅读原文
 最新文章