世界与中国 | 从认知层面解读新兴技术商业化
学术
2024-11-05 12:53
北京
当今时代，人工智能等新兴技术的商业化已成为推动经济发展的重要引擎。人工智能、大数据、物联网等技术的飞速发展，不仅改变了人们的生活方式，也重塑了商业运作模式。此前，学术界已经提出了“注意力经济”这一概念，它旨在解析企业如何在信息过载的环境中吸引和维持消费者的注意力，从而助力成功。新兴技术的商业化过程不仅关乎技术本身的应用，更关乎对消费者行为、市场趋势和商业模式的深刻理解与洞察。英国伦敦国王学院数字人文系讲师莫滕·汉森（Morten Hansen）近期于期刊《大数据与社会》（Big Data & Society）发表研究成果。该研究从注意力经济谈起，提出了“认知锁定”（cog-nitive lock-ins）概念，分析了大语言模型如何使技术和用户之间形成计算依赖关系，探讨了这种技术依赖的意涵，并对新兴技术的商业模式进行重新解读。荷兰拉德堡德大学行为科学研究所助理教授保罗·亨德里克斯·维特亨（Paul Hendriks Vettehen）表示，在过去的几十年里，信息技术的指数级发展以及随之而来的爆炸式信息量，影响了人们日常生活的方方面面。如今，许多人的屏幕使用时间甚至比睡眠时间更长。在当前社会背景下，注意力成为一种被交易的主要稀缺资源，注意力经济随之出现。联合国的一份政策报告显示，面对注意力的稀缺性，新兴技术越来越多地瞄准吸引个人注意力，并通过系统收集和分析个人数据来获取利润，这已成为一种有利可图的商业模式。数字平台开始收集大量有关其用户的数据，以出售给外部用户（特别是广告商）来获得收益。捕捉注意力和数据并进行货币化的商业模式，大多是在用户不知情的情况下构筑的。人们经常将注意力经济与一些不易约束的技术扩张现象联系在一起，例如，由生成式人工智能驱动的新兴平台和产品。然而，汉森认为，虽然互联网在很大程度上利用注意力经济的商业模式进行融资，但不能认定方兴未艾的生成式人工智能技术也会以同样的方式实现商业化。汉森表示，大数据通常被视为一种可调动的资源，要义在于吸引人们的注意力并重新定向到平台广告中。这种理念促成了一种机制的形成，即利用注意力换取嵌入平台设计中的奖励，平台继而借助数据分析进行个性化展示。这一过程是在行为科学的指导下完成的，并由大型科技公司进行实践。然而，仅从这种角度看待新兴生成式人工智能的产品和服务，可能会忽视人与机器关系的货币化以及行业竞争动态方面正在发生的重要变化。用户在持续变化的技术商业环境中会提出新的需求，需要以更新、更深刻的理解作为应对，超越注意力范畴，将目光转向认知层面。在上述商业模式下，消费者只有接受大数据和机器学习的功能能力（functional capacities）的实现，才能利用这些能力。作为一种认知，它虽不能被用户所拥有，但可以通过持续消费被解锁和召回。这种认知的价值并非来自调动消费者注意力的能力，而是来自复制认知过程中发挥的必要作用。因此，生成式人工智能等技术对人的认知以及“我们是谁”“我们能做什么”不断地提出要求。而大型科技公司正是通过这种“认知锁定”，超越了注意力经济的行为主义基础。从概念上看，注意力指的是对某些特殊性的集中感知。也就是说，人们能够注意到受关注的事物，而注意不到那些不受关注的事物。在汉森看来，“注意力在哪里”描述了个体感官对某个事物的一般定向，而没有具体说明个人和其注意力所聚焦的事物之间关系的性质。由于可以采用抓取点击、点赞等行为指标数据的方式帮助进行解释，注意力在数字经济领域是一个非常有用的概念。该领域的研究人员基于行为主义心理学的方法，分析环境因素如何塑造人的行为。在此视角下，访问网站可被理解为以特定奖励机制作为条件的一种过程，这也启示技术人员设计出有吸引力的算法，而这些算法往往“绕过认知”。然而，人们思考方式和思考内容的特殊性属于认知领域，人在理解世界时所激活的心理机制与过程很难被“抓取”到。数字经济学者一直在努力通过行为主义心理学来研究商业环境，而较少关注支撑人性背后的其他观点。例如，用户可以调动自身的元认知来推断平台所有者吸引注意力的意图，并通过相应的行为调整予以反抗。维特亨表示，实际上，用户也会对试图吸引他们眼球的内容和技术进行抵制。在注意力被不断争夺的过程中，用户对某些内容提供商和广告商侵占个体自由时间的企图产生反感，并采取具体措施，包括安装广告拦截器、拒绝个性化推荐内容和广告、进行为期一周的“数字排毒”等。人们还可能因为感觉到信息过载或其他消极原因而回避新闻，减少在无关或误导性媒体内容上浪费时间。在汉森看来，人工智能某种程度上更像是一种认知手段，它捕获并分配认知和感知任务给机器，机器再以不同的方式执行这些任务，这对生产方式产生了潜在的革命性影响。如同电力在工业生产中必不可少那样，商业主体也试图将人工智能定位为生成创意不可或缺的工具。因此，汉森建议，要充分考虑影响技术发展的反竞争行为。这将延续社会学家、人类学家的学术传统，揭示人们的认知如何超越内部的心理计算，进入与商品和技术之间的交互过程。这种认知过程可以被重新配置，使用户随着时间推移变得愈发依赖他们使用的技术。而“认知锁定”概念，将焦点从“人工智能能够在没有人的情况下进行计算”转换到“人们为何以及如何离不开人工智能”上来。目前看来，“认知锁定”可被理解为大型科技公司采取的一种反竞争行为，目的是让消费者更难流失至竞争公司。在注意力经济视域下，这意味着通过确保用户关注自己而非竞争对手的广告来阻止平台之间的竞争。而“认知锁定”包括开发互补产品的封闭生态系统、提供个性化服务以及实现令人上瘾的功能设计。对“认知锁定”的研究表明，与平台的重复互动可以减少用户的认知负荷，从而提升平台使用的便利性和效率。换言之，人们一直使用一个平台，不是因为它比其他选择更好，而是因为熟悉它。“认知锁定”指向从相对便利性到与自我相关的实质性依赖的转变。汉森解释说，这些新兴的技术与商业组合的目标不是锁定用户的注意力（即他们关注什么和如何关注），而是锁定他们的认知（即他们能思考什么和如何思考）。“认知锁定”主要通过“黑箱化”（black-boxing）等方式予以实现。黑箱化是对信息或操作过程的隐藏，如同透过一面单面镜，平台可以非常详细地观察用户行为，而用户既无法看到平台本身的内部运作，也无法看到基于其数据训练的人工智能。黑箱应该被看作强化人与机器之间不对称关系的一种条件，这意味着算法对用户和读取的各种文本了解得越多，就越能根据用户的需求自动执行计算模式和流程。历史上不乏技术给人类认知带来不利影响的警告，认为互联网可以对人的思考能力构成阻碍。汉森表示，比起搜索引擎，大语言模型能够更有效地满足用户的需求，它产生的“认知锁定”容易使人们放弃独立学习掌握一些技能的机会。当商业人工智能的开发方式使用户倾向于强化认知依赖时，问题就会加剧。此时，人们应该停下来进行思考。因为面对一种商业模式的兴起，科技公司的关键优势不在于可以控制用户与广告商之间的接触，而在于让用户持续受到“认知锁定”的影响，用户可能难以控制对这些人工智能技术的依赖程度。这种依赖也会加剧社会现有的数字不平等问题，若不加以限制，可能会危害用户在使用互联网时的个人关系和经济关系，乃至危及人类自身。维特亨也从认知层面探讨了新兴技术普及带来的隐忧。比如，人们越来越多地将认知任务外包给技术产品，长此以往，执行某些任务（如导航到达目的地）的心理能力可能会逐步退化。另一种担忧是，在辅助决策的特定技术中使用算法，会导致对特定决策结果的偏向。这是一种对人类自主性和人类在日益被算法所凌越后的“经济价值”的担忧。尽管人们在许多情况下可能会受益于技术带来的效率提升，但当前的社会讨论和学术研究表明，在执行认知任务方面人类越来越依赖于技术，绝非没有风险。
