讲座分享
李晓宇：认知对抗框架与模型
全球信息技术飞速发展，传统政治对抗和军事冲突正逐渐走向为网络空间的“认知战场”，在这一背景下，认知对抗成为学界与业界共同的关注焦点。9月19日，中心邀请到西北工业大学网络空间安全学院副研究员李晓宇为大家到来“认知对抗框架与模型”的主题讲座，分享了研究团队在认知对抗领域的思考和成果。
Part.01
李晓宇老师的主要研究方向为认知安全、人工智能安全和网络安全，涉及自然语言处理、多媒体信息理解、复杂网络、信息传播、深度学习、对抗式机器学习等多个交叉学科领域。
Part.02
李晓宇通过一段北约制作的认知战宣传视频向大家引入了认知操控的概念，这支视频通过对比色调、诉诸反复的等宣传技巧试图影响观众对俄罗斯和中国等国家的看法。这个视频被认为是认知操纵的经典案例，反映出的认知安全问题值得学界和业界共同关注。
李晓宇通过传播学经典的5W1H模式向大家介绍什么是认知、认知安全和认知战，为什么对手会试图影响我们的认知，为什么我们会受到认知层面的影响，谁在影响我们的认知，以及我们是如何受到认知层的影响的。
与“safety”不同，认知安全（“security”）主要指防止蓄意伤害，而现代的“认知战”则是通过网络工具改变人的认知过程。北约在2021年正式提出认知战概念，并在2023提出“房屋模型”，从认知神经科学、认知行为科学和社会文化科学三个方面研究认知战。围绕认知战，同时出现了很多相关概念，如心理战、信息战、叙事战等。对手心理上的认知偏差进行认知攻击，以达到促进宣传、降级对手、驳回、扭曲等目的，李晓宇将人脑的漏洞类比到网络安全中，黑客们往往试图找到这些漏洞，然后利用它们进行攻击，错误信息、虚假信息以及恶意信息成为认知战的“弹药”。
当前的社会环境下，敌对国家、政治活动家、极端主义者、商业广告公关公司等都可能成为认知攻击的威胁主体，这些主体根据攻击对象与目的的不同提出不同的“杀伤链”模型。例如，美军针对虚假信息提出了自己的模型，包括“侦查”“创建”“播种”“复制”“放大”“控制”“影响”，环环相扣，体系完整。目前，已知的认知攻击过程模型有20多种，全球70个国家地区普遍使用认知操纵手段。此外、媒体偏见及西方国家在获取认知主导权上的争夺都是认知安全问题日益严峻的原因。
除了向大家介绍认知对抗目前的研究和应用现状，李晓宇还向大家阐述了认知安全领域，学术研究与业务技术之间的联系。研究人员通过Paper with code网站进行学术研究，可以通过语义分析，得到认知手段与算法任务之间的映射，从而打通业务域和学术域的鸿沟。李晓宇提到，在乌克兰冲突过程中，出现了新的认知对抗方面的工具，美军利用palantir AIP 这一大模型辅助认知规划，这一模型不止于文字生成，更能够打通各个系统，对任务进行结构化和战略化布局。
讲座尾声，李晓宇老师对技术在认知对抗领域的应用提出了几点畅想，例如，对新闻内容进行深度审查，识别潜在的矛盾细节；进一步开发认知对抗智能体，推动大模型在认知嵌入方向的智能化。大模型即将成为认知战的新战场，防御和攻击并不是制造矛和盾的问题，而是面对认知安全问题时如何保持“弹性”，在受到攻击后如何更快地复原。
李晓宇老师深度剖析认知操控与认知战，为我们揭开了认知安全领域的神秘面纱。同时，李晓宇老师更以前瞻性的眼光，展望了技术在认知战这一新兴领域中的巨大潜力与无限可能。面对技术的双刃剑，如何在享受其便利的同时，又能在汹涌的技术浪潮中守护好我们的认知安全，这无疑是每一个现代人都需要深思并付诸行动的重要课题。
