【认知技术】新兴技术对认知战的影响几何？请看印度专家的杰作！
文摘
科技
2024-09-20 20:01
北京
2024年8月，印度退休中将RS·潘瓦尔（RS Panwar）在印度联合服务协会《不定期论文》期刊发表文章《技术赋能的认知行动对混合战争的影响》（Impact of Technology Enabled Cognitive Operationsin Hybrid Warfare），文章指出，虚假信息和生成式人工智能的融合对真相的完整性和社会认知的稳定性构成严重威胁。
文章提到，颠覆性的黑色宣传（Black Propaganda）、神经武器、药物、生物、毒素、设备和数据，可能会攻击战斗人员和平民。此外，文章还提到了性能增强和武器化神经技术的方法，包括使用兴奋剂药物、通过植入电极方法或仅使用电信号实现脑机接口、投入使用定向武器等。最后，文章强调了与认知战相关的法律和伦理问题，例如新闻自由、针对国内受众的心理战、对抗敌对人群的认知战等。
![]()
作者：RS·潘瓦尔（RS Panwar），退休中将，毕业于国防学院，担任过重要任务，包括GOC 101区、电信工程军事学院司令、Cdr 81分区和Cdr电子战旅；目前的工作重点是研究与印度武装部队相关的技术驱动的未来战争1.21世纪战场上的认知战：
①认知行动：混合战争中的有力武器
②认知行动在灰色地带更有效：灰色地带战争包括国家和非国家行为者在和平与全面冲突之间的作战空间中，为实现政治军事目标而采用的所有手段
③军事背景下的认知行动：心理行动、公共信息、军事欺骗、军事外交、军民行动
2.网络空间中的认知行动：
①网络影响力行动（CIO）：通过社交媒体开展的虚假信息活动或叙事战争
②网络影响力行动的三个维度：TA的精确度、对TA的影响类型、冲突强度
③网络影响力行动的技术和策略：社会认知黑客；心理黑客；黑色宣传；破解、篡改、发布
④网络影响力行动与进攻性网络行动：网络影响力行动——需要社会科学学科专业知识和网络专业知识、进攻性网络行动——需要网络专业知识
⑤俄乌冲突中的认知行动：双方通过广播和社交媒体积极开展虚假宣传活动
①人工智能技术：深度伪造、人工智能机器人、微观目标和个性化、生成式人工智能和大语言模型②人工智能对认知行动的影响：破坏政治稳定、干预选举进程、造成经济动荡、进行军事欺骗和误导、造成战略误判、扭曲对现实的认知②信息武器利用了大脑的局限性：人类情感会扭曲推理，干扰平衡决策③认知战和人类领域：北约正把“认知领域”作为第六作战域，甚至一些军事战略家把第六作战域定义为“人类领域”④认知战中神经武器的使用：药物、病菌、毒素、设备和数据5.认知战——法律和伦理问题：新闻自由、针对国内受众的心理战、对抗敌对人群的认知战、使用神经武器、国际法③部队需要在指导神经科学/技术研究方面发挥领导作用7.评述：本篇文章在一定程度上代表了印度目前对待认知战的态度和认识水平。其中，提出的一条建议包括“在极端情况下，可能涉及到煽动不满的民众独立，颠覆政府”，值得警惕！加强新兴技术及其对认知战的影响和运用研究，找出合适的应对策略是一项长期的研究课题。
【认知攻防】认知战和网络安全的内在联系
【认知韧性】建立认知战韧性的10个研究方向
21世纪战场上的认知战
进入21世纪，战争性质正在发生根本性转变，战场从物理域扩展到信息和认知域。
1.1 认知行动：混合战争中的有力武器
战争是集一个国家全部力量，通过外交、信息、军事和经济等各种形式进行。军事代表动能行为，而外交、信息和经济领域是非动能行为。由于非动能行为的有效性增加，军事战略家们创造了“混合战争”新术语，即战争中动能和非动能手段的协同使用。军事在两个非动能要素中也发挥作用，即军事信息作战和军事外交。在非动能要素中，认知战是一种非常有效的作战手段，另外两个要素是网络战和电子战。
![]()
1.2 认知行动在灰色地带更有效
混合战争跨越了整个冲突域。灰色地带战争包括国家和非国家行为者在和平与全面冲突之间的作战空间中，为实现政治军事目标而采用的所有手段。非动能行动，尤其是认知行动，在灰色地带有更大的相关性，而动能行动在全面冲突中更为有效。这两种战争形式在冲突的各个阶段都能发挥作用。一个国家可以利用其掌握的多个机构独立开展针对敌国的认知行动，也可以将其作为支持军事目标的MDO的组成部分。
1.3 军事背景下的认知行动
军事背景下的认知行动包括几种概念上不同的能力：
![]()
网络空间中的认知行动
2.1 网络影响力行动（CIO）
网络影响力行动（Cyber Influence Operations，CIO）通常被称为通过社交媒体开展的虚假信息活动或叙事战争。CIO是网络行动和认知行动的复杂结合。但并非所有的CIO都需要使用专业的网络知识。有些CIO只是将网络空间作为一种媒介，例如，通过社交媒体平台传播偏好的叙事，只需要具备生成叙事艺术方面的专业知识。前者被称为 “网络社会影响力行动”（Cyber-enabled Social Influence Operations），后者被称为 “网络技术影响力行动”（Cyber-enabled Technical Influence Operations）。
![]()
2.2 网络影响力行动的三个维度
- 第一个维度：与选择目标受众的精确度相关，按照精确度递增的顺序，依次为社会大众、社会人口统计受众和心理人口统计受众；
- 第二个维度：影响策略预期对目标受众产生的影响类型，即积极的、消极的；
- 第三个维度：表示行动在各种冲突中的强度，即和平、低强度冲突和全面冲突。
![]()
2.3 网络影响力行动的技术和策略
网络影响力行动涉及许多复杂的技术和策略，如心理学、哲学、语言学、人类学、社会学等。网络影响力行动的技术和策略主要包括:- 社会认知黑客（Social-Cognitive Hacking）
利用群体的认知弱点来影响行为。例如，政客们在选举前遭受诽谤而没有时间反驳；通过散布谣言煽动宗教或种族群体之间的仇恨等。
心理黑客（Psychographic Hacking）
根据个人心理特征对其进行定位。例如黑广告，即只对特定个人可见的广告，旨在基于受众的政治倾向施加影响。
黑色宣传（Black Propaganda）
在 “白色宣传”中，信息来源是众所周知的，宣传是公开进行的，传播的信息也相当准确；相比之下，“黑色宣传 ”的目的是通过伪造信息和混淆信息来源来欺骗目标受众；“灰色宣传 ”介于这两个极端之间。网络空间为使用 “虚假信息和虚假身份”等技术实施黑色宣传策略提供了理想的媒介。
注：模因（Memes）是文化资讯传承时的单位。由理查·道金斯于1976年在《The Selfish Gene（自私的基因）》一书中所创造，我国学者何自然和何雪林于2003 年将memes翻译为“模因”。模因是一种基于达尔文进化论的观点解释文化进化规律的新理论，是指文化领域内人与人之间相互模仿、散播开来的思想或主意，并一代一代地相传下来。
2.4 网络影响力行动与进攻性网络行动
网络影响力行动与进攻性网络行动在性质上有很大不同。网络影响力行动需要社会科学学科专业知识，其中一些需要网络专业知识。进攻性网络行动需要复杂的网络专业知识，需要由信息和通信技术支撑。
2.5 俄乌冲突中的认知行动
在俄乌冲突中，双方都在通过广播和社交媒体积极开展虚假宣传活动。几乎所有西方媒体的中心主题都在将普京总统描绘成战犯，并将这场冲突描述为俄罗斯的野蛮与无端侵略。俄罗斯及其同情俄罗斯的媒体称这场冲突是由北约扩张挑起的特殊军事行动。
人工智能对认知行动的影响
在过去十年中，计算机、大数据、深度学习、神经网络技术的进步和快速发展使得人工智能能力得到显著提高。恶意行为者越来越多地利用人工智能系统准确锁定目标受众，塑造全球舆论，并传播社会不和谐声音。人工智能增强的虚假信息行动加剧了政治极化，侵蚀公民对社会机构的信任，模糊了真理和谎言之间的界限。3.1 人工智能技术
机器学习技术可生成高度逼真的假图像、音频和视频，称为“Deepfakes”，已被用于为机器人帐户创建逼真的人工面孔，生成虚假内容。如果从战略上把握时机，可破坏治理和地缘政治稳定。人工智能机器人利用自然语言处理和机器学习算法生成难以识别的虚假信息，通过在社交媒体平台上模仿人类行为，迅速传播虚假信息，创造一种特定叙事获得广泛支持的假象。- 微观目标和个性化（Microtargeting and Personalisation）
人工智能可分析大量用户数据，识别特定人口统计数据或易被操纵的个人。通过定制针对这些群体的虚假信息活动，人工智能可提高传播虚假信息和影响舆论的效率。生成式人工智能可根据从海量数据集中学习到的模式和信息，自主产生新内容，如文本、图像和视频。LLMs是生成式人工智能的一个子集，专注于处理和生成类似人类的文本，这使它们在制作供机器人传播的虚假信息方面非常有价值。3.2 人工智能对认知行动的影响
人工智能，尤其是生成式人工智能，在国家和国际层面都会带来若干安全风险影响，包括:利用现有社会分歧，促进政治极化，并放大敌对国家的异议，破坏政治机构的稳定，散播对政府的不信任，并创造条件导致动乱或政权更迭。通过传播虚假叙述、影响公众舆论和潜在操纵投票行为干扰敌对国家的选举进程。通过传播关于一国金融健康、经济政策或贸易关系的虚假信息，破坏经济稳定，导致市场波动、投资者信心丧失和整体经济动荡。通过创造虚构的场景进行军事欺骗。虚假的情报报告、人工智能生成的深度假视频或被操纵的卫星图像可被传播，以误导对手的军事意图和部署。干扰对手之间军事通信的误传攻击会增加战略武器系统的失误率。生成式人工智能通过模糊真实和虚假内容之间界限，使其更难向对手发出善意信号，进一步加剧安全困境。虚假信息运动和生成式人工智能相结合，对真相的完整性和社会观念的稳定性构成了巨大威胁。虚假信息的泛滥侵蚀了人们对信息来源的信任，扭曲了现实，对国家治理和安全产生严重的不利影响。利用神经科学/技术进行认知行动
北约进行认知战的既定目标是通过使用神经武器“改变人们的想法，且改变他们的思考和行动方式”。下图描述了这两个方面。
![]()
图：使用神经武器改变人们的想法、思考和行动方式
4.1 攻击面覆盖整个人群
根据国际人道主义法，常规战争中人身攻击仅限于战斗人员。认知战概念设想以战斗人员和平民为目标，攻击面扩大到整个敌方人口。虽然一些攻击媒介（如信息和影响力行动）本质上是良性的，但其他攻击媒介（如颠覆性的黑色宣传和神经武器）可能会对包括平民在内的受害者造成身体伤害，从而引发道德问题。4.2 信息武器利用了大脑的局限性
信息武器利用人类大脑弱点达到预期效果。例如，人类大脑处理信息能力有限，试图走捷径得出结论，导致相信重复的信息。此外，人类情感会扭曲推理，干扰平衡决策。所有这些局限性都被认知行动中使用的信息武器所利用。![]()
4.3 认知战和人类领域
北约正把“认知领域”作为第六作战域。甚至一些军事战略家把第六作战域定义为“人类领域”（Human Domain）。这种观点基于这样一种论点，即每个人都生活在一个环境中，并在一个以一系列信仰和价值观为特征的社会中维持各种关系。正是这些关系、信念和价值观可通过进行认知行动而得到有效攻击。4.4 认知战中神经武器的使用
由神经科技提供支持的一系列功能可用五个术语来概括:药物、病菌、毒素、设备和数据。这些能力可用来增强己方战斗人员的性能，创造出超级士兵，也可用来削弱敌方战斗人员战斗潜力，甚至用来瞄准敌方平民。![]()
为提高士兵表现，使用兴奋剂等药物，以增强注意力、记忆力和减轻疲劳；唤醒术来诱导士兵在长期作战中保持清醒；益智药来提高认知能力。设备则是利用脑电图和脑成像技术从大脑获得神经反馈，并利用经颅神经调控技术提高大脑性能。提高性能的另一个方面涉及脑机接口，可以通过插入电极的侵入式方法，也可以仅使用电信号。![]()
使用镇静剂、情绪改变剂和致幻剂等药物削弱对手作战能力；在装置方面，定向能武器已投入使用，例如，在哈瓦那综合症案件中，美、加驻古巴外交官被怀疑是使用微波或超声波武器攻击的目标。经颅调节装置甚至纳米神经微粒可用于靶向特定的神经元组。病菌和毒素是指使用沙林毒气和其他神经毒剂等有毒物质的生物战。数据指的是对个人进行心理特征分析，然后用信息或神经武器攻击个人弱点。认知战：法律和伦理问题
为了国家安全，国家是否应对广播媒体实施某种程度的控制？虚假信息应该仅用真实叙述来反击，还是需要采取更具进攻性的立场？使用神经科学/技术提高性能以创造超级士兵，将敌方士兵和平民作为目标，会引发更多的伦理难题。虽然已经存在禁止使用化学和生物武器的国际公约，但对于定向能和经颅调制的神经武器使用并没有类似的公约。国际人道主义法在武装冲突中保护平民，但在网络攻击的背景下，近二十年来全球一直在辩论以找出适用于网络空间的国际法，但毫无进展。达成认知战相关法律和伦理方面的国际共识是一个难题。印度的应对之道
印度有几项缺陷，包括宗教、种族、文化和种姓界限；主要对手都拥有强大的认知战能力来利用这些缺陷。因此，印度及其武装部队须发展必要的战略、原则、组织和专业知识，以威慑其对手，并在认知领域产生战略效果。在制定总体战略时，需解决上述伦理问题。印度需决定是否愿意对敌方平民实施认知行动。在极端情况下，这些行动可能涉及到煽动不满的民众独立，颠覆政府。印度在该领域现有能力基础很薄弱。印度的认知行动战略须采取整体政府方针。在印度境外开展认知行动中发挥作用的机构是国防部/武装部队、对外机构。内政部须集中精力制定有效的防御战略，以对抗对手的认知攻击。国防研究、发展组织和其他研究机构需发展神经武器。印度是一个多机构的国家，因此需要建立一个强有力的最高级别组织，以协调所有认知行动。这种组织的概念架构如下图所示。![]()
印度没有专门从事认知战的部队，不足以对抗对手国家。因此，建议:一是需大力加强对认知行动学科军事人员的结构化培训，包括开设研究生、研究生和博士生课程。为此，应建立一个三军英才中心。对军官而言，必须在多个任期的基础上设立认知行动专业，而对其他军衔而言，则应设立单独的行业；二是在试点基础上建立三军国防认知行动机构 （A tri-service Defence Cognitive Operations Agency） ，培养各种认知战学科的专门知识并实施作战。试点阶段结束后，必须根据需要组建认知作战单位和小组；三是部队需要在指导神经科学/技术研究方面发挥领导作用，包括建立一个大脑项目；四是部队需要在开展认知战中发挥关键作用，不仅要支持军事行动，还要在灰色地带开展行动。
评述
（一）文章在一定程度上代表了印度目前对待认知战的态度和认识水平，文章中提出的一些建议值得关注随着科技的飞速发展，互联网、人工智能、神经科技等新兴技术正在改变人们的生活方式，同时也对国家安全和国际秩序产生了深远影响。这些技术用于认知战，直接影响作战人员和其它受众的行为和决策，对国际自由秩序构成了严重威胁。本篇文章在一定程度上代表了印度目前对待认知战的态度和认识水平。其中，提出的一条建议包括“在极端情况下，可能涉及到煽动不满的民众独立，颠覆政府”，值得警惕！作者视巴基斯坦等邻国为对手国家，结合巴基斯坦国内局势，很有可能印度已经在采取某些认知战行动。因此，长期关注和研究印度的认知战动向很有必要！当前认知战的兴起标志着战争形态的深刻演变，将人类的认知能力置于前所未有的挑战之中。人类大脑已经成为认知战的作用对象，成为没有边界的战场，人类思想和意识已成为各种力量争夺的焦点。新兴技术助力认知战，将使认知战向更加复杂和多样化方向发展，进一步塑造全球安全格局和政治格局。新兴技术是一把双刃剑，既可带来安全威胁，也可用于防范威胁。加强新兴技术及其对认知战的影响和运用研究，找出合适的应对策略是一项长期的研究课题。
参考文献：
https://www.usiofindia.org/pdf/20240808140344.pdf（全文完）
Build a community
Share the future in cyberspace
