12月5日，黄殿中院士在2024第三届北外滩网络安全论坛上以“智能时代网络空间认知安全新观察”为主题作主旨演讲，从人工智能革命掀起认知安全新浪潮、人工智能技术塑造认知安全新范式、人工智能治理构建认知安全新秩序等三个方面，探讨了人工智能对网络认知安全的应用和挑战。
01历史上的四次认知革命
黄院士认为，人工智能技术发展是人类认知历史的第四次技术革命。5000年前，文字的发明使得抽象的思想得以具体化，人类认知因文字革命起步；500年前，印刷术降低了知识传播的成本，人类认知因传播革命进一步发展；50年来，互联网推动了认知的全球化、即时化和协作化，人类认知因信息革命进一步延伸；近5年来，人工智能以前所未有的学习、进化和创造能力，成为认识和改造世界的利器。
02人工智能革命掀起认知安全新浪潮
黄院士指出，人工智能革命掀起认知安全新浪潮，以生成式智能为代表的人工智能技术与应用发展，被视为推动新一轮科技革命发展的“风向标”,在国家战略层面、社会经济层面、科学发展层面占据举足轻重的地位，成为改变国际认知力量格局的关键因素。
03人工智能技术塑造认知安全新范式
黄院士提出，人工智能技术塑造认知安全新范式，生成式智能等新一代人工智能技术以其强大的推理能力和多模态生成能力，令信息伪造更逼真、信息操纵更拟人，信息茧房更严密，信息投递更高效，成为认知领域“大规模干扰性武器”，人工智能治理的重要性和紧迫性日益凸显。
04人工智能治理应对认知安全新思考
黄院士呼吁，人工智能治理应对认知安全新思考，要把安全作为底线要求，加快推动网络空间创新发展、安全发展、普惠发展，就是要强化创新应对，加快认知安全防护技术的突破；强化法治应对，建立信息披露与责任追溯机制；强化协同应对，打造具有国际竞争力的人工智能产业集群；强化良知应对，从社会治理角度完善认知安全治理，确保人类在与人工智能交互过程中的独立思考能力。
黄院士强调，虚假认知是我们共同的敌人，认知安全是全人类要共同维护的领域。人工智能在认知安全领域的双重作用，既带来了巨大的机遇，也带来了严峻的挑战。下一个百年，要以前瞻理念统筹安全发展与技术创新，抢占人工智能发展的制高点，率先实现“以人为本、智能向善”，共同构建安全、有序的网络空间。
