联合国未来峰会,WDTA李雨航谈生成式AI对数字身份安全性造成威胁

文摘   2024-09-25 12:07   瑞士  


在人工智能快速发展的今天,建立全球数字身份框架刻不容缓。9月21日,世界数字科学院(WDTA)举办“人工智能时代的数字身份”活动作为联合国历史上级别最高的未来峰会的一部分

李雨航在联合国未来峰会上发言

WDTA执行理事长、联合国科技委主席顾问李雨航院士在未来峰会行动日边会发表主旨演讲“塑造未来的身份”,概述了全球数字身份框架的关键需求,强调隐私、安全以及在AI驱动的世界中的无缝集成。他倡导联合国2.0应采用全面的联合国身份战略确保全球范围内的数字身份治理具有伦理和包容性

随着新的数字和医疗技术的出现,身份变得更加复杂。其中,生成式人工智能可以创建高度逼真的深度伪造图像、视频和声音克隆,对身份验证系统构成重大威胁。此外,AI可以结合真实和虚假信息生成合成身份,创建全新的人物角色,开设账户、进行欺诈并逃避数字空间的检测。生成式人工智能可以自动化网络钓鱼攻击,使攻击者更容易欺骗个人或系统。李雨航在演讲中阐述了在数字时代,如何定义身份使用身份保护身份变得越发重要


以下为李雨航院士演讲内容:

数字身份的全新定义:什么是动态的数字身份?

李雨航指出,身份是个体的独特属性,涵盖物理、生物特征和数字身份。在数字空间中,数字身份即代表个人在数字空间中的数据,这不仅仅是静态数据的集合,而是一个动态的过程,覆盖创建、验证、认证、授权、变更和终止整个生命周期

回顾数字身份的发展历程,1990年代互联网兴起时,数字身份初见端倪;2000年代生物特征被广泛应用;而2020年代,基于区块链的去中心化身份系统正在崛起。

数字身份的机遇与挑战

随着技术的进步,身份变得更加复杂。在美国著名精神病医师埃里克森提出的人格发展八阶段理论中,事物不再是静态的—无论是身体上还是心理上,身份的属性会随着时间的推移而发生变化。

数字身份为跨境流动性金融包容性和服务访问提供了新的机会,但也带来了注册、隐私保护和身份盗窃等挑战。现有协议如OAuth和OpenID正在帮助解决这些问题,但仍需从社会和技术两方面做更多努力。

此外,生成式AI量子计算和元宇宙等新兴技术正在改变身份管理的格局。生成性AI带来了深度伪造身份和合成身份欺诈等风险;量子计算可能会破坏加密算法,破坏当前身份系统的安全性;在元宇宙中,我们必须应对化身劫持和深度伪造化身等挑战,引发了关于数字身份管理的新问题。

不同地区对数字身份系统采取了不同的方法:

  • 中国: 从实体身份证到数字系统,中国实现了身份验证的数字化。CTID和eID提供在线安全访问和交易验证,统一数字身份简化了在线服务登录。

  • 美国: 身份验证系统分散,各州独立管理,虽灵活但跨州使用受限。数字平台如Login.gov和ID.me提供政府服务,但系统间统一性需加强。

  • 欧盟: 通过eIDAS法规统一电子身份,推出数字身份钱包,方便跨境使用。符合eIDAS的数字身份证使服务访问更加便捷。

各国和地区的不同身份系统之间的协调和互操作性仍是全球数字身份普及的重要障碍
1948年联合国通过《世界人权宣言》,将身份视为基本人权。随着秘书长宣布的联合国2.0,联合国正在努力实现到2030年的普遍身份目标,以促进全球包容性。
李雨航指出,只有通过国际合作和标准化才能真正解决这一问题实现全球身份系统的统一和互通


如何应对身份管理的挑战?

为了应对身份管理的挑战,李雨航提出以下关键领域的改进策略:
  • 包容性:在联合国的指导下,为没有公民身份或失去公民身份证明的个人发放全球ID。
  • 数字权利:采用去中心化ID来补充现有系统,以维护人权。地球上的每个人都应该有一个不能被拒绝的数字ID。
  • 非人类ID:通过管理非人类身份,如数字人或AI机器人/代理,来拥抱技术革命。
  • AI自动化身份生命周期:利用AI协助身份验证、认证、授权和生命周期管理。
  • 多态身份:通过考虑如何在虚拟空间中即使在死亡后也能维持身份,来解决“数字灵魂”的新兴概念


最后,李雨航强调全球ID不仅仅是一个技术解决方案——它是确保身份作为基本人权得到保护的重要一步,这与《联合国人权宣言》、联合国可持续发展目标、联合国2.0和全球数字契约相一致。李雨航呼吁联合国人权理事会(UNHRC)、联合国科学和技术促进发展委员会(UN CSTD)、世界银行等联合国机构与各成员国沟通设立清晰的路线图指导全球使用世界ID,确保身份作为基本人权得到保护



ABOUT MORE






世界数字科学院(WDTA)是在日内瓦注册的国际非政府组织,支持联合国的可持续发展。WDTA秉承着速度、安全和共享的“3S”理念,致力于加快数字领域规范和标准的建立,引领数字技术的创新和研究,培养先进的数字人才,并加强国际数字合作,以促进数字经济的可持续发展,实现数字技术普惠人类,不让任何一个人掉队。


点击“阅读原文”跳转WDTA世界数字科学院官网。

世界数字技术院
世界数字技术院(WDTA)是于2023年4月创立的国际新型创新和研究机构的NGO组织。WDTA致力于成为全球数字技术创新的引领者,推动数字技术惠及全人类,确保没有任何人掉队,同时应对全球挑战,促进数字经济的可持续发展。
 最新文章