人工智能时代的法治挑战与数据保护

政务   2024-11-22 09:49   重庆  

11月21日,2024年世界互联网大会乌镇峰会网络法治论坛在浙江乌镇举行。论坛以“人工智能时代的网络法治”为主题,设置“中国网络法治三十年与世界网络法治前瞻”“人工智能时代的法治挑战与数据保护”“全球人工智能监管规则”等议题。会上,西南政法大学校长、教授林维在“人工智能时代的法治挑战与数据保护”议题讨论环节以“法律如何应对人工智能的挑战”为题发言。

 ▲林维在会上发言

 法律如何应对人工智能的挑战

林维

(根据文字实录整理)

国务院印发的《新一代人工智能发展规划》指出,人工智能的迅速发展将深刻改变人类社会生活、改变世界。人工智能是影响面广的颠覆性技术,可能改变就业结构、冲击法律和社会伦理、侵犯个人隐私、挑战国际关系准则等等,所以这些将对政府管理、经济安全和社会稳定乃至全球的治理产生深远的影响。
过去我们的法律制度通常以人类是唯一的理性主体作为基本的假设,但是现在人工智能能够在没有人类干预的情况下,独立地做出一定的决策和执行任务,这样极具智能属性的科技是人类历史上前所未有的。因此,当下由此引发的一些典型的法律挑战,包括如下几个。当然,人工智能所给我们提出的法律挑战绝不止于这些领域,我们所列举的仅仅是我们当下所面临的一些比较典型的场景。
第一,深度伪造的刑事治理的难度。深度伪造是指利用先进的AI技术生成或者篡改音视频的内容,使其难以与真实内容区分,极易为不法人员实施网络违法犯罪活动提供可乘之机,进而导致刑事治理风险的扩张。同时,由于算法的复杂性和不透明性,使得判断伪造内容的来源和生成的过程变得极为困难,进而影响到对违法行为的精准定罪以及量刑。
第二,自动驾驶的侵权责任的认定难题。在今年6月份,中国首批智能网联汽车准入和上路通行试点企业公布,自动驾驶汽车的大规模上路取得了进展。但是在自动驾驶模式下,车辆可以在没有人类驾驶员介入的情况下自主行驶,一旦发生交通事故,责任可能涉及车辆制造商、软件开发者、车主等多个主体,这也给责任的追究和分配提出了难题。
第三,生物识别的数据安全保护难题。和传统的密码不同,人脸识别、指纹识别等所需要的指纹、面部特征、虹膜扫描和语音,是我们身份验证和访问控制的强大工具,因此生物数据带来的数据安全这种挑战是我们前所未有的。对个人而言,个人的隐私风险增加,敏感信息的泄露必然会侵害主体的隐私权利,甚至带来更为严重的数据安全风险。对国家而言,大量生物识别数据的储存、分析、计算也特别容易产生极大的安全隐患,因此生物识别技术的大规模应用必须慎之又慎。
第四,人工智能生产物的知识产权保护难题。现在对于这个问题,尽管法院有了一定的判决,但是这个问题的讨论仍然是非常激烈。从生成端来看,人工智能生成物通常由算法自动生成,认定其是否具备人类的独创性存在着困难。从使用端来看,终端用户和模型提供者生成的内容是否构成侵权,也产生了极大的争议。因此,能否以及如何利用知识产权保护制度来保护人工智能的生成物,仍然是我们需要进一步加以解决的问题。
第五,人工智能军事应用的法律治理难题。在当前的国际冲突当中,无人机在无人干预下跟踪并且攻击正在撤退的军事人员,以及有的国家利用人工智能系统帮助识别特定的武装人员等等,这些案例都引发了人们对于人工智能能否拥有决定生死权力的热议。随着无人系统自主性和智能化程度的提高,未来的作战可能将会更多依赖于人工智能,这也可能导致人类在决策程序过程当中被逐渐边缘化,进而引发对战争伦理和责任归属的质疑。人工智能武器的广泛应用还可能加剧国际军备竞赛,降低战争门槛,这些潜在的全球战略不稳定因素也需要国际社会共同应对。
因此,随着人工智能应用的爆发以及各国人工智能竞争的加剧,中国从场景式立法已经无法满足人工智能产业的发展以及产品治理的需求,因此应该从以下几个方面来完善我们的立法:
第一,应当积极思考推动国内人工智能统一立法的实现,避免“头痛医头,脚痛医脚”。当然,各种人工智能应用引发的法律挑战并不完全一样,人工智能法仍然需要为智能要素、智能应用等具体场景的立法来预留接口。
第二,应当坚持科技向善的理念,高举科技人文大旗。发展人工智能应当坚持以人为本的理念,以增进人类共同福祉为目标,以保障社会安全,尊重人类权益为前提,确保人工智能始终朝着有利于人类文明进步的方向发展。
第三,应当坚持发展与安全并重。刚刚乔治城大学的钱德教授比较了欧美人工智能立法和人工智能产业的关系,我想,中国现在也面临这样的一种选择。人工智能法应当明确促进人工智能健康发展的立法目的,强调在发展的同时要保障安全。当然,人工智能法仍然要以发展为最核心的目标。
第四,应当加强人工智能国际治理交流与合作。在全球化背景下,人工智能的问题已经成为国际社会共同面临的难题,加强国际交流合作,不仅是应对技术发展带来的挑战所需,更是实现全球共同繁荣,构建人类命运共同体的重要途径。

人工智能作为当前最受瞩目的新兴科技,我们必须要高度重视其引发的法律挑战,通过完善立法,为人工智能发展保驾护航。


作者:林维 西南政法大学校长、教授
来源网络普法微信公众号、论坛图文直播页面
大家都在看
荣昌区万灵镇开展2024年“千人万场”网络安全宣传进基层活动
石柱县开展网络安全现场检查
谁寄锦书来②:无名的使者

声明:除原创内容及特别说明之外,推送稿件文字及图片均来自网络及各大主流媒体,版权归原作者所有。如内容侵权,请联系删除。

网信重庆
重庆市网信系统的官方对外发布平台。
 最新文章