人工智能产品算法设计者的
犯罪过失判断
——以危惧感说的核心观点为立场
刘嘉铮，东南大学法学院博士研究生。
国家社会科学基金重大项目“智能技术赋能政法领域全面深化改革研究”(22ZDA074)
刘嘉铮. 人工智能产品算法设计者的犯罪过失判断——以危惧感说的核心观点为立场[J]. 重庆大学学报(社会科学版),2024(3):228-241. Doi:10. 11835 / j. issn. 1008-5831. fx. 2023. 03. 004.
算法；结果预见可能性；危惧感说；结果预见义务；结果避免义务
一、人工智能产品致害的归责关键
(一)智能产品算法对人力决策的取代
(二)智能产品致害的归责核心:算法决策的不确定性
二、我国犯罪过失的立场之争
(一)修正的旧过失论的判断立场
(二)新过失论的判断立场
(三)我国犯罪过失的立场争议
三、主要过失立场对算法设计者犯罪过失判断的弊端
(一)修正的旧过失论的缺陷
(二)新过失论的合理性与不足
四、危惧感说(超新过失论)判断算法设计者犯罪过失的合理性证成
(一)危惧感说的抽象预见可能性要求
(二)危惧感说预见可能性标准背后的核心观点
(三)主流观点对危惧感说的些许片面理解
五、危惧感说视野下人工智能算法设计者的犯罪过失构造
(一)客观的结果预见可能性的判断
(二)客观的注意义务的内容
结语
判断人工智能产品算法设计者的过失时,修正的旧过失论对导致危害结果发生的因果历程设置了具体预见可能性标准,这一标准与算法的黑箱属性以相关性而不是因果关系为基础的决策过程存在冲突。同时,此立场只重视结果忽视行为的逻辑会打击算法设计者的积极性,阻碍算法进步。新过失论虽然以结果避免义务作为犯罪过失的核心,但是其对结果预见可能性的标准缺乏具体设计,在判断预见可能性时往往束手无策。因此,两种立场都不是判断人工智能产品算法设计者犯罪过失的合理方案。相比之下,虽然危惧感说(超新过失论)认为结果预见可能性只需达到危惧感的观点受到了主流观点的批评,但这种批评值得商榷:其一,只看到了这种立场对结果预见可能性的低程度要求,却没有看到这种要求背后的核心观点对于判断犯罪过失的合理性;其二,将危惧感说提出者本人对个别案件的过失判断等同于危惧感说的全部,略显片面。与修正的旧过失论和新过失论相比,危惧感说的核心观点是:结果预见可能性与结果避免义务存在相互关联性,这是判断人工智能产品算法设计者犯罪过失的合理方案。以危惧感说的核心观点为思路,犯罪过失包括客观的结果预见可能性、客观的结果预见义务和客观的结果避免义务。人工智能产品算法设计者客观的结果预见可能性的标准是:一旦遭遇包含异常因素的特殊情况,算法有可能做出不利决策,进而引发消极后果。算法设计者客观的结果预见义务的内容是:其一,应当预见到其设计的算法不仅会被用于没有异常因素出现的正常情况,而且可能被用于伴随异常因素出现的特殊情况;其二,一旦其设计的算法面临特殊情况,该系统可能会做出不利决策。算法设计者客观的结果避免义务的内容是:应当避免在设计算法时植入为社会公众普遍反对或不赞同的价值理念;在设计时检验“投喂”给算法系统的数据质量,最大程度防止缺陷数据进入算法机器学习训练的“垃圾进”风险;及时告知产品生产者算法可能面对的异常情况。
扫二维码 | 获取HTML全文
电子书全文 | 扫二维码阅读
点击底部“阅读全文”获取全文
END
投稿网址：
http://qks.cqu.edu.cn/cqdxskcn/author/login
联系电话：
023-65102306/65111861
