CEO如何正确使用AI，避免杀身之祸
科技
2024-12-10 20:24
上海
这几天美国最大的健康险公司“联合健康”的CEO被当街枪杀，初步判定是因为该公司的高拒赔率引发的仇杀，引起了大众对美国医疗制度和保险制度的不公的关注。嫌疑人刚刚被抓到，身份被证实为藤校宾大的优秀毕业生，家境优越，在一家网络公司担任程序员，被指为左翼激进份子，尚未披露调查结果。联合健康在美国保险公司中的拒赔率高到32%，为行业最高：而如此高的拒赔率，不少人将其归咎于该公司2020年前由被暗杀的CEO拍板，斥巨资收购了一个名为NaviHeath的人工智能软件公司，将其AI软件应用于保险理赔业务。这个名为nH Predict的软件，可以預測患者需要多少急诊后护理，包括何時出院。这个技术可能引起了大量的重病病人的住院保险拒赔，引起了巨大争议，去年底就被患者告上法庭，被控该软件的错误率高达90%。目前还没有确切信息证实人工智能应用和CEO当街被杀有明确联系，但是全社会普遍认为采用人工智能技术是这起事件的导火索之一。在去年该人工智能技术被指控时，就有科学家指出，由于当前人工智能技术的“可解释性”低，即机器拒绝了一笔保险理赔申请，但是无法指出合理的拒绝原因，需要在企业业务中慎用。可解释性低是当前主流人工智能技术（即机器学习）的主要特点，机器学习是根据统计学规律来做出预测，但是推导结果的逻辑是黑盒的。技术本身存在缺陷，那么如何避免技术风险呢？有人说还是要结合人工审核，这样似乎就失去了AI应用的意义。我们过去做自动做账的ERP系统实施，新系统上线后，还要保留手工做账的老财务系统并行一段时间，一般是一到三个月，确保新ERP系统结账和老手工账系统的结账能对平，才停掉老系统。目前企业使用AI处理流程，是否保留非AI的老流程并行，进行对照检查？如果发现AI流程有不合理偏离，例如这里说的拒赔率畸高，那么AI替代人工判别的效果是可疑的，就不能切换。
