关键讯息，D1时间送达！
近三分之一的AI风险尚未被充分认识，麻省理工学院开发的数据库揭示了AI系统中显著的安全隐患，超过50%的风险在部署后才显现。尽管GenAI技术广受关注，其实际收益与风险的评估仍然复杂且缺乏基准。随着AI技术的快速发展，企业面临着管理成本上升、隐私安全、用户信任等挑战，需通过强化AI治理来确保其安全有效的应用。
除了已知的风险外，接近三分之一的AI风险基本上是未知的，但它们确实存在。最近，麻省理工学院的CSAIL和MIT FutureTech的研究人员开发了一个公开可用的数据库，从报告、期刊和其他文献中提取信息，以揭示AI专家通过论文和报告披露的风险。
该数据库包含700多个AI风险，显示AI系统的风险（51%）多于人为风险（34%），且这些风险更可能在AI部署后出现（65%），而非开发过程中（10%），然而，即使是最详尽的AI框架也忽略了数据库中约30%的风险。
最常涉及的风险领域包括：
“AI系统的安全、故障和局限性” (76%)
“社会经济和环境危害” (73%)
“歧视和有害影响” (71%)
此外，MIT数据库中提到的其他风险包括“隐私和安全” (68%) 以及“恶意行为者和滥用” (68%)，相比之下，“人机交互” (41%) 和“错误信息” (44%) 的关注度稍低。
这些基准风险有助于更好地理解AI在商业领域中的风险与收益之间的平衡，然而，关键问题在于如何确切地判断收益何时超越了风险。行业专家认为，目前我们还没有达到这个临界点。
Fordham大学Gabelli商学院的教授W. Raghupathi指出，引入新技术对任何企业来说都是一项重大挑战，尤其是复杂的AI。规模、复杂性以及实施和部署的难度、升级、支持等都是技术相关的问题。此外，隐私、安全、信任、用户和客户接受度也是关键挑战。再加上缺乏有效的成本衡量模型，这使得挑战更加严峻。
另一个挑战是AI的采用速度非常快，甚至在任何已知和不可预见的风险浮现之前。“我们需要快速行动，并更快地思考，回答如何展示AI给企业带来的价值，以及这是否值得冒险的问题，”LogicGate的产品和技术总裁Jay Jamison表示，“有很多AI解决方案可能能够提高效率，但它们应如何与法规指南、安全风险和额外的治理需求等因素进行衡量？”
Raghupathi指出，目前判断AI的收益是否超过风险可能还为时过早。“应用程序的部署与其对业务的影响之间存在滞后。像低级自动化这样的特定应用程序取得了成功，但支持战略的高级应用程序尚未转化为实质性利益。”
他还提到，评估复杂应用程序与简单自动化任务的影响和收益可能需要数年时间，因为我们还没有评估这些好处的基准或定量模型。
虽然AI目前备受业界关注，但这种热度将不可避免地随着新技术和新方法的出现而减退。随着AI热潮的消退，企业将更加仔细地评估其风险与收益。
Jamison指出，随着技术变得更强大，AI将消耗更多的能源，成本将不可避免地上升。“目前，AI既具有很高的价值又相对廉价，使许多企业能够享受其带来的好处，但这种情况不会永远持续下去，最终账单将到来。”
他还强调，需要更强的AI治理来进行更有意义的风险评估。“企业必须考虑他们计划如何以及为什么使用AI，并识别其使用中可能带来的潜在风险。忽视这些问题是不可行的，必须有一个计划来确保这些AI解决方案既安全又有效地使用。”
版权声明：本文为企业网D1Net编译，转载需在文章开头注明出处为：企业网D1Net，如果不注明出处，企业网D1Net将保留追究其法律责任的权利。
关于企业网D1net(www.d1net.com)
国内主流的to B IT门户，同时在运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)
如果您在企业IT、网络、通信行业的某一领域工作，并希望分享观点，欢迎给企业网D1Net投稿。封面图片来源于摄图网
投稿邮箱：
editor@d1net.com
合作电话：
010-58221588（北京公司）
021-51701588（上海公司）
合作邮箱：
Sales@d1net.com
企业网D1net旗下信众智是CIO（首席信息官）的专家库和智力输出及资源分享平台，有五万多CIO专家，也是目前最大的CIO社交平台。
信众智对接CIO为CIO服务，提供数字化升级转型方面的咨询、培训、需求对接等落地实战的服务。也是国内最早的toB共享经济平台。同时提供猎头，选型点评，IT部门业绩宣传等服务。
扫描 “二维码” 可以查看更多详情
