点击蓝字
关注我们
人工智能在应急管理中的
应用及其风险分类——
基于文献与案例的综述研究
钟爽, 徐小峰
(北京航空航天大学 公共管理学院,北京 100083)
作者简介:钟爽(1985—),女,山东济南人,教授,博士,研究方向为应急管理、卫生应急、城市洪灾韧性。
基金项目: 国家自然科学基金面上项目 (71774179)。
摘要:随着新型工业化发展稳步推进,人工智能(AI)在应急管理的不同阶段和不同灾害情境下的应用日益增多,风险也呈现新的特征和态势,但对AI赋能应急管理的应用以及存在的各类风险仍缺乏系统性梳理。为了提升AI赋能应急管理的效率与效果,亟待厘清AI在应急管理中的具体应用及其风险类别。因此,研究结合相关文献与具体案例,对AI在应急管理中的应用与潜在风险进行文献回顾。综述发现,AI广泛应用于风险管理、应急准备、应急响应和应急恢复等四个时期,涵盖风险预警、模拟预测、心理辅导等十六类具体应用,适用于洪灾、地震等多种情境。同时,基于“人—AI—人与AI交互”等三个维度,整合AI应用于应急管理面临的个人隐私与数据安全、数据偏差与算法歧视、交互稳健程度等九类风险挑战,并由人与AI交互维度的系统与算法、价值与伦理、公众可接受度、组织可接受度等问题对AI赋能应急管理进行系统性风险分类。
关键词:人工智能(AI) 应急管理 风险管理 AI应用风险 人—AI交互
一、 问题的提出
当前,随着新型工业化发展的稳步推进以及科学技术和生产力的不断进步,社会生产关系也在发生着深刻变化。相较以往,社会风险呈现新的特征和态势,对应急管理者提出了新的要求和挑战。近年来,俄乌冲突、巴以冲突等地区性武装冲突,提醒着人类生活在一个休戚与共的“全球风险社会”中。在这些冲突中,无人机和“福音”(Gospel)目标识别打击人工智能系统等各类新型武器和技术的应用,进一步表明应急处置手段亟待与时俱进。应急管理涉及的管理种类多、难度大、周期长,如何在成因多元、影响广泛、风险迭代、高压决策等约束下,全面提高应急管理的效率与效果,成为现今应急管理学界关注的重要问题。
技术赋能对实现高效与准确应急管理具有至关重要的作用。在新型工业化技术变革的背景下,完善数据基础设施和革新应急管理工具,可以显著提高政府部门在数据收集、分析和挖掘等方面的能力,从而提升治理效率[1]。人工智能(artificial intelligence,AI)作为第四次工业革命信息化技术中的代表性技术,通过关键信息抓取、海量数据分析、先进算法计算和事态预判模拟等手段,为应急管理的决策与执行提供了技术保障。在现今的应急管理中,AI在各类突发事件的各个环节中已经开始释放其赋能效用。综合回顾国内外各类应急管理过程中AI的具体应用,并高度概括AI在应急管理应用中的潜在风险与挑战,对全面提高应急管理的效率和效果具有重要的理论与实践意义。
二、 缘起:AI助力应急管理的利与弊
随着AI的迅速发展,其在应急管理领域中的应用日益广泛。AI通过数据分析[2]、灾情识别[3]、监测预警[4]和事态模拟[5]等手段,助力应急管理的全灾种类别及各过程实践。例如,在自然灾害领域,AI技术驱动的早期预警系统能够通过卫星图像和传感器数据,提前预测地震、洪水和飓风等自然灾害的发生[6]559-563,进而结合具体情况,帮助制定更加有效的疏散和应急计划,以减少人员伤亡和财产损失[7]。在事故灾难领域,AI可以通过实时监控和分析各种传感器数据,提前检测异常振动、温度变化等潜在风险源,并及时发出警报,提醒相关人员采取紧急措施[8];还可以通过优化资源调配和路径规划,提高救援效率,减少事故带来的损失和影响[9]。在公共卫生事件领域,AI可以通过分析大量的医疗数据、社交媒体信息和流行病学数据,实时监测疾病的传播情况[10],提前预测潜在的疫情暴发,赋能公共卫生实践应急管理[11],并预测潜在的高风险地区,从而支持公共卫生部门制定有效的防控措施[12]。在社会安全事件领域,AI可以实时监测公共场所的安全状况,识别异常行为和潜在威胁,例如,AI可以及时监控人流量,预防大规模踩踏事件的发生并通知安保人员采取措施[13];在网络安全中,AI能够针对各种安全问题和网络攻击的安全态势作出及时监管及反应,降低网络攻击的潜在风险[14]。
AI的应用,可以有效提升应急管理决策、执行的效率增强管理效果。应急管理对时效性要求较高,而传统人工监测和通信手段一方面反应慢,影响应急效率;另一方面准确性差,影响应急效果。AI技术深度嵌入传感设备、边缘计算和跨域直连系统,打通信息壁垒,提升响应速度,从而进一步优化应急行动,提高反应效率[15]。通过机器学习和深度学习算法等技术手段,AI可以在应急管理中实现快速数据分析和风险评估[16]。例如,周慎等根据当前AI发展水平,梳理出7类21种可能用于突发公共卫生事件管理的AI技术,并指出AI的合理使用可进一步赋能应急处置,从而提高效率[17]35-43。同时,AI在资源分配、灾情分析等方面的应用也大幅地提升了应急管理的效果。通过预测灾害影响和需求,AI能够优化资源分配,确保救援物资的合理分配与救援队伍的合理通勤[18],从而避免因信息不完全、经验决策有误等要素所带来的偏差。此外,AI还能及时充当灾情分析工具。例如,Alam等开发了一款AI分析工具,通过大数据分析发布在社交媒体平台上的灾难期间实时图像内容,以帮助应急救援组织获得态势感知并开展救援行动[19]。
尽管AI在应急管理中展现出了巨大的潜力,但其应用仍面临诸多挑战。其一,数据质量和可用性是一个主要问题。AI算法依赖高质量和准确的数据进行预测和决策,但在应急情况下,数据往往存在不完整、不一致或延迟的问题[20],这势必会影响AI算法的效果。其二,AI的验证和监管同样备受关注。为了确保AI在应急管理中的安全和有效应用,需要对其进行严格的验证和测试,并建立相关的监管标准[21-22]。其三,AI在应急管理中的应用涉及大量的个人数据,这引发了对隐私保护和数据安全的问题的担忧[23]。其四,应急管理往往涉及生命财产安全的辅助决策,在此类决策中,AI决策的可解释性,即决策过程的透明度尤为重要[24]。诚然,尽管AI有望提升应急管理在突发事件中的响应能力,但其有效应用也取决于各方在应对这些挑战时的协同合作和综合考量[25]。未来的研究和实践亟待在官员信任、接纳要素等方面进行深入探索,并对潜在风险进行系统识别并制定相应策略,以充分发挥AI技术在应急管理中的作用,从而提升应急响应的效率和效果。
鉴于AI发展迅速,且涉及的文本类型较为丰富,为了准确归纳AI在应急管理中的具体应用及潜在风险挑战,笔者使用“AI决策、应急管理、潜在风险挑战”等作为搜索关键词,借助中国知网(CNKI)、Web of Science (WOS)等学术数据库文献以及权威机构的报道和案例进行综合回顾,并按照“分期—分类”框架予以整合相关应用,同时结合人、AI以及“人—AI交互”(human-AI interaction,HAII)等三个维度予以整合AI应用于应急管理时可能面临的风险挑战,从而尽可能准确、全面地概括相关要素,以期拓宽AI在应急管理研究中的视角和切入点,为相关部门和政策制定者提供科学合理的建议。
三、 赋能:AI在应急管理中的应用
目前,已有部分学者对AI在应急管理中的应用展开回顾。有学者聚焦某一具体类别的突发事件管理的AI应用,例如,周慎等以新冠疫情防控为例,收集了国内外应用AI抗击新冠疫情的创新案例,从危机管理的事前风险管理、事中应急管理、事后善后学习等三个阶段,对AI赋能突发公共卫生事件管理全过程的内在规律与具体方式进行了介绍[17]35-43。有学者从技术类型角度对AI赋能应急管理进行了总结,例如,Sun等基于灾害管理的减灾、准备、响应和恢复阶段,以26种AI技术的具体方法和17个救灾应用领域作为代表性示例进行阐述[26]。也有学者聚焦灾害治理成效的研究,对AI在防灾减灾中的应用措施及其成效进行了总结,例如,周利敏通过多案例研究,探讨了AI在灾害治理中的应用,提出了基于平台、工具、地理、模拟、决策与社会等六个基本治理维度的AI灾害治理模型,并分析了其在灾前预警、灾中应急和灾后重建中的作用与前景[27]。
现有研究对AI技术在应急管理中的应用回顾,从分析维度与框架设计角度为本研究提供了范本。例如,应急管理具有明显的时间周期性,现有研究多结合事前、事中与事后应用展开论述,以期清晰、准确且全面地列举相关AI技术在应急管理实践中的应用。与此同时,当前研究仍存在一定的局限性:对具体应用场景的归纳不足,多从单一类型突发事件进行分析;未就全类别突发事件进行回顾;未将具体分期与应用分类结合来看;等等。如何将不同类型突发事件的应急管理经验进行综合分析以形成一套应急情境下具备普适性的AI应用框架,如何在具体应用场景中更有效地利用AI提高应急管理的效率和效果,成为当前研究的突破口。基于此,笔者以时间为序,从风险管理、应急准备、应急响应和应急恢复等四个时期,对AI在应急管理情境中的具体应用分类、应用场景技术和措施进行了综合回顾,具体如表1所示。
(一) 防微杜渐——AI在风险管理中的应用
作为应急管理的“关口前移”[28],风险管理已成为各个领域不可或缺的重要环节。防微杜渐,提前识别和应对潜在风险,是实现长期稳定和可持续发展的关键。各类AI技术的应用,加强了洞察力和应对能力,能够显著提升风险管理的成效。结合相关文献与案例总结,AI在风险管理中的应用可大致归纳为风险研判、风险决策、风险预警和风险沟通等四类:
1. 风险研判
风险研判是指对风险来源、要素、性质、趋势的信息获取与初步分析,是风险管理过程的逻辑起点和重要基础,在风险防范和控制中发挥着较为重要的作用[29]。AI通过大数据技术、机器学习等先进算法,能够从海量数据中提取有用信息,识别潜在风险[30],在风险研判的数据处理和分析方面具有显著优势。例如,微软公司开发的首个AI气象分析模型Aurora,能够从数据中学习并作出预测,对台风等极端天气作出研判。同时,基于历史数据和实时监测数据,AI可以进行风险趋势分析和预测。例如,在公共卫生应急管理中,借助AI和大数据技术对疾控数据进行深度学习,结合地域特征,能够实现传染病风险的早期监测和预警,从而有效防控传染病的传播[31]。
2. 风险决策
风险决策是指在已知环境状态及潜在风险发生概率的情况下,决策者通过分析和选择最优方案来应对潜在风险的过程。在决策过程中,概率可能是客观可知的,也可能是基于主观估计的,决策具有不确定性[32]。在风险决策情境下,利用AI对风险管理方案进行优化和决策模拟比较,能有效提高风险管理效率和准确性。例如,在交通事故中,AI算法引入车辆、行人碰撞预测数据,使用深度学习算法,训练高效的AI预测模型,以检测不安全的驾驶方式和碰撞预测,并辅助车主在紧急情况下作出决策[33]。在面对风险决策的不确定性时,AI可帮助决策者规避因短期决策带来的决策失误。例如,著名的战略咨询公司——兰德公司(RAND Corporation)在20世纪80年代开发的ROSIE AI系统,能够模拟国际行为体在战争模拟中的战略决策,研究人员可以借助AI系统在战略层面模拟核威慑、经济制裁,甚至非对称冲突[34],从而借助AI的决策回馈,及时调整决策。
3. 风险预警
风险预警是指在可能发生风险事件之前,通过识别、评估和监测潜在风险,及时向有关方面发出预警信号的过程,关键在于对潜在风险的早期识别和及时预警,从而最大限度地减少风险造成的损失[35]。随着AI的不断发展,风险预警系统在各类灾害与生产事故中的应用愈加广泛和深入。例如,在事故预警方面,瑞典海克斯康集团(Hexagon)将AI技术、大数据算法训练应用到地基合成孔径雷达的数据解释和预警中,建成IDS Ai.DA人工智能监测预警软件,对采矿山体滑坡作出预警,可在滑坡发生前及时发出警报提醒,避免财产损失和人员伤亡。又如,湖南省醴陵市应急管理局更是聚焦当地烟花爆竹这一特色产业,基于AI建立安全生产风险预警与防控系统,对存在的车间超员、擅自挪移遮挡摄像头、未触摸静电释放器等违章行为进行全方位监管与预警。只要违章行为持续超过35秒,就会被AI自动识别、生成记录、实时上报,从而较大程度地避免生产安全事故发生。在自然灾害方面,AI同样发挥着重要的预警作用。例如,在地震预警中,AI算法能够处理具有严重噪声的大量探测数据,从提取有意义的传感数据,到揭示低于检测水平的地震事件,快速识别并预警即将发生的地震,从而为公众和应急管理部门争取宝贵的反应时间[36]。
4. 风险沟通
风险沟通是指在潜在风险下,政府、企业和公众之间传递和交换信息的过程,目的是增强公众的风险意识,增强风险管理的透明度,减少因信息不对称导致的恐慌和误解[37]。风险沟通的有效性在很大程度上取决于信息的准确性、及时性和透明度,以及信息传递者的信誉度和公众的信任度[38],借助AI,风险沟通的时效性得到了显著提升,从而更好地预防或减轻突发事件的不良影响。例如,在灾难中使用社交媒体进行智能公共信息发布和警告,以减少公众恐慌方面的实际应用,为政府在紧急情况下提供了有效的应对策略[39]。特别是在突发公共卫生事件中,AI可以及时、公开地收集和分析数据,从而提高应急响应的效率[40]。从社会安全事件看,AI可以通过社交媒体监测和大数据分析,快速识别和阻止虚假信息的传播,保障信息的透明和及时传递,帮助公众了解事件真相,避免恐慌[41]。
(二) 未雨绸缪——AI在应急准备期的应用
在瞬息万变的应急情境下,各类不可预见的挑战层出不穷。应急准备已成为各国政府、企业和个体关注的焦点。未雨绸缪,不仅是古人的智慧,更是现代社会应对未知风险以及做好应急准备的必然选择。随着AI的迅猛发展,其在应急准备期的应用也日益广泛和深入。其应用可大致归纳为模拟预测、队伍训练、预案优化与教育宣传等四类:
1. 模拟预测
模拟预测是指通过建立数学模型和计算机模拟,预测未来可能发生的事件及其影响的过程。AI在模拟预测中的应用,能够显著提升应急管理领域的预测能力和应对效率,为决策者提供科学依据,从而进一步规避潜在风险和减少损失,并提升预测的准确性和应对措施的有效性。例如,在自然灾害预测中,AI已经展现出强大的应用潜力,通过深度学习和机器学习算法,可以对地震、洪水、台风等自然灾害进行预测。又如,有学者开发了一种基于注意力机制的深度学习模型用于地震强度预测,对局部震中距离(<300 千米)记录的单站数据进行地震信号的同时检测和选取P/ S相位,基于此技术使用不到1/3的地震台站就能够检测和定位两倍以上的地震[42]。Google Research 洪水预测团队基于长短期记忆(LSTM)网络开发的AI模型,通过利用现有的 5 680 个测量仪进行训练,可预测未测量流域在7天预测期内的日径流,即提前一周就可预测洪水发生概率,每年或可以挽救数千人的生命[6]559-563。在城市应急模拟预测的具体应用中,Zhang等也提出了一种具有递归LSTM神经网络的深度信息网络模型(DBN),用于预测基于物联网的智慧城市收集的大数据火灾危险值,与其他现有技术相比,该模型以98.40%的准确率检测火灾爆发,最小错误率为0.14%,可用于智慧城市面临的各种预测问题[43]。
2. 队伍训练
队伍训练是指通过系统化的培训和演练,提高应急队伍在面对突发事件时的反应速度和处理能力。队伍训练是确保应急准备成效的重要环节,AI在队伍训练中的应用,能够显著提升应急队伍的训练效果和实战能力。例如,虚拟现实(virtual reality, VR)技术为应急队伍提供了一个安全、可控且经济的训练环境,通过VR技术,可以模拟各种突发事件的场景,使队员在逼真的环境中进行训练。又如,Qazi等为消防员量身定制了基于VR的新型培训,利用Unity 3D和最先进的火灾模拟技术构建了与真实世界动态相似的情境,使受训者在身临其境的VR环境中体验多感官反馈,通过火灾蔓延机制的模拟来增强训练效果[44]。再如,邓鹏等针对救援队伍指挥员在应对石化基地火灾时的指挥能力提升,提出了一种以虚拟灾害场景为核心的分布式角色扮演型灭火救援指挥训练系统,从系统开发的角度,探讨了系统的总体架构和训练模式,构建了高沉浸感的灾害事故虚拟场景;设计了包括地图支持、组训导调、接警调度、指挥训练、考核评判等功能模块的模拟训练;探讨了该系统的实现方法,分析了地图支持模块和考核评判模块的作用[45]。而在卫生事件领域,AI在培训效果评价上展现出客观性上的优势。例如,华为人工智能创新中心和久心医疗联合开发的AED心肺复苏动作AI辅助测评系统,基于AI助力急救培训考核,通过在线测评AED心肺复苏动作,辅助培训人员快速打出操作分数,并指导学员根据AI反馈结果进行动作改进。
3. 预案优化
预案优化是指在制定应对各种潜在风险和突发事件的预案过程中,利用先进的技术手段和数据分析工具,对预案进行不断调整和改进,以确保其在实际应用中的有效性和可操作性,核心目标是通过系统性的分析和模拟,找出预案中的薄弱环节,并提出改进建议,从而提高预案的科学性和针对性[46]。在这一过程中,AI在预案优化中的应用,为克服处理大量资源应急信息的困难和生产环境的多变性,提供了先进的分析工具;用于处理和分析应急管理的大数据,不仅提高了预案的科学性和有效性,还增强了应对各种工业风险和突发事件的能力,为科学决策和高效执行提供了强有力的技术支持[47]。刘君等指出可以基于案例推理(case-based reasoning, CBR)算法,寻获与当前突发事件具有相似特征的应急预案后,再根据当前实际情况和应急部门行动规则对解决方案进行修订[48]。例如,公路突发事件的类型并非总是单一的,CBR在应用过程中会不断记录超出当前预案库的突发事件类型,并给出相似解。公路突发事件应急救援结束后,应急管理机构可根据实践情况、专家经验对之进行修订完善后,纳入当前的应急预案库。
4. 教育宣传
教育宣传是指通过多种渠道和手段,向公众普及应急知识和技能,提高公众在突发事件中的应对能力和自我保护意识。AI在教育宣传中的应用,可以显著提高宣传的覆盖面和针对性,有助于提高宣传的精准性和有效性,从而增强公众对风险的认知和应对能力,有助于构建更加安全和健康的社会环境[49]。例如,广东省清远市应急管理局创设集应急信息发布、灾害预防提醒、安全宣传小视频宣讲等功能于一体的“AI应急数字人”小安,旨在实时发布应急信息、提升应急处理响应速度,并提升应急服务工作的效率和水平。而在工业领域,特别是一些高危行业,如化工企业的安全教育中,AI驱动的互动学习平台可以模拟化工厂常见事故场景,通过虚拟体验和实时反馈,帮助员工理解应急措施和安全操作规程[50]。AI还可以通过分析历史灾害数据和气象数据,快速提取有用和可靠的信息,使公众能够直观地了解灾害的形成机制和应对方法,从而为公众提供定制化的防灾建议和实时预警信息,增强公众的防灾意识和应对能力[51]。
(三) 临危不乱——AI在应急响应期的应用
在突发事件和紧急状况面前,快速、准确的应急响应是减少损失、保护生命财产的重要保障。临危不乱,是应急响应的理想状态,而AI的应用正为实现这一目标提供了强有力的支持。在应急响应期,AI通过实时监控、智能调度等功能,显著提升了应急行动的效率和效果,帮助应急响应团队做出更科学、更迅速的反应。其应用可大致归纳为实时监控、路径规划、协助搜救和通信协调等四类:
1. 实时监控
实时监控是指通过技术手段,及时获取和分析各种数据,从而实现对突发事件的动态监测和及时预警。实时监控是应急管理的重要环节,AI在实时监控中的应用,能够显著提升数据处理和分析的效率,增强应急管理的预警能力,为防范和应对各种突发事件提供重要保障。在事故灾难情境下,AI可以通过传感器网络和数据分析,实现对工业生产安全的实时监控:具体来说,AI可以监控温度、压力等参数,及时发现可能引发事故的隐患,并自动发出警报[52]。在自然灾害的监控中,AI也发挥着重要作用。例如,AI可以通过卫星影像和气象数据的分析,实现对洪水、地震等灾害的实时监控和预警,其中一个典型的应用是利用AI技术分析地理信息系统(GIS)及卫星图像,监测河流水位变化,从而提前预警洪水风险[53]。例如,中国电子科学院设计的警用AI系统,可以对视频点位人流量分析,实时统计人群密度和行走速度,预防拥挤和踩踏事件;还可以对禁入区域异常入侵、人员异常行为、挥手求救识别等进行智能分析预警,实现了AI实时监控分析赋能警务工作。
2. 路径规划
路径规划是指在应急管理过程中,通过技术手段和算法优化,确定资源调配和行动的最优路径,以提高救援效率和资源利用率。整体上,AI可以通过实时数据分析和智能算法,为应急人员与车辆提供最优路径规划。例如,在交通事故发生后,AI可以分析交通流量数据和事故现场情况,通过深度学习算法对交通数据进行实时分析和预测,优化应急车辆的路径规划,为救护车、消防车等应急车辆提供最优路线,使之能够以最短时间到达现场,显著提高了应急响应的效率[54]。在自然灾害的救援中,AI同样表现出色。在野外应急救援活动中,灾害现场或事故区域通常缺乏地面交通工具可直达的现成道路,但该区域地表环境仍可满足部分越野车辆的通行,王修远等提出了一种基于格网单元的改进A*算法,命名为Grid A*算法,综合利用格网特征像元之间的拓扑关系实现路径搜索,较大地压缩了搜索空间,提升了运算效率,提高了野外应急救援应用的时效性[55]。例如,在地震、洪水等灾害发生后,AI可以通过分析GIS数据、灾害影响范围和实时交通情况,制定最优的救援路径[56]。AI还可以优化医疗资源的调配和分配路径。例如,在新冠疫情期间,AI通过对疫情数据和医疗资源分布的实时分析,优化了医疗物资和人员的调配路径,以确保资源能够及时送达疫情最严重的地区[57]。
3. 协助搜救
协助搜救是指在事故、灾难或突发事件发生后,通过系统化地利用AI手段和资源整合,提高搜救工作的效率和成功率。AI在协助搜救中的应用,有助于提高搜救行动的效率和成功率,增强应急搜救的科学性和精准度。在事故灾难情境下,AI可通过无人机和图像识别技术,协助搜救人员快速找到受困者。例如,奥地利林茨大学的研究人员通过导入深度学习等AI技术,利用无人机在各种位置为地面上的志愿者拍照,在使用这些图像数据库训练后,使得新AI系统能够透过分类,将目标区域多角度图像结合,以此来显著提高检测机制。经过处理后,生成的图像具有更深的景深,与无人机使用传统热成像捕捉非结构化热光场的25%准确度相比,运用AOS(airborne optical sectioning,AOS)新技术的准确度约在87%~95%之间[58]。此外,在恐怖袭击事件中,AI可以通过监控摄像头和社交媒体数据,通过实时数据分析和预测模型,实时分析威胁信息,提供有效的搜救决策,甚至是开发各类机器人支持指导搜救行动[59]。此外,AI在军事医学中的应用更是处于快速发展阶段,通过诸如计算机视觉与图形学、人机交互、机器人、数据库技术、可视化技术等,赋能伤员搜救、伤员救治、检伤分类和伤情监测、机器人手术等战场一线救治的重要环节[60]。
4. 通信保障
通信保障是指在应急管理过程中,通过有效的通信手段和信息共享,确保各应急部门和人员之间的无缝协作。鉴于应急情境下信息混杂、传输难度大等特点,通信保障是应急响应的不可忽视的重要环节。AI在这一领域的应用,能够显著提升通信的效率和准确性,进而减少损失,保障公共安全。特别是在事故灾难情境下,AI可以通过智能通信平台和实时数据分析,提高应急响应的通信效率。例如,由意大利航空航天企业D-Orbit公司发射升空的“世界洪水”(World Floods)AI洪水监测系统,旨在通过卫星遥感和AI技术,提供近实时的地形图并突破技术障碍,具体通过深度神经网络技术,对大图像进行分析处理,将其转换成数据量较小的最终产品来减少传输量,从而加快人类对洪涝灾害事件的反应速度[61]。再如,湖北电信依托省级科创项目“传输网智能应急调度工具”,使用AI融入防汛抗灾,显著提升了应急调度和武汉至鄂州段光缆抢修效率,增强了通信保障能力。刘奕等指出,未来AI在应急通信领域或可聚焦研究抢险救灾、地震灾害、测绘应用、空中动态侦查、安全监控、摄影航拍等多用途功能,以及不受海拔限制的现场信息快速获取和传输技术、紧急情况下的信息传输中继、远程指挥协调装备等多场景应用,为未来应急信息快速获取与传输技术和装备发展奠定基础[62]。
(四) 重整旗鼓——AI在应急恢复期的应用
突发事件的结束并不是管理活动的休止符,灾后恢复与重建需要科学的规划和高效的执行。在应急恢复期,如何迅速恢复正常生活和生产秩序,如何重建更加坚固和韧性的基础设施,成为目前亟待解决的重大问题之一。通过AI的辅助,有望使灾后评估、资源分配等工作变得更加精准和高效。其应用可大致归纳为受灾评估、资源调度、数据分析与心理辅导等四类:
1. 受灾评估
受灾评估是指在灾害发生后,通过系统化的调查和数据分析,评估灾害对区域和人口的影响,以便制定科学合理的灾后恢复和重建计划。AI在受灾评估中的应用,能够显著提升评估的速度和准确性。在各类事故灾难情境下,AI通过无人机、图像识别技术以及先进算法分析,快速评估灾难现场的受损情况。在建筑物坍塌事故中,无人机搭载AI图像识别系统,可以迅速扫描事故现场,识别受损区域位置及受灾情况。例如,王海峰等基于无人机在云南省大理白族自治州漾濞彝族自治县灾区收集的4 598张遥感图像,构建了大规模高分辨率的震灾损坏建筑物数据集,并使用AI对目标建筑物进行了多种形式标注;同时,建立了包含目标特征对齐模块、特征差异计算模块和目标边界约束的位置框检测模块的震灾损坏建筑物实时检测模型,其整体评估可达到86%的精度[63]。又如,美国加州的Crowd AI公司使用卫星图像以及Digital Globe和Planet Labs的数据,从卫星图像中识别出受灾地区房屋结构后,通过对比受灾前后的图像差异,利用AI模型以红点标识出损坏所在的位置,此后根据标记点的数量来评估受灾的严重程度,并借助不同的颜色深浅直观区别不同程度的受灾程度;整体仅需一秒钟的时间,就能预测和评估受灾程度,再将评估结果报告给救援指挥中心,帮助科学调配救援资源,制定更科学的救援方案。
2. 资源调度
资源调度是指在灾后修复过程中,通过系统化的规划和协调,确保各种资源(人力、物资、设备等)能够迅速而有效地分配到灾区的各个角落,以最大程度地减轻灾害带来的损失。AI在资源调度中的应用,能够显著提升调度的效率和精确度。在进行了受灾评估后,深度学习AI可以用于损害的定量评估。例如,通过分析卫星图像、遥感数据和GIS数据,深度学习模型可以估算受灾地区的建筑损害程度、土地沉陷情况等,这有助于政府和救援机构更准确地分配资源,并予以进行合理的资源调度[64]。而AI在医院的快速布局和应用也显著提高了疫情防控和疫情发生后的资源调度效率,包括AI读片、流行病调查模型、药物筛选、远程医疗和体温筛查等多方面的应用,有效支持了医疗资源的优化配置和疫情防控决策[65]。
3. 数据分析
数据分析在应急恢复期是指通过对灾后收集的大量数据进行系统化的处理和分析,评估灾害的影响和恢复进度,从而为后续的应急响应和重建工作提供科学依据。灾后数据分析是灾后修复管理的重要环节。在事故灾难的灾后数据分析中,AI凭借大数据处理和机器学习算法,能够快速分析事故数据,评估事故影响,并识别出相应的薄弱环节形成应急经验。例如,在工业事故发生后,AI可以分析传感器数据和监控视频,快速评估事故影响范围、严重程度以及事故致因。再如,Liu等指出,在建筑工地上发生的事故中,有88%是由不安全行为造成的,AI可以通过对不同类型的数据(如数字图像、安全报告文本、监控视频等)进行分析,明确事故致因,落实责任问责[66]。此外,AI通过自然语言处理和情感分析,在灾后评估社会舆情和安全状况方面也有很强的应用潜力。例如,在灾后或社会安全事件的恢复过程中,AI可以通过智能设备应用,创建应急感知系统并用于分析社交媒体和新闻报道,评估社会情绪和安全状况[67],从而更好地进行资源调度和灾后受灾群众心理纾解。
4. 心理辅导
心理辅导,是指在灾难事件发生后,通过专业的心理疏导和干预手段,帮助受灾人群缓解心理创伤,恢复心理健康。灾后心理辅导是应急恢复工作中不可忽视的环节,AI在灾后心理辅导中能够提供个性化的心理支持,具备较高的应用潜力,能够显著提升心理辅导的覆盖面和效果。AI驱动的聊天机器人允许用户在任何地方能够与虚拟的心理咨询师即时互动,并通过有效制定在线对话,提供心理援助[68]。例如,美国的两位学者在大规模枪击灾难背景下,通过调查1 114名使用过顶级医疗公司聊天机器人服务的美国参与者,发现AI驱动的心理健康聊天机器人显著影响了个体的动机、沟通行为和参与行为,有助于解决灾后心理健康问题[69]。在网络舆情上,基于对 Twitter 数据集的社交网络分析和对专家访谈的定性内容分析,AI聊天机器人可以被应急管理组织广泛应用,可及时在社交媒体上与公众互动,从而减轻群众灾后的集体恐慌心理[70]。
四、 风险:“人—AI交互”视角下AI在应急管理中的应用和挑战
整体上,AI在应急管理中的风险寓于AI应用的一般性风险中,是个性与共性的关系。为了更清晰地提炼AI应用于应急管理的具体风险,需要关注应急管理风险的独特需求。一是在实时响应能力方面,AI必须具备快速处理和响应突发事件的能力,以提高应急决策的效率和准确性;二是在高压环境适应性方面,应急管理通常处于高压和紧急决策的环境,AI需要在这种情境下保证稳定性和可靠性;三是在多源数据整合方面,应急管理涉及大量的多源异构数据,AI需要有效整合和分析这些数据,以提供全面的信息支持。由此可知,建立合理的风险梳理框架是探究AI应用于应急管理潜在挑战的重要切入口。
“人—AI交互”与传统的人机交互(human-computer interaction,HCI)模式存在显著不同[71],在应急管理中展现出其独特优势。传统的人机交互,主要是指人类与计算机或其他电子设备之间的互动,通常通过输入设备(如键盘、鼠标)和输出设备(如显示器)来进行。在这种交互模式中,计算机按照预定的程序执行任务,人类通过明确的指令与其沟通,操作透明且易于控制。相比之下,AI基于高度复杂的计算机技术,其信息处理能力(包括语言处理、自动编程、数据检索系统和自我学习)与人类智能水平非常相似[72],由此AI在应急管理中则显得更为复杂和动态,即AI不仅能够执行预定任务,还具备一定程度的学习和自我优化能力。通过大数据分析、自主学习和推理,AI可以在应急情况下提供更为准确、实时的决策支持。
基于与具备学习、推理和自主决策能力的AI系统互动,人机关系愈发多样化,涉及信任、理解和协同等多方面的问题。在应急管理中,这种互动不仅要求AI具备高效的处理能力,还需要确保其决策过程透明、可解释,使应急管理人员信任并依赖AI的判断,从而实现更高效的应急响应和资源调配。毋庸置疑的是通过优化“人—AI交互”,应急管理系统可以更好地应对突发事件,提升整体应急响应能力。然而,蕴藏在人、AI以及人与AI交互过程中的风险与挑战,始终伴随在具体AI赋能应急管理的应用决策中。为了厘清AI应用对应急管理的潜在风险与挑战,笔者从“人—AI交互”的新颖视角,结合应急情境中的典型风险案例,对相关风险挑战进行了梳理总结,从而为AI应用于应急管理决策中的困境纾解提供启示。总结形成的应急管理中“人—AI交互”风险分析框架,如图1所示。
(一) 人的视角
在应急管理中,无论是在决策、协调还是执行方面,人的智慧、经验和直觉都是至关重要的,同时人的需求和偏好,在应急管理中也不可忽视。在与AI技术共舞时,人的权责边界存在模糊,只有在充分理解和尊重人的需求(如隐私、心理需求、偏好)的基础上,才能达到“人—AI交互”的最佳效果,进而提升应急管理的整体效能。结合现实案例,整理其中可能存在风险如下:
1. 隐私泄露和数据滥用
AI在应急管理中的应用通常依赖大量数据,包括个人信息和位置数据等。尽管这些数据对提高应急响应效率至关重要,但也带来了隐私泄露和数据滥用的风险。AI模型如GPT感知语音的准确率高达82%[73],应急管理系统若缺乏严格的数据保护措施,可能导致个人隐私被侵犯,甚至被恶意利用,造成严重后果。在应急管理情境下,如生理指标、家庭信息等更具备高度敏感性的数据一旦泄露,不仅会对个人造成无法挽回的损害,也会严重损害公众对应急管理系统的信任。例如,英国在新冠疫情暴发期间,所使用的基于AI模型的NHS COVID-19应用程序,由于对用户数据处理不当和安全保障措施不足,在初期发生了数据泄露事件,导致位置数据和联系历史等敏感信息被曝光,引发了公众对监控和数据滥用的担忧。
2. 心理需求无法被正确识别
在应急管理中,除了物质和安全保障,满足受灾人群的心理需求同样重要。危机事件通常伴随着巨大的心理压力和情感创伤,及时、有效的心理干预对灾后恢复具有重要作用。但AI是否能够胜任合格的灾后心理咨询师,在技术与情感上均无法得到保障。在技术上,算法无法充分考虑人类的主观期望与客观需求。例如,Instagram等社交媒体基于数据及算法所展示的内容会对青少年造成形象压力,导致其饮食失调和焦虑抑郁。在情感上,AI机器人也因缺乏共情心而饱受诟病。例如,比利时一男子在与名为Eliza的AI聊天机器人进行数周交流后,Eliza几乎系统地遵循了这名焦虑男子的推理,甚至让其陷入了更深的担忧中,该男子在讨论中提出了以牺牲自己来换取AI拯救地球的想法,随后自杀。由此可知,在灾后心理疏导中,一旦AI未能正确识别并回应受灾者的心理需求,往往会加剧其情感创伤,甚至引发更严重的后果。
3. 应急决策依赖和研判能力退化
随着AI在应急管理中的广泛应用,决策者或因自动化偏好(automation bias)[74],逐渐依赖AI系统进行决策,从而导致其决策和研判能力退化。当AI系统出现故障或提供错误信息时,应急管理人员会因过度依赖AI技术而无法作出正确判断,导致应急响应失误,进而增加损失。例如,在美国,ClearView AI公司的人脸识别技术出现错误,导致警方错误逮捕了一名无辜行人。过度依赖AI技术更可能导致应急管理人员的专业技能和经验逐渐退化。例如,在美国芝加哥市,ShotSpotter AI枪声定位系统错误地引导警方,导致警察不幸枪杀了13岁少年Adam Toledo。一旦AI系统无法正常运行或提供不准确的建议,缺乏自主决策能力的应急管理人员往往会陷入困境,无法有效应对突发事件。
(二) AI视角
在应急管理中,尽管AI辅助决策逐渐改变了传统决策模式,但AI决策是否被有效采纳,其关键在于能否让应急管理决策者产生足够的信任[75]。增强决策者对AI的信任,可以促进AI在应急管理中的广泛应用,从而提升整体应急管理效能。现有研究将信任分为诚实、能力和仁慈等三个维度进行分析[76],为笔者研究提供框架借鉴。结合现实案例,整理风险有如下三点:
1. 诚实否?决策可解释性与透明度
尽管AI能够迅速处理大量数据,但如果这些数据来源、决策过程的不透明或无法被解释清楚,往往会引发决策者和公众的不信任。在紧急情况下,决策的可解释与透明可确保利益相关方理解并信任这些决策,特别是当AI作出有关人生命财产安全决策但缺乏可解释性与透明性时,将导致利益受损方的不满和质疑。例如,美国加州通过了一项针对亚马逊劳工AI算法的法律,禁止企业使用算法制定的工作配额来惩罚未能完成任务的仓库工人。该法律的出台是因为此类AI算法缺乏透明性,无法结合个体差异(如性别、年龄、健康状况等)进行解释,可能会忽视工人的健康和安全,强制工人以不合理的速度工作,从而导致过度劳累和受伤。在美国芝加哥市,一名65岁老人迈克尔·威廉姆斯,因ShotSpotter AI枪声定位系统提供的假证据被错误拘捕,含冤入狱近一年,其间两次感染新冠病毒,险些自杀。由于该系统的算法不可解释且不透明,这导致警方未能质疑其准确性,从而酿成冤案。由此可知,在应急管理中,如果AI决策过程缺乏解释性与透明性,可能会加剧社会不信任程度,甚至引发冲突。
2. 有能否?系统崩溃与技术故障
在应急管理情境下,AI系统的稳定性和可靠性尤为关键,系统崩溃、技术故障都可能引发错误决策。特别是在应急情况下,如装备了AI决策系统的无人机、攻击性武器等一旦出现错误决策,后果极其严重。例如,2023年,一架由美国空军测试的AI无人机,负责执行防空火力压制任务,在收到了识别并摧毁敌方防空系统的最高优先级指令时,人类操作者发出不允许发动攻击的指令,而AI系统因为系统失误,判定人类操作者在阻碍它执行更高优先级的命令,进而选择了击杀人类操作者。又如,2021年1月25日,在重庆市朝天门举行的一场AI控制的无人机表演中,由于主机系统崩溃,数百架无人机在表演时失控并撞向大楼,约有一百架无人机坠落。毋庸置疑,AI在应急管理中的应用必须高度重视系统的稳定性和可靠性,以避免潜在的灾难性后果。
3. 仁慈否?数据偏差与算法歧视
AI技术在应急管理中的应用虽然带来了显著的效率提升,但也伴随着数据偏差和算法歧视的风险。在应急管理中,若AI系统存在类似的偏差和歧视,可能会在关键时刻作出错误决策,进一步加剧灾难的影响。若AI被广泛用于面部识别和决策过程中,可能会对某些群体产生不公平的影响。例如,美国路易斯安那州执法部门依赖AI进行识别和抓捕,有色人种被误识别的可能性高于白人约100倍[77],这不仅加剧了社会不公,还会导致无辜者遭受不必要的困扰和伤害。此外,AI在模拟战争场景中存在“嗜血”表现,美国军方利用Palantir和Scale AI等公司的专业技术,测试基于大型语言模型(LLM)的军用人工智能聊天机器人,以协助模拟冲突中的军事规划,进而发现,该模型倾向于使用暴力和核打击的方式。这种偏向性决策不仅违反了人道主义原则,还会带来不可预测的灾难性后果。可预见的是,在AI的开发和应用中,必须严防数据偏差和算法歧视,确保其决策过程的公正性和可靠性。
(三) “人—AI交互”的视角
AI系统在应急管理中的应用,往往依赖大量的数据输入和复杂的算法输出这一交互过程。如果输入数据存在偏差或不准确,AI的输出结果可能会误导决策者,进而影响应急管理的效果。在“人—AI交互”视角下,从输出到输入,从过程到行为,处处隐藏风险与挑战。结合现实案例,整理风险有如下三点:
1. 交互输出与输入的稳健程度
在应急管理中,稳健的系统能够确保在紧急情况下,AI能够准确、及时地处理信息,作出正确的决策。然而,现实中的诸多案例表明,当前的AI在这方面仍存在显著的不足。例如,特斯拉的自动驾驶系统(autopilot)在美国涉及多起致命车祸,其中在佛罗里达州的一起事故中,特斯拉的自动驾驶系统未能识别一辆横穿马路的拖挂车,导致车辆撞击拖挂车底部,车内驾驶员当场死亡。此类事故表明,特斯拉的自动驾驶系统在应急情况下的反应速度和决策准确性存在一定问题,无法确保在紧急情况下做出正确的反应,进而威胁公共安全。又如,在加拿大温哥华市举行的Can Sec West会议上,研究人员展示了AI自动驾驶汽车的远程攻击实验。实验利用无人机通过Wi-Fi漏洞,成功控制了AI自动驾驶汽车的信息娱乐系统,并能够执行开车门、调整座椅、播放音乐等操作。尽管此次攻击并未导致车辆失控,但这揭示了联网汽车系统在面对网络攻击时的脆弱性。如果类似的攻击发生在紧急情况下,可能会导致应急管理系统失效,进而危及公众安全。因此,当前的AI在应急管理中的交互输出与输入的稳健程度仍存在显著不足,无论是系统在紧急情况下的反应速度和决策准确性,还是面对网络攻击时的防护能力,都需要进一步的研究和改进。
2. 交互过程的复杂程度
在应急管理中,交互过程的复杂程度直接影响到应急响应的效率和效果。操作界面的复杂、数据输入和指令下达过程的烦琐,都会在紧急情况下导致错误判断,延误应急响应时间,进而影响救援效果。例如,2018年1月,美国夏威夷州紧急措施署由于AI系统过于复杂而错误操作,发布了一条错误的导弹袭击警报信息,称夏威夷正面临弹道导弹来袭威胁。而实际情况是,在AI应急操作系统的终端界面上,工作人员需要点击一个“试验警报”按钮用于试验,结果当天的值班人员却错误地点击了“实时警报”键,造成“假”警报信息的发出。同时,由于系统设计原因,在错误警报信息发出后,系统无法自动将其撤回或取消。从错误信息发出到正式澄清的38分钟内,夏威夷州陷入了混乱,民众纷纷弃车逃跑、躲进地下室或寻找掩体[78]。因此,在紧急状况下,操作人员可能因为紧张和压力加剧而犯错。鉴于此,数据输入和指令下达过程的烦琐以及当前应急管理系统的交互过程复杂性,亟待优化和改进。只有在确保系统操作简便、反应迅速的前提下,才能真正发挥AI技术在应急管理中的潜力。
3. 交互行为的伦理风险
随着AI技术在应急管理领域以及军事领域的应用日益广泛,其决策过程和行为的伦理性问题受到了广泛关注。例如,2022年美国旧金山市议会批准了一项政策,允许旧金山警察局在极端情况下使用远程控制的AI机器人来杀害嫌疑人。这些机器人可以被装备炸药,用于“在公共或警察生命面临即刻威胁且其他手段无效的情况下,接触、使其丧失行动能力或迷惑暴力、武装或危险的嫌疑人”[79]。由此可见,在紧急情况下,AI可能被赋予致命的决策权,这引发了对其滥用和误用的担忧,并引起了广泛的伦理争议。特别是在巴以冲突中,以色列国防军使用了名为“薰衣草”(Lavender)的AI识别系统来识别潜在目标。该系统能够在20秒内,根据目标与哈马斯(Hamas)的联系,识别出37 000个潜在目标,并在攻击低级别武装分子时允许最多造成15名平民的附带伤亡;同时,结合“福音”(Gospel)目标识别打击AI系统,可以实现精确打击[80]。这一宽松的规定导致了大量平民伤亡,特别是在使用非制导炸弹的情况下,整个建筑物内的所有人都可能被炸死。这一做法不仅引发了国际社会的谴责,也在以色列国内引发了伦理和法律方面的质疑。由此可见,确保AI在应急管理中的应用符合伦理和法律标准,是维护公众信任和安全的关键。只有在严格的伦理和法律框架下,才能真正保障公众的生命财产安全。
五、 结论与展望
AI的迅猛发展为应急管理领域带来了前所未有的机遇与挑战。一方面,AI赋能不仅显著提升了政府部门在数据收集、分析和挖掘方面的能力,也进一步提高了治理效率,有望实现更高效和准确的应急管理;另一方面,尽管AI在应急管理中展现出巨大的潜力,但其在数据准确性、系统信任度、隐私保护和决策透明度等方面的应用,仍面临诸多风险与挑战。笔者从应急管理学科的分期视角出发,结合应用场景和全灾种类别,系统地探讨了AI在应急管理中的应用,并分析了其潜在的风险与挑战。同时,从人、AI和“人—AI交互”等三个维度出发,全面整合了AI在应急管理中的应用可能面临的风险挑战,准确、全面地概括了相关要素。这不仅为推进AI在应急管理中的科学化和系统化应用提供了有力支持,还拓宽了AI在应急管理研究中的新视角和切入点,为相关部门和政策制定者提供了科学合理的建议。
通过总结和分析AI在应急管理中的具体应用,研究填补了现有文献在全灾种类别和不同应用场景下,对AI系统归纳不足的空白。在应急管理视角下,研究应用了“人—AI交互”分析框架对风险予以归纳,为后续研究提供了理论基础,有助于深入探讨AI技术在应急管理中的优化路径。
笔者发现,AI已经广泛应用于应急管理的多个环节,如数据分析、危机识别、预测预警和决策支持等方面,显著提升了管理效率,增强了管理效果。然而,当前AI在应急管理中的应用仍面临一些风险挑战。首先,在数据准确性方面,AI系统依赖大量的数据进行训练和决策,但在应急管理中,数据的实时性和准确性往往难以保障,可能导致预测和决策的偏差;其次,在系统信任度方面,AI的复杂性和不透明性使得决策者对其输出结果的信任度不高,这在紧急情况下尤其明显;最后,隐私保护和决策透明度问题也需要进一步解决,以确保在应用过程中不泄露敏感信息,并使决策过程更加公开透明。未来的研究可以进一步关注以下三个方面:一是增强AI系统的可解释性和透明性,以提高决策者对AI技术的信任;二是加强数据隐私保护和安全措施,确保在应用过程中不会泄露敏感信息;三是通过跨学科合作,推动AI技术与应急管理的深度融合,形成更加完善的应急管理体系。
推进AI在应急管理中的应用,需要各方的共同努力,通过不断完善和创新,充分发挥AI的应用潜力,提升应急管理的整体效能,从而为中国的应急管理提供新的路径和方法,为全球应急管理的发展贡献中国智慧和经验。
参考文献:
[1]樊博, 顾恒轩. 数字技术为应急管理全过程赋能[EB/OL]. (2021−04−14)[2024−06−01]. https://mp.weixin.qq.com/s/q6YbYHH-6x48UP2AuYsOBw.
[2]周利敏, 钟娇文. 应急管理中社交媒体的嵌入:理论构建与实践创新[J]. 中国行政管理, 2022(1): 121—127.
[3]EMAMI P, MARZBAN A. The synergy of artificial intelligence (AI) and geographic information systems (GIS) for enhanced disaster management: Opportunities and challenges [J]. Disaster Medicine and Public Health Preparedness, 2023, 17(e507): 1—2. doi: 10.1017/dmp.2023.174
[4]张海波, 戴新宇, 钱德沛, 等. 新一代信息技术赋能应急管理现代化的战略分析[J]. 中国科学院院刊, 2022, 37(12): 1727—1737.
[5]TAN L, GUO J, MOHANARAJAH S, et al. Can we detect trends in natural disaster management with artificial intelligence? A review of modeling practices [J]. Natural Hazards, 2021, 107(3): 2389—2417. doi: 10.1007/s11069-020-04429-3
[6]NEARING G, COHEN D, DUBE V, et al. Global prediction of extreme floods in ungauged watersheds [J]. Nature, 2024, 627(8004): 559—563. doi: 10.1038/s41586-024-07145-1
[7]周利敏, 童星. 灾害响应2.0:大数据时代的灾害治理——基于“阳江经验”的个案研究[J]. 中国软科学, 2019(10): 1—13. doi: 10.3969/j.issn.1002-9753.2019.10.001
[8]WANG Y, CHUNG S H. Artificial intelligence in safety — Critical systems: A systematic review [J]. Industrial Management & Data Systems, 2022, 122(2): 442—470.
[9]詹承豫, 刘锴. 统筹发展和安全视角下中国航空应急救援体系建设战略研究——基于“情景—任务—能力”的分析框架[J]. 北京航空航天大学学报(社会科学版), 2024, 37(3): 68—78.
[10]BUDD J, MILLER B S, MANNING E M, et al. Digital technologies in the public-health response to COVID-19 [J]. Nature Medicine, 2020, 26(8): 1183—1192. doi: 10.1038/s41591-020-1011-4
[11]詹承豫, 高叶, 李治博. 应急管理中技术赋能的双螺旋机理研究——以人脸识别技术在疫情常态化防控中的应用为例[J]. 行政管理改革, 2021(7): 68—78. doi: 10.3969/j.issn.1674-7453.2021.07.007
[12]SYROWATKA A, KUZNETSOVA M, ALSUBAI A, et al. Leveraging artificial intelligence for pandemic preparedness and response: A scoping review to identify key use cases [J]. npj Digital Medicine, 2021, 4(1): 96. doi: 10.1038/s41746-021-00459-8
[13]LI J, WANG L, TANG S, et al. Risk-based crowd massing early warning approach for public places: A case study in China [J]. Safety Science, 2016, 89: 114—128. doi: 10.1016/j.ssci.2016.06.007
[14]KAUR R, GABRIJELČIČ D, KLOBUČAR T. Artificial intelligence for cybersecurity: Literature review and future research directions [J]. Information Fusion, 2023, 97: 101804. doi: 10.1016/j.inffus.2023.101804
[15]张伟东, 高智杰, 王超贤. 应急管理体系数字化转型的技术框架和政策路径[J]. 中国工程科学, 2021, 23(4): 107—116.
[16]MUNAWAR H S, MOJTAHEDI M, HAMMAD A W A, et al. Disruptive technologies as a solution for disaster risk management: A review [J]. Science of The Total Environment, 2022, 806: 151351. doi: 10.1016/j.scitotenv.2021.151351
[17]周慎, 朱旭峰, 薛澜. 人工智能在突发公共卫生事件管理中的赋能效用研究——以全球新冠肺炎疫情防控为例[J]. 中国行政管理, 2020(10): 35—43.
[18]LIN A, WU H, LIANG G, et al. A big data-driven dynamic estimation model of relief supplies demand in urban flood disaster [J]. International Journal of Disaster Risk Reduction, 2020, 49: 101682. doi: 10.1016/j.ijdrr.2020.101682
[19]ALAM F, IMRAN M,OFLI F. Image4Act: Online social media image processing for disaster response[C]//2017 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining (ASONAM’17), New York:Association for Computing Machinery, 2017: 601—604.
[20]JAYAWARDENE V, HUGGINS T J, PRASANNA R, et al. The role of data and information quality during disaster response decision-making [J]. Progress in Disaster Science, 2021, 12: 100202. doi: 10.1016/j.pdisas.2021.100202
[21]DÍAZ-RODRÍGUEZ N, DEL S J, COECKELBERGH M, et al. Connecting the dots in trustworthy artificial intelligence: From AI principles, ethics, and key requirements to responsible AI systems and regulation [J]. Information Fusion, 2023, 99: 101896. doi: 10.1016/j.inffus.2023.101896
[22]张涛, 崔文波, 刘硕, 等. 英国国家数据安全治理:制度、机构及启示[J]. 信息资源管理学报, 2022, 12(6): 44—57.
[23]STAHL B C, WRIGHT D. Ethics and privacy in AI and big data: Implementing responsible research and innovation [J]. IEEE Security & Privacy, 2018, 16(3): 26—33.
[24]GRIMMELIKHUIJSEN S. Explaining why the computer says no: Algorithmic transparency affects the perceived trustworthiness of automated decision-making [J]. Public Administration Review, 2023, 83(2): 241—262. doi: 10.1111/puar.13483
[25]KUGLITSCH M M, PELIVAN I, CEOLA S, et al. Facilitating adoption of AI in natural disaster management through collaboration [J]. Nature Communications, 2022, 13(1): 1579. doi: 10.1038/s41467-022-29285-6
[26]SUN W, BOCCHINI P, DAVISON B D. Applications of artificial intelligence for disaster management [J]. Natural Hazards, 2020, 103(3): 2631—2689. doi: 10.1007/s11069-020-04124-3
[27]周利敏. 面向人工智能时代的灾害治理——基于多案例的研究[J]. 中国行政管理, 2019, 8: 66—74.
[28]詹承豫. 大力推动安全关口前移[J]. 中国应急管理, 2023, 2: 11—12.
[29]易承志. 进一步建立健全风险研判机制[N]. 学习时报, 2019−03−04(5).
[30]KIBRIA M G, NGUYEN K, VILLARDI G P, et al. Big data analytics, machine learning, and artificial intelligence in next-generation wireless networks [J]. IEEE Access, 2018, 6: 32328—32338. doi: 10.1109/ACCESS.2018.2837692
[31]AGREBI S, LARBI A. Chapter 18 — Use of artificial intelligence in infectious diseases [M]//BARH D. Artificial Intelligence in Precision Health. New York: Academic Press, 2020: 415—438.
[32]肖芸茹. 论不确定条件下的风险决策[J]. 南开经济研究, 2003(1): 34—37. doi: 10.3969/j.issn.1001-4691.2003.01.007
[33]HALIM Z, KALSOOM R, BASHIR S, et al. Artificial intelligence techniques for driving safety and vehicle crash prediction [J]. Artificial Intelligence Review, 2016, 46: 351—387. doi: 10.1007/s10462-016-9467-9
[34]唐新华. 人工智能在国际风险评估和决策管理中的应用框架[J]. 当代世界, 2018, 10: 27—30.
[35]PATÉ C M E. Warning systems in risk management [J]. Risk Analysis, 1986, 6(2): 223—234. doi: 10.1111/j.1539-6924.1986.tb00210.x
[36]JIAO P, ALAVI A H. Artificial intelligence in seismology: Advent, performance and future trends [J]. Geoscience Frontiers, 2020, 11(3): 739—744. doi: 10.1016/j.gsf.2019.10.004
[37]徐建华, 秦川申. 国际风险沟通研究进展与实践探索[J]. 中国行政管理, 2022, 7: 119—129.
[38]RENN O. Risk communication: Insights and requirements for designing successful communication programs on health and environmental hazards [M]// Handbook of Risk and Crisis Communication. London: Routledge, 2020: 80—98.
[39]ZHANG C, FAN C, YAO W, et al. Social media for intelligent public information and warning in disasters: An interdisciplinary review [J]. International Journal of Information Management, 2019, 49: 190—207. doi: 10.1016/j.ijinfomgt.2019.04.004
[40]ZHANG L, LI H, CHEN K. Effective risk communication for public health emergency: Reflection on the COVID-19 (2019-nCoV) outbreak in Wuhan, China [J]. Healthcare, 2020, 8(1): 64. doi: 10.3390/healthcare8010064
[41]OGIE R I, RHO J C, CLARKE R J. Artificial intelligence in disaster risk communication: A systematic literature review [C]//2018 5th International Conference on Information and Communication Technologies for Disaster Management (ICT-DM). Sendai: IEEE, 2018: 1—8.
[42]MOUSAVI S M, ELLSWORTH W L, ZHU W, et al. Earthquake transformer — An attentive deep-learning model for simultaneous earthquake detection and phase picking [J]. Nature Communications, 2020, 11(1): 3952. doi: 10.1038/s41467-020-17591-w
[43]ZHANG Y, GENG P, SIVAPARTHIPAN C B, et al. Big data and artificial intelligence based early risk warning system of fire hazard for smart cities [J]. Sustainable Energy Technologies and Assessments, 2021, 45: 100986. doi: 10.1016/j.seta.2020.100986
[44]QAZI M H, KHAN F, KIM J, et al. Developing a VR-based training platform for emergency fire handling services using unity 3D [C]// 2023 International Conference on Frontiers of Information Technology. Pakistan: IEEE, 2023: 102—107.
[45]邓鹏, 袁狄平, 靳学胜, 等. 石化基地灭火救援指挥VR训练系统设计与实现[J]. 中国安全科学学报, 2021, 31(12): 160—166.
[46]石彪, 池宏, 祁明亮, 等. 资源约束下的应急预案重构方法研究[J]. 中国管理科学, 2017, 25(1): 117—128.
[47]ZHANG F, QIAO Q, WANG J, et al. Data-driven AI emergency planning in process industry [J]. Journal of Loss Prevention in the Process Industries, 2022, 76: 104740. doi: 10.1016/j.jlp.2022.104740
[48]刘君, 胡伟超, 孙广林. 公路突发事件应急预案自动生成系统开发及应用[J]. 中国安全生产科学技术, 2017, 13(10): 53—58.
[49]姚迪. 当前突发事件应急管理宣传教育的思考[J]. 灾害学, 2009, 24(2): 134—137.
[50]QIAN Y, VADDIRAJU S, KHAN F. Safety education 4.0 — A critical review and a response to the process industry 4.0 need in chemical engineering curriculum [J]. Safety Science, 2023, 161: 106069. doi: 10.1016/j.ssci.2023.106069
[51]YU M, YANG C, LI Y. Big data in natural disaster management: A review [J]. Geosciences, 2018, 8(5): 165. doi: 10.3390/geosciences8050165
[52]WILLIAM V, JOSELIN G, Santiago S. Toward intelligent monitoring in IoT: AI applications for real-time analysis and prediction [J]. IEEE Access, 2024, 12: 40368—40386. doi: 10.1109/ACCESS.2024.3376707
[53]JONES A, KUEHNERT J, FRACCARO P, et al. AI for climate impacts: Applications in flood risk [J]. npj Climate and Atmospheric Science, 2023, 6(1): 63. doi: 10.1038/s41612-023-00388-1
[54]杨晓光, 胡仕星月, 张梦雅. 智能高速公路交通应用技术发展综述[J]. 中国公路学报, 2023, 36(10): 142—164.
[55]王修远, 孙敏, 李修贤, 等. Grid A*:面向野外空地协同应急处置的快速路径规划[J]. 遥感学报, 2024, 28(3): 767—780.
[56]LI X, LIANG X, WANG X, et al. Deep reinforcement learning for optimal rescue path planning in uncertain and complex urban pluvial flood scenarios [J]. Applied Soft Computing, 2023, 144: 110543. doi: 10.1016/j.asoc.2023.110543
[57]JIAO Z, JI H, YAN J, et al. Application of big data and artificial intelligence in epidemic surveillance and containment [J]. Intelligent Medicine, 2023, 3(1): 36—43. doi: 10.1016/j.imed.2022.10.003
[58]SCHEDL D C, KURMI I, BIMBER O. Search and rescue with airborne optical sectioning [J]. Nature Machine Intelligence, 2020, 2(12): 783—790. doi: 10.1038/s42256-020-00261-3
[59]傅瑜, 陈定定. 人工智能在反恐活动中的应用、影响及风险[J]. 国际展望, 2018, 10(4): 119—137.
[60]刘晶晶, 张新颖, 桂莉, 等. 人工智能在军事医学中的应用现状及展望[J]. 医疗卫生装备, 2021, 42(4): 92—97.
[61]MATEO G G, VEITCHM J, SMITH L, et al. Towards global flood mapping onboard low cost satellites with machine learning [J]. Scientific Reports, 2021, 11(1): 7249. doi: 10.1038/s41598-021-86650-z
[62]刘奕, 张宇栋, 张辉, 等. 面向2035年的灾害事故智慧应急科技发展战略研究[J]. 中国工程科学, 2021, 23(4): 117—125.
[63]王海峰, 周成江, 陈雪峰, 等. 无人机高分遥感图像检测震灾中损坏建筑物[J]. 遥感学报, 2024, 28(4): 911—925.
[64]XU Y, WU Z, ZHANG H, et al. Land subsidence monitoring and building risk assessment using inSAR and machine learning in a loess plateau city — A case study of Lanzhou, China [J]. Remote Sensing, 2023, 15(11): 2851. doi: 10.3390/rs15112851
[65]陈新华, 蒋建文, 周华, 等. COVID-19疫情背景下的医院人工智能快速布局和发展战略探讨[J]. 中国工程科学, 2020, 22(2): 130—137.
[66]LIU J, LUO H, LIU H. Deep learning-based data analytics for safety in construction [J]. Automation in Construction, 2022, 140: 104302. doi: 10.1016/j.autcon.2022.104302
[67]MOHAMED A, KHALID A, TAMER K, et al. Edge technologies for disaster management: A survey of social media and artificial intelligence integration [J]. IEEE Access, 2023, 11: 73782—73802. doi: 10.1109/ACCESS.2023.3293035
[68]FITZPATRICK K K, DARCY A, VIERHILE M. Delivering cognitive behavior therapy to young adults with symptoms of depression and anxiety using a fully automated conversational agent (woebot): A randomized controlled trial [J]. JMIR Ment Health, 2017, 4(2): e19. doi: 10.2196/mental.7785
[69]CHENG Y, JIANG H. AI-powered mental health chatbots: Examining users’ motivations, active communicative action and engagement after mass-shooting disasters [J]. Journal of Contingencies and Crisis Management, 2020, 28(3): 339—354. doi: 10.1111/1468-5973.12319
[70]HOFEDITZ L, EHNIS C, BUNKER D, et al. Meaningful use of social bots? Possible applications in crisis communication during disasters [C]//ECIS/Proceedings of the 27th European Conference on Information Systems, Stockholm & Uppsala, Sweden: ECIS, 2019: 1—16.
[71]范向民, 范俊君, 田丰, 等. 人机交互与人工智能:从交替浮沉到协同共进[J]. 中国科学: 信息科学, 2019, 49(3): 361—368.
[72]NILSSON N J. Principles of artificial intelligence [M]. Berlin: Springer, 1982: 17—52.
[73]TANG J, LEBEL A, JAIN S, et al. Semantic reconstruction of continuous language from non-invasive brain recordings [J]. Nature Neuroscience, 2023, 26(5): 858—866. doi: 10.1038/s41593-023-01304-9
[74]ALON-BARKAT S, BUSUIOC M. Human-AI interactions in public sector decision making: “Automation bias” and “selective adherence”to algorithmic advice [J]. Journal of Public Administration Research and Theory, 2023, 33(1): 153—169. doi: 10.1093/jopart/muac007
[75]SELTEN F, ROBEER M, GRIMMELIKHUIJSEN S. “Just like I thought”: Street-level bureaucrats trust AI recommendations if they confirm their professional judgment [J]. Public Administration Review, 2023, 83(2): 263—278. doi: 10.1111/puar.13602
[76]GRIMMELIKHUIJSEN S G, MEIJER A J. Effects of transparency on the perceived trustworthiness of a government organization: Evidence from an online experiment [J]. Journal of Public Administration Research and Theory, 2014, 24(1): 137—157. doi: 10.1093/jopart/mus048
[77]中国日报网. 美媒:美执法机构依赖技术导致错误抓捕 有色人种被误识可能性高于白人100倍[EB/OL]. (2023−01−04)[2024−06−01]. https://baijiahao.baidu.com/s?id=1754087652154913907&wfr=spider&for=pc.
[78]新华社. 美政府公布夏威夷“乌龙”导弹袭击警报初步调查报告[EB/OL]. (2018−01−31)[2024−06−01]. http://www.xinhuanet.com/world/2018-01/31/c_1122346928.htm.
[79]ELAMROUSSI A. San Francisco police can now use robots to kill in rare circumstances [EB/OL]. (2022−11−30)[2024−06−01]. https://www.cnn.com/2022/11/30/us/san-francisco-police-remote-control-robots.
[80]ABRAHAM Y. “Lavender”: The AI machine directing Israel’s bombing spree in Gaza [EB/OL]. (2024−04−03)[2024−06−01]. https://www.972mag.com/lavender-ai-israeli-army-gaza/.
转载或引用时请注明来源
北京航空航天大学学报(社会科学版), 2024, 37(5): 26-40.
如需下载全文,请点击左下角【阅读原文】
长按二维码识别关注本刊