6G与XAI的融合

6G与XAI的融合

王思野¹，高荦雨¹，赵中原²，赵雪莹¹，徐文波¹

（1.北京邮电大学人工智能学院，北京 100876；

2.北京邮电大学信息与通信工程学院，北京 100876）

【摘  要】在未来6G网络的发展中，AI被视为关键驱动力，然而其“黑箱”性质与传统通信系统的强可解释性形成了明显冲突。通过分析AI在通信领域中的应用以及AI系统可解释性的重要性，深入探讨引入可提供透明度和可解释性的XAI技术的必要性和可行性。涵盖智能感知层的数据收集、数据挖掘层的特征工程、智能控制层的资源分配和网络管理决策，以及智能应用层的用户交互和AI决策解释。XAI技术有望显著提高6G网络智能化应用的透明度和可解释性，但其实现和应用仍面临多样性和复杂性挑战。未来研究需进一步探索XAI的潜力，特别是在通信领域的深层应用方法，使得人工智能落地应用与通信系统形成“强强耦合”，进一步促进通信系统的全面智能化发展。

【关键词】6G；AI；XAI

doi:10.3969/j.issn.1006-1010.20240731-0002

中图分类号：TN929.5        文献标志码：A

文章编号：1006-1010(2024)08-0111-07

引用格式：王思野,高荦雨,赵中原,等. 6G与XAI的融合[J]. 移动通信, 2024,48(8): 111-117.

WANG Siye, GAO Luoyu, ZHAO Zhongyuan, et al. Integration of 6G and XAI[J]. Mobile Communications, 2024,48(8): 111-117.

0   引言

随着全球范围内5G（Fifth Generation Mobile Communication Technology，第五代移动通信技术）网络的逐步商业化部署，通信技术正迅速迈向6G（Sixth Generation Mobile Communication Technology，第六代移动通信技术）时代^[1]。6G网络预计将在带宽、覆盖率、可靠性和能效等方面实现显著提升，并将通过引入全面的AI（Artificial Intelligence，人工智能）技术，推动网络的智能化和自动化发展。6G不仅是现有5G技术的延伸，更是一个全新的、更智能化的通信体系，而AI将是全面赋能6G网络及其应用的关键。在自适应优化方面AI能够根据实时数据动态调整网络参数，优化传输性能。基于AI的预测分析能够通过实时获取的数据预测未来事件，如资源可用性、用户偏好、用户行为、用户位置和流量模式等。基于这些预测结果，可以主动优化网络，例如微调资源分配、部署主动安全解决方案、预迁移边缘服务和边缘AI模型，从而提升网络整体性能和用户体验。在智能化网络管理方面，AI能够自动检测并恢复故障，提升网络的可靠性和稳定性。

然而，传统通信技术的设计和实现是基于明确的理论和标准，这些理论和标准经过多年验证和完善，使得系统行为可以通过数学模型和算法进行解释和预测。经过长期的发展和应用，传统通信技术形成了一套成熟的技术体系和工程实践方法论，不断在实际应用中得到验证和改进，使得系统行为更加可预测和可解释。国际标准如3GPP和IEEE详细规定了系统的各项参数和操作流程，保障了不同厂商和设备之间的互操作性和系统行为的可解释性。丰富的调试和监控手段，如频谱分析仪和信号发生器，帮助工程师实时监测和分析系统行为，快速定位和解决问题，从而提升系统的可解释性。此外，传统通信系统的许多模块、部件基于确定性算法和固定流程，输入输出关系相对明确，系统行为易于解释和预测。

相比之下，现代AI驱动的通信系统虽然在性能和智能化方面有显著提升，但其“黑箱”性质使得系统的决策过程无法解释，很难被用户和运营商理解和信任。AI模型尤其是深度学习模型，包含大量参数和复杂的计算过程，其决策机制不直观且难以追溯和跟踪，使得用户和运营商不易理解模型如何得出特定结果。这些模型的内部工作机制对外界是封闭的，缺乏透明度，即使是模型设计者，有时也无法全面解释模型的每一个决策过程。此外，通信系统中对安全性和隐私保护的高要求进一步加剧了这一问题。由于黑箱模型难以有效评估其在安全和隐私方面的表现，从而增加了系统的潜在风险。再者，通信系统中的许多决策需要高度的可靠性和信任度，而黑箱模型的不可解释性使得用户和运营商难以验证其决策的可靠性，导致信任度降低。最后，运营商在网络规划、管理和优化过程中，通常需要详细的报告和数据支持，以做出明智的决策，而黑箱模型无法提供可解释的决策依据，从而影响其应用。

AI在通信领域的黑箱性质阻碍了其广泛应用，迫切需要引入XAI（Explainable AI，可解释人工智能）技术，以提高决策过程的透明度和可信度，从而满足通信系统对安全性、隐私保护和可靠性的高要求。如图1所示，在AI驱动的6G网络架构^[2]中，智能感知层负责通过多种传感器在各种环境中收集数据。数据挖掘层处理这些数据，执行特征工程任务如降维，以保留数据的最关键部分。智能控制层使用这些数据进行资源分配和网络管理等决策。XAI帮助诊断AI错误决策的原因，提高系统透明度和效率。顶层的智能应用层直接与终端用户互动，解释AI的决策过程，如自动驾驶中的导航决策，增强用户对系统的信任。这种AI的可解释性将支持6G网络的多种分析需求，包括规定性、预测性和诊断性分析等。

尽管XAI在提升6G网络透明度和可解释性方面展现出巨大潜力，但其实现过程仍面临诸多挑战。例如，如何在保证模型性能的前提下，提供高质量的解释，以及如何处理不同应用场景中的多样性和复杂性问题。随着XAI技术的不断发展，其在6G网络中的应用将更加广泛和深入。通过结合先进的AI算法和强大的模型解释能力，XAI将为6G网络的高效管理和优化提供强有力的支持，推动通信技术的持续创新和进步。

1   XAI技术

XAI的核心在于可解释性和透明度。与传统的AI相比，XAI在以下几个方面有明显的不同：首先是关注点，传统AI主要关注模型的性能和准确性，而XAI不仅关注这些方面，还特别强调模型决策过程的可解释性和透明度。其次是用户信任，由于XAI能够提供清晰的解释，它更容易获得用户的信任。传统AI模型的黑箱性质常常导致用户对其输出结果产生怀疑，尤其是在涉及重要决策的领域，如医疗诊断和金融预测。此外，在法律和伦理合规方面，随着AI应用的扩展，许多国家和地区开始出台相关法规，要求AI系统的决策过程必须是透明和可解释的。XAI在这方面具有显著优势，因为它能够满足这些合规要求，从而减少法律风险。在应用场景方面，XAI特别适用于那些对解释性有高要求的应用需求，如医疗、金融、法律及安全防控等领域。在这些领域，决策的透明度和解释性不仅有助于提高用户信任，还能够在发生争议时提供有力的支持。

1.1  XAI方法

XAI方法根据功能特性和目标分类。目前，两种主要方式为：一是构建透明模型以替代黑箱模型；二是通过事后解释回溯提供模型的可解释性。

如图2所示，本文根据底层学习模型、数据细粒度和解释任务对XAI方法进行分类。XAI旨在增强黑箱模型的透明度，帮助用户理解其决策过程和推理依据，从而提升其可信度和应用范围。特征效果/影响、变量贡献和特征级别解释是XAI文献中经常使用的术语，用来描述每个输入特征对模型预测贡献的方式或程度，即特征重要性^[3-4]。

目前，存在大量不同的XAI方法，通过特征级别解释来解释预测是共同的目标。有些学者将XAI方法根据应用于完成特征重要性任务的机制进行分类。特征归因是特征重要性的核心。当然，验证重要性的方式并不仅限于此。表1列举了一些主流XAI的主要方法。

1.2  XAI评估方法与指标

虽然存在多种XAI方法，但如何有效评估其解释结果却是一个挑战。评估的复杂性部分来自于缺乏“基准参考”，即无法确定每个黑箱问题的正确解释，这导致了评估方法必须依赖于公理、模拟数据或专家判断的假设。此外，大多数实际应用中缺乏可用的基准参考，使得评估更为困难。

为了应对这一挑战，XAI的评估方法主要分为四大类，即：解释对模型和输入数据扰动的敏感性测量；通过特征消融推断解释行为；在已知属性重要性的控制设置中评估解释；基于人类分析师洞察力的视觉评估^[24]。在XAI中，定性和定量评估通常分别对应解释的合理性和对模型行为的可信度。敏感性分析旨在测量解释对模型和输入数据扰动的响应程度，其基本思想是通过改变输入或模型来检查解释的稳健性和一致性。特征消融方法通过按重要性顺序逐步移除特征来评估解释的全局或局部影响，从而确定解释中特征的相对贡献。

在实际应用中，XAI方法的评估面临着诸多挑战和复杂性问题，以及度量标准和方法的多样性问题。现有的评估指标往往侧重于解释的忠实度、稳定性和公平性等方面。然而，这些指标如何在不同场景下的应用仍然亟待研究。

2   XAI在6G中的应用

2.1  智能无线电

大规模无线通信的极高数据速率和低延迟是6G的关键要求。最早的智能无线电信号处理方法基于ML（Machine Learning，机器学习）方法。近年来，性能更优的能够处理更大的、更为嘈杂和混乱的无线电信号原始数据集^[25]的DL（Deep Learning，深度学习）方法已广泛应用于智能无线电领域^[26-27]。虽然DL可以从多尺度表示的原始无线电信号中提取潜在特征来学习复杂的识别模式，但通常缺乏明确的可解释性。XAI与智能无线电的融合可以进一步增强网络的自我管理能力和服务质量。随着通信系统变得更加复杂和自动化，传统的无线电管理方法无法满足高效性和透明性的双重需求。此时，XAI的引入成为了提升智能无线电性能的关键。XAI的核心价值在于可以明晰AI算法在网络决策过程中的逻辑和原理。这一点在智能无线电中尤为重要，因为无线电频谱资源有限，且需在众多设备和应用间高效分配。XAI通过解释资源分配和功率控制的决策过程，使网络运营商能够优化其策略，确保网络的公平性和高效性。当涉及大量设备的6G网络需要频谱分配时，XAI驱动的频谱管理能够智能地支持大规模连接和各种服务。如图3所示的一种智能频谱管理框架，在XAI技术的赋能下，通信系统可以智能地利用不同类型的数据传输不同频段的频谱，以满足丰富多元的服务需求，例如可见光和太赫兹频段可用于大带宽的高容量传输，而低频段可用于卫星到地面传输的广播短消息等^[2]。

为了在6G通信中实现智能无线电技术，开放式无线接入网等新型RAN架构已经开始在密集的无线环境中相互协作和连接。XAI将通过包括动态小区选择、智能波束赋形、信道估计、自适应编码解码和自动调制识别在内的机制来优化移动用户与基站之间的连接。这种优化显著提高了有限的无线电频谱的利用效率，并保持了高速的数据传输率。

实际上，XAI不仅能帮助检测训练人工智能模型所用无线电信号数据中的异常值，还能识别深度神经网络架构中哪些执行层和模块在调制分类和信道估计等模块中效率低下。此外，XAI还能指出导致智能波束赋形人工智能模型故障和性能退化的数据、模型配置和训练选项，同时提供额外的评估指标，以加强6G网络中基于人工智能决策的细胞选择。综上，这些功能共同强化了网络的智能化和用户体验，推动了无线通信技术的进步。

2.2  资源管理

在6G网络中，随着智能设备数量的迅速增加，以及支撑万物互联的接入需求，资源管理将变得更加困难。无线网络的整体性能取决于如何有效地监控和管理超维无线资源（如时隙、频带、调制类型和正交码）。此外，在网络设计阶段，考虑到无线信道变化和流量负载属性，会影响具有不同服务质量要求的用户之间的连通性。在新的万物互联应用背景下，高数据速率、低延迟、高效频谱利用率和个性化服务的需求不断增加，使得资源监控和管理的问题尤为重要^[28]。在过去的几十年中，具备智能特性的一些方法已有应用于解决通信相关领域中的许多资源分配和管理难题。通过网络功能虚拟化实现软件与硬件的解耦，基于ML和DL的解决方案已应用于5G无线接入网、传输网和核心网的不同资源管理任务中，包括调度和占空比管理、资源分配、功率分配、干扰管理、资源发现、小区选择和移动性估计。然而，这些模型大多缺乏可解释性，阻碍了网络运营商和最终用户之间信任的建立。

在6G网络中，资源管理方法不仅要保证高性能，还需要借助XAI来提高其可靠性和可信度。对于网络运营商来说，XAI将改善计算卸载、资源分配和管理的效率，确保训练的AI模型在各种无线场景下的鲁棒性和性能^[29]。对于终端用户来说，XAI的详细参数和解释将优化流量分配，最小化智能资源受限边缘设备的能耗，从而在提供高服务质量与覆盖范围的同时增强用户信任^[30]。Nascita等人^[31]提出了基于多模态DL的移动流量分类框架MIMETIC-ENHANCED，适用于无线接入网和传输网络。MIMETIC-ENHANCED的XAI模块能够识别出与模型输出相关的最高置信概率的输入集，尤其是Deep SHAP允许分类框架基于量化每个输入的重要性值生成局部解释，并通过汇总每种模态的输入的重要性值生成全局解释。在实验中，该框架在可信度和可解释性方面进行了评估。

在6G中的MEC（Mobile Edge Computing，移动边缘计算）方面，利用ML和DL算法优化计算卸载已取得显著进展，从而提高用户设备的能效。然而，许多先进的基于DL的卸载和资源分配方法透明度低，可解释性差，可能导致一些操作失败和难以修复或更新深度模型。在此情况下，LIME等XAI候选方法可用于解释时间序列数据输入的深度网络^[32]，帮助XAI利益相关者识别最重要的属性，以优化卸载计算或最小化能耗。通过提供深入分析和额外相关信息，XAI可以指导利益相关者和系统资源管理者理解黑箱模型，例如识别深度神经网络中对性能影响最小的层以进行删除而不影响资源分配和利用的性能，确定训练阶段的一组可配置参数（如学习率和正则化因子）以实现更好的学习收敛，管理资源分配模型的准确性与复杂性之间的关系，以实现整体系统资源优化，并指出不同架构的全局特征与局部属性之间的潜在关联，以选择最合适的深度网络。

2.3  边缘网络

边缘AI作为专注于将移动边缘计算、通信网络和人工智能无缝集成的框架，被视为未来6G蜂窝网络最关键的使能技术之一^[33-34]，在实现6G网络系统类人智能中扮演着至关重要的角色^[35]。通过大规模部署AI赋能的分布式移动边缘服务器，边缘AI能够在服务请求和数据生成侧执行处理和决策，使其成为未来6G网络的重要组成部分，将为AI广泛集成到未来的6G网络中提供支持^[36]。

如图4所示为AI赋能的移动边缘计算框架，它包括中央云计算和边缘计算。在边缘计算服务器中，由于能力有限，可以使用轻量级AI算法为边缘场景（如交通和农业）提供智能应用，基于RL（Reinforcement Learning，强化学习）的边缘计算资源管理是一种无需模型的方案，不需要历史知识，可以用于学习环境动态并在实时内做出合适的控制决策。在中央云服务器中，由于具有强大的计算能力，可以使用复杂的集中式大规模AI算法提供各种学习功能。由于MEC网络中的服务应用是多样化和动态的，基于AI的分类可以用于有效地为各种服务特性定制流量流决策。此外，可以通过基于AI的集群而不是单独决策来获得MEC服务器关联，这将更有效地减少参与者数量。

对于6G网络中的边缘AI，其基本要求之一是能够从无线设备产生的大量原始数据中自动创建标签。分布式AI是边缘AI的关键需求之一，该技术能在云数据中心和分布式边缘服务器之间共同进行计算处理。安全性同样是边缘基础架构的核心需求。边缘基础架构可能面临的安全威胁包括资源或服务的操纵、服务拒绝攻击、中间人攻击和隐私泄露。边缘AI能够显著提高自动化程度，并减少6G蜂窝网络对人工智能的依赖。在一些关键情形下，人类必须介入决策过程。但人类可能难以理解边缘AI在6G应用中预测的原因，这使得做出确信的决策变得非常困难。为应对这些挑战，可以在智能控制层的AI边缘使用XAI，使得6G网络能够自我演化和自适应，实现完全自主化，同时也使得人类能够轻松地审计AI模型做出的决策。

XAI在确保启用边缘AI的6G网络性能方面将发挥巨大作用。通过XAI算法对决策的合理化，边缘处的验证、验证和审计将变得合理和合法。例如，在诸如无人机辅助的远程手术系统、智能电网和边境监控等任务关键的边缘AI启用的6G应用中，XAI可以帮助理解边缘处AI算法的决策/预测原因，从而使人类能够做出更好的决策。

3   结束语

6G网络与XAI的融合是未来通信技术发展的重要方向。6G网络不仅需要高带宽、低延迟和广泛的覆盖，还需要在高度智能化的环境中进行实时决策。传统AI模型的黑箱性质与通信系统的高可解释性需求形成了冲突。XAI通过提供透明的决策过程和可解释性，使得6G网络在保持高性能的同时，能够赢得用户和运营商的信任。尽管XAI技术的实现仍面临挑战，但其在提升6G网络透明度、可靠性和用户信任度方面展现出巨大潜力。未来的研究和应用应继续探索XAI在6G网络中的潜力，以实现更加可靠、安全和智能化的通信系统，为各类应用场景提供卓越的用户体验和服务质量。