「工业人工智能」论文分享:一种面向约束多解多目标优化的多任务辅助进化算法

文摘   2024-06-16 09:26   浙江  


引 言

约束多解多目标优化问题(Constrained Multimodal Multiobjective Optimization Problems, CMMOPs)作为优化领域中极具挑战的一类问题,近年来在日常生活中乃至工业界都受到了越来越多的关注。例如,常见的购房选址问题就可以抽象为CMMOPs。对于有购房需求的用户来说,一套价位低、面积大并且位于湖边的房子是理想的选择。该问题中,价位低和面积大是两个互相冲突的目标。而该地区包含多个湖泊,因此在每个湖边都存在符合这些目标的房子,这体现了问题的多解(文献中也常译为“多模态”)特性。然而,由于一些客观因素的存在,例如房子已售或没有电梯,这些房子对于用户来说就成为了不可行的选择。因此,房子在售并具有电梯是此问题的约束条件。多个湖泊的存在代表了多解特性,而价位低和面积大是两个需要同时优化的目标,房子在售且具有电梯是必须满足的约束条件。

通过该例的分析,我们可以得知CMMOPs的主要挑战在于如何同时实现三类平衡:

  • 约束条件与目标函数之间的平衡。

  • 探索与开发之间的平衡。

  • 决策空间和目标空间之间的搜索平衡。

为了解决这些挑战,最近东北大学联合西湖大学可信及通用人工智能实验室在计算智能顶级期刊IEEE TEVC上发表了一篇题为“A Multitask-Assisted Evolutionary Algorithm for Constrained Multimodal Multiobjective Optimization”的文章。该研究采用多任务优化的思想,构建两个辅助任务,并结合单向知识迁移的思想,尝试有效解决约束多解多目标优化问题。让我们一起来了解吧!



原文链接:https://ieeexplore.ieee.org/document/10509586


1

研 究 背 景


1.1

问题背景

约束多解多目标优化问题(CMMOPs)是指具有多个等价约束Pareto最优解集映射至目标空间同一个约束Pareto前沿的优化问题。该类问题在现实生活中广泛存在,例如选址问题[1],即距离最小化问题。如图1所示,有三个目标需要优化:1)从选定地点到学校的距离;2)选定地点到医院的距离;3)所选地点到便利店的距离。图1显示了四个与这些目标位置具有相同最小距离的非支配选项,分别标记为选项1、选项2、选项3和选项4。然而,选项1和选项4位于河流中,是不可行解。选项2、选项3是两个满足约束条件的Pareto最优解,如果算法能找到满足约束条件的所有Pareto最优解,则能为不同租户提供更多的备选方案。

图1:约束多解多目标选址问题示意图


1.2

问题描述及难点

根据目标空间中约束Pareto前沿(CPF)和无约束Pareto前沿(UPF)之间的关系,CMMOPs 可以分为四类(如图2所示):

1) CPF和UPF不重叠,
2) CPF和UPF部分重叠,
3) CPF是UPF的一部分,
4) CPF和UPF相同。

(a) CPF和UPF不重叠

(b) CPF和UPF部分重叠

(c) CPF是UPF的一部分

(d) CPF和UPF相同

图2:目标空间中CPF与UPF的关系


然而,决策空间中多个等效Pareto最优解集(PS)的存在给问题增加了复杂性,导致图2所示的每类又包含四种不同的情景。以图2(a)为例, 约束PS(CPS)与相应的可行域(FR)之间的关系导致以下四类情况的产生(如图3所示):

1) 相同的CPS和相同的FR,
2) 相同的CPS和不同的FR,
3) 不同的CPS和相同的FR,
4) 不同的CPS和不同的FR。

不同大小形状的CPS和FR会导致算法搜索的不平衡。不同的CPS拥有不同大小的吸引区域,当CPS间的吸引区域的规模相差较大时,算法倾向于搜索吸引区域规模较大的CPS,从而忽略吸引区域规模较小的CPS。与之相似,算法更倾向于搜索FR较大的CPS而忽略FR较小的CPS。

(a) 相同的CPS和相同的FR

(b) 相同的CPS和不同的FR

(c) 不同的CPS和相同的FR

(d) 不同的CPS和不同的FR

图3:决策空间中CPS和FR的分布


解决CMMOPs的难点在于同时实现以下三种平衡:

1) 目标函数与约束条件之间的平衡,
2) 探索与开发之间的平衡,
3) 决策空间与目标空间之间的搜索平衡。


2

本文提出CMMO-MTA方法


2.1

算法框架


为解决CMMOPs中的挑战问题,本文提出了一个多任务辅助的优化求解框架(CMMO-MTA)。如图4所示,CMMO-MTA算法主要包括三个任务:一个主任务(TM)和两个辅助任务(TA1和TA2):

图4:CMMO-MTA算法框架图


TM为原始优化问题:

TA1为约束条件被放缩的优化问题:

TA2为无约束条件的优化问题:


在初始化阶段,为三个任务分别生成一个随机种群,其中TM包含N个候选解,TA1和TA2包含N/2个候选解;然后更新TA1中的松弛参数。在优化阶段,每个种群根据具体任务特征进行选择、交配和评估。随后,在父代种群和子代种群结合的阶段,算法进行知识迁移操作。TA1和TA2的子代种群被视作有价值的知识迁移给TM。这种单向的知识迁移确保了TA1和TA2始终专注于各自的优化任务,不受TM的影响,从而保证TA1和TA2可以给TM提供更有效用价值的专业知识。此外,针对不同任务采用不同的环境选择策略,选择有潜力的候选解进入下一代。最后,CMMO-MTA算法将执行基于空间平衡的选择机制,选择在决策空间和目标空间都表现出色的精英候选解作为最终输出。



2.2

对TM和TA2的优化

在CMMO-MTA算法中,TA2的优化与TM保持一致。其优化思路参考SPEA2[2]算法。具体来说,使用适应度值Fobj作为选择标准来构建亲本交配池,其中R代表了对收敛性的量化,而Dobj包含了对目标空间多样性的考量。

Fobj(x)=R(x)+Dobj(x)

由于TM和TA2在交配池构建中考虑了目标空间多样性,故使用决策空间优先环境选择方法(DPES)决定存活到下一代的个体。具体来说,DPES采用截断方法来控制种群大小,而截断方法所使用的距离是在决策空间中进行计算的,从而避免在决策空间中移除边界解。


2.3

对TA1的优化

由于TA1的约束条件处于放缩状态,TA1以一种渐进的方式向TM收敛。采用不同于TM的优化方法,不仅有效地增加优化方法的多样性,且为TM探索到更多有价值的知识。首先在构建亲本交配池时,采用适应度值Ftwo作为构建标准,其中Dtwo综合考虑了目标空间和决策空间的多样性。

Ftwo(x)=R(x)+Dtwo(x)

因此,采用基于生态位平衡的环境选择方法(NBES)以显式小生境的思想来保护决策空间的多样性。首先,执行SPEA2进行预选。然后,针对优化问题的多模态特性将种群划分为位于各个PS周围的多个小生境,并以每个小生境为最小单位,独立地选择优秀个体存活至下一代。


2.4

基于空间平衡的选择机制

为了实现决策空间和目标空间中的搜索平衡,SBSM首先选择所有的非支配解作为精英解,若精英解总数超过N,则依次移除最拥挤的个体,直到精英解总数等于N(如图5所示)。其中,在计算最拥挤个体的过程中,综合考量决策空间和目标空间的个体拥挤度,如下式所示,

分别在决策空间和目标空间中选择距离当前个体最近的三个个体,计算距离并求和。拥有最小距离的个体被视作最拥挤的个体,依次从精英集合中删除。该方法不仅考虑了决策空间个体拥挤度,同时也考虑了目标空间的个体拥挤度,这样的综合考量使决策空间和目标空间的搜索平衡得以实现。

图5:基于空间平衡的选择机制(SBSM)流程图


3

仿 真 实 验


本文的仿真实验分别采用两组基准函数集(CMMF[1]和CMMOP[3])共31个测试问题 以及一个实际应用问题,评估本文提出的CMMO-MTA在CMMOPs上的求解性能。


3.1

与其他算法的比较

CMMO-MTA 与七种先进的优化算法进行了比较,即C-TAEA[4]、CMOEA-ES[5]、PPS[6]、DN-NSGA-II[7]、MO_ Ring_PSO_SCD[8]、CMMODE[1]和CMMOCEA[3]。具体实验结果排名如表1所示。结果表明,CMMO-MTA在决策空间和目标空间都表现出较强的竞争力。

表1:算法的指标排名



3.2

消融实验

为了验证CMMO-MTA的关键部件的有效性,设计了四个变体:

1) VARIANT1: 移除主要任务 TM
2) VARIANT2: 移除辅助任务TA1
3) VARIANT3: 移除辅助任务TA2
4) VARIANT4: 删除 SBSM。


图6所示为CMMO-MTA及其变体在四个测试问题上的结果。通过与VARIANT1,VARIANT2和VARIANT3的对比结果可得CMMO-MTA 中的每个任务都发挥了关键作用。通过利用多任务优化框架,CMMO-MTA 实现了约束条件与目标函数之间,探索与开发之间的平衡。与VARIANT4的对比结果证明了所提出的 SBSM在提高目标空间性能方面的有效性,使得决策空间和目标空间之间关注度得到有效平衡。

(a) CMMF8

(b) CMMF9

(c) CMMOP2

(d) CMMOP3

图6:CMMO-MTA和变体在四个测试问题上的比较结果



3.3

实际应用

为评估 CMMO-MTA 在实际应用中的有效性,本文利用选址问题进行了仿真测试。该问题包含三个相互冲突的最小化目标,即找到与三类基本生活设施(即学校、医院和便利店)距离最小的可行位置。为确保公平比较,每种方法都独立运行了 31 次。图7以箱型图的形式给出了比较结果(IGDX 和 IGD)。结果表明,采用了多模态处理技术的算法,如 CDP_DN-NSGA-II、CDP_MO_Ring_PSO_SCD、CMMOCEA、CMMODE和CMMO-MTA)都在决策空间(IGDX)表现优异。当考虑目标空间(IGD)时,与其他七种算法相比,CMMO-MTA始终表现出稳健而有前途的结果。这意味着CMMO-MTA在解决实际问题方面的潜力。

(a) 决策空间

(b) 目标空间

图7:选址问题的比较结果


4

总 结


本文提出了一种多任务辅助进化算法CMMO-MTA用于约束多解多目标优化问题的求解。CMMO-MTA 利用多任务优化框架,将CMMOPs转化成一个主任务与两个辅助任务,辅助任务专注于自身问题,独立优化,并向主任务传输有效用价值的知识。此外,还设计了两种环境选择策略,从不同角度增强了算法的探索能力。实验结果表明,CMMO-MTA算法在各种CMMOPs上都展现了优越的性能。

目前CMMOPs的研究仍处于早期阶段,因此,还具有许多值得深入研究的问题,例如,约束条件或目标函数随时间变化的CMMOPs。针对这类复杂的优化问题,未来,将CMMO-MTA的多任务框架与其他先进的机器学习方法(如图神经网络)相结合的研究思路也是是值得进一步研究的课题。


 参考文献 


[1] J. Liang, H. Lin, C. Yue, K. Yu, Y. Guo, and K. Qiao, “Multiobjective differential evolution with speciation for constrained multimodal multiobjective optimization,” IEEE Transactions on Evolutionary Computation, 2022.

[2] E. Zitzler, M. Laumanns, and L. Thiele, “SPEA2: Improving the strength pareto evolutionary algorithm,” TIK-Report, vol. 103, 2001.

[3] F. Ming, W. Gong, Y. Yang, and Z. Liao,“Constrained multimodal multiobjective optimization: Test problem construction and algorithm design,” Swarm and Evolutionary Computation, vol. 76, p. 101209, 2023.

[4] K. Li, R. Chen, G. Fu, and X. Yao, “Two-archive evolutionary algorithm for constrained multiobjective optimization,” IEEE Transactions on Evolutionary Computation, vol. 23, no. 2, pp. 303–315, 2018.

[5] Y. Tian, Y. Zhang, Y. Su, X. Zhang, K. C. Tan, and Y. Jin, “Balancing objective optimization and constraint satisfaction in constrained evolutionary multiobjective optimization,” IEEE Transactions on Cybernetics, vol. 52, no. 9, pp. 9559–9572, 2021.

[6] Z. Fan, W. Li, X. Cai, H. Li, C. Wei, Q. Zhang, K. Deb, and E. Goodman, “Push and pull search for solving constrained multi-objective optimization problems,” Swarm and Evolutionary Computation, vol. 44, pp. 665– 679, 2019.

[7] J. J. Liang, C. Yue, and B.-Y. Qu, “Multimodal multi-objective optimization: A preliminary study,” in 2016 IEEE Congress on Evolutionary Computation (CEC). IEEE, 2016, pp. 2454–2461.

[8] C. Yue, B. Qu, and J. Liang, “A multiobjective particle swarm optimizer using ring topology for solving multimodal multiobjective problems,” IEEE Transactions on Evolutionary Computation, vol. 22, no. 5, pp. 805–817, 2018.

END


初稿:郑恬子

复审:颜学明

终审:金耀初


可信及通用人工智能实验室
金耀初实验室(可信及通用人工智能实验室)由欧洲科学院院士、IEEE Fellow,西湖大学人工智能讲席教授金耀初领导成立。实验室致力于应用驱动的可信人工智能研究,以及采用演化发育方法探索实现通用人工智能的新途径。
 最新文章