基于联邦学习的粮食供应链隐私数据要素协同计算研究

本文引用格式

许继平, 李卉, 王浩宇, 周燕, 王昭洋, 于重重. 基于联邦学习的粮食供应链隐私数据要素协同计算研究[J]. 智慧农业(中英文), 2023, 5(4): 79-91. DOI: 10.12133/j.smartag.SA202309012

XU Jiping, LI Hui, WANG Haoyu, ZHOU Yan, WANG Zhaoyang, YU Chongchong. Collaborative Computing of Food Supply Chain Privacy Data Elements Based on Federated Learning[J]. Smart Agriculture, 2023, 5(4): 79-91. DOI: 10.12133/j.smartag.SA202309012

随着经济水平的提升和科学技术的进步，粮食行业正处于一个新的发展时期，出现速度加快、效益提高的局面。截至2022年，中国粮食产量已达68 653万吨，世界粮食产量达31.55亿吨，市场未来发展前景较好。但粮食产业信息化水平仍然较低，严重影响了中国粮食供应链总体运作水平和运作效率，造成了粮食供应链上的信息阻塞。但由于数据安全等一系列问题，各个行业都不愿意共享本地数据，尤其是涉及行业机密的隐私数据，以至于当前大部分数据无法流通并参与协同计算，难以及时掌握行业整体情况。

为解决数据要素的流转与协同计算问题，中国提出了工业互联网标识解析体系，构建了包含国际根节点、国家顶级节点、二级节点和递归节点的层次型架构，并在北京、上海、广州、武汉和重庆建设和部署了国家顶级节点。当前，标识解析体系已在食品、服装、矿用设备等行业得到广泛应用，通过赋予每个对象唯一的身份编码并承载相关数据信息，起到整合加工产业资源，打通产业链、供应链和销售链，将企业、生产者与消费者进行串联的作用，还能融合工业互联网、产业互联网和消费互联网，有利于发挥集约效应。但工业互联网标识解析技术在工业隐私数据的共享应用方面还存在一些不足。研究显示，将联邦学习、区块链和分布式计算等方法进行融合，可以有效解决隐私数据的协同计算问题。特别是联邦学习与大数据、云计算和智能边缘计算等前沿技术深度融合能够提供解决隐私数据流通与协同计算安全问题的方案。目前，联邦学习在工业工程领域应用较广，可利用横向、纵向和迁移这3种学习方式，解决不同地区间数据协同计算的问题，对不易交换的都市环境监测数据进行监测，解决检测工厂不合格外包装、视觉检测等基础性问题，还可用于解决反恶意通信入侵等无人机通信系统安全、电动车用电需求预测等能源预测领域存在的问题。

综上，将工业互联网标识解析体系与联邦学习算法相结合，可在多个企业中进行训练，从而实现不同主体的协同学习，且融合后的体系可以充分利用分布在不同环节中的大量数据资源，有助于提升工业互联网系统的安全性和可信度。本文结合联邦学习和标识解析的核心思想，以粮食供应链为研究对象，采用标识解析3层架构并设计相关编码，构建联邦学习模型，基于逻辑回归算法协同训练粮食供应链上的多家企业数据，打破行业间的数据孤岛，实现跨企业、跨平台的数据要素，特别是隐私数据要素的协同计算，促进工业互联网的发展和应用。

粮食供应链是指从种植、收储、加工、仓储、运输到销售的一系列环节，各环节涉及不同的企业，包括但不限于种植企业、加工工厂、物流运输和销售商等。粮食供应链涉及多个种类的异构数据信息，包括种植、收储、加工、仓储、运输和销售等类别的信息。这些数据可以帮助链上企业和监管部门了解整个供应链的运作状况和性能指标，并为制定优化策略和提高粮食安全与质量水平提供有价值的参考。然而，不同环节的企业通常是独立的，它们之间的信息共享和协作往往受到一定的限制。由于缺乏有效的信息沟通和协作机制，可能会存在数据不准确、信息不完整等问题，从而影响整个供应链的效率和可靠性。在跨区域、跨行业的数据协同计算方面，由于隐私数据保护问题，使该部分数据无法上传至数据池进行共享分析，从而导致难以实现风险评估和制定优化策略。

针对粮食供应链的6个环节，根据其特性需收集如品质数据、环境数据、加工数据、价格数据和供应链数据等特征数据。以稻米供应链为例，数据要素如表1所示。其中，稻米种类、生产日期、种植基地信息等公共信息可公布用于模型训练；但农药、疾病防治和含杂量等信息属于食品隐私数据，各企业一般不愿主动将其公开，导致该部分数据无法用于业务模型的训练。然而，该部分数据对于关键业务的评估和决策非常重要，其变化将会影响稻米品质的评估准确率，因此不可以舍弃，需借助联邦学习的特性解决隐私数据的协同计算难题。

表1 稻米数据要素

Table 1 Rice data elements

2.1　整体架构设计

工业互联网标识解析体系采用分层、分级模式构建，主要包含国际根节点、国家顶级节点、二级节点、企业节点和公共递归节点等，其中国家顶级节点能向全国范围提供标识注册分配、标识解析、审核认证及数据托管等服务。二级节点负责承接国家顶级节点和对接企业节点，向对应行业提供标识服务，是标识解析体系的核心环节。企业节点则是向企业内部提供标识编码分配、标识解析服务和数据管理等服务。联邦学习通过引入隐私保护技术，在保证数据流通安全的前提下，协作各参与方进行机器学习训练。其中，工业互联网标识解析体系的分层、分级架构刚好为分散的参与方之间提供了良好的基础设施。

根据工业互联网标识解析体系架构，粮食行业建设有相应的行业二级节点，生产、加工、运输、销售等相关企业节点接入行业二级节点，构成的粮食行业标识解析体系，并与联邦学习结合形成协同学习架构如图1所示。其中，粮食行业工业互联网标识解析二级节点作为联邦学习的行业第三方，负责为每袋产品打上编码，以追溯到该产品在各个环节的信息，从而实现供应链管理和粮食安全监管。为了精细化管理各环节的联邦学习任务，二级节点分别设置生产、加工、运输和销售等环节第三方，便于对各环节内企业的横向协同学习进行组织。另外，在跨环节的纵向联邦学习中，企业节点分别设置了工艺加工厂、运输企业等多个企业，便于组织异构企业间的纵向协同学习。 

图1 粮食行业联邦学习架构图

Fig. 1 Federal learning architecture map for the grain industry

在具体实现上，扫描上传标识解析编码至第三方，由第三方下发模型至企业进行本地训练，根据反馈的信息聚合参数并更新模型直至损失函数收敛的联邦训练过程，具体如图2所示。将要执行的任务编码扫描上传至第三方，第三方根据编码中的信息判断任务类别，选择合适的联邦训练模型，设定好初始参数后下发模型至所有企业。企业根据模型要求，扫描符合要求的所有数据编码并上传数据信息至本地，再通过逻辑回归算法在本地训练该模型，迭代到指定次数后将中间参数如权重、梯度等通过发送数据训练编码的方式分别返还给第三方。由第三方通过加权平均等方法聚合，得到新参数，根据预设目标判断该参数是否达到标准，若未达到，则更新模型参数，重新下发给各个企业，继续训练至达到标准；若达到标准，则发送数据结果，并进行可视化展示。 

图2 联邦学习技术原理图

Fig. 2 Technology schematic of federal learning 

2.2　标识编码及数据模型设计

2.2.1　标识编码设计

在基于联邦学习的粮食行业数据协同计算的过程中含有大量的数据和执行的任务，需通过标识编码作为媒介查找对应的隐私数据。该编码主要由国家授权机构的唯一名称组成，其中包括国家代码、二级节点代码和企业代码作为标识前缀，形如“/”的分隔符和由企业自定义但保证唯一性的标识后缀。如果相关命名机构未自行编写相关后缀编码，则由国家顶级节点进行随机分配。具体编码规则设计如图3所示。

图3 粮食供应链协同计算标识编码规则设计

Fig. 3 Design of grain supply chain collaborative computing identification coding rules

 1）任务编码规则设计。任务编码的标识后缀共设计4个层次，分别是模型类型、模型编号、信息类型和参数数据，如表2所示，表头的a、b、c、d与图3中标识后缀的a、b、c、d对应。

表2 粮食供应链协同计算的任务编码设计

Table 2 Task coding design for collaborative food supply chain computing 

注：d列无内容的表示该部分没有信息参数。

2）数据编码规则设计。数据编码中的标识后缀采用3层设计，分别是环节类型、数据编号和评价类型。其中数据从0001开始依次递增，如表3所示，表头的a、b、c与图3中标识后缀的a、b、c对应。

表3 粮食供应链协同计算的数据编码设计

Table 3 Data coding design for collaborative food supply chain computing

2.2.2　数据模型设计

数据模型主要是用来描述和存储标识数据，上述每个任务、数据编码都有其对应的数据模型。针对粮食供应链中标识编码规则和数据特性，设计了参数模型、信息模型和评价模型3类模型，具体如图4所示。 

图4 粮食供应链协同计算的数据模型设计

（a） 参数模型 （b） 信息模型 （c） 评价模型

Fig. 4 Data modeling for collaborative computing in the food supply chain 

所设计的参数模型如图4（a）所示，其中“模型类别”“参数类别”和“参数ID”可确定其对应的参数数据模型。“参数内容”是该参数的具体值；“上传日期”和“上传时间”记录标识数据最近一次的更新时间，便于系统对信息进行维护或分析。通过“上传IP地址”可知该数据的上传源头；“是否上传成功”表示该信息是否已成功更新到系统或服务器。

所设计的信息模型如图4（b）所示。其中“模型类别”和“信息模型”可帮助系统快速确定所需的信息模型，并进一步获取相关描述信息；“信息内容”指该信息所包含的具体内容。其余与上一模型功能一致。

所设计的评价模型如图4（c）所示。通过“环节类别”“评价类型”和“数据ID”可确定其对应的数据模型。“数据内容”指该参数的值。其余功能与参数模型中功能一致。

联邦学习可在不公开各参与方私有数据的情况下，协同训练所有参与方。其中，参与者在本地执行算法，通过将更新的模型参数发送给中央服务器进行聚合，以更新共享模型，实现不同主体的协同计算。

3.1　同类主体间横向联邦学习

横向联邦学习是一种适用于处理具有高度特征重叠但样本ID重叠较少的数据集的方法。通过对各数据集的样本联合，扩大训练样本空间，综合多维数据特性的业务模型参数进行协同计算，进而提升模型的准确度。

3.1.1　横向联邦学习架构设计

横向联邦学习在粮食行业可用于生产、加工、运输和销售等环节下的多个企业，如图5所示。粮食加工企业A和粮食加工企业B的数据均为品质质量、加工工艺等级、环境温度、环境湿度和水分含量等特征数据，但这些数据是不同批次的产品所产生的，符合横向联邦学习相同样本特征，不同样本ID的特征。 

图5 粮食加工企业横向联邦学习架构

Fig. 5 Horizontal federal learning framework for grain and oil processing enterprises

3.1.2　横向逻辑回归算法

逻辑回归是机器学习领域中的常用算法之一。对于传统的二分类或多分类问题，逻辑回归往往能给出可解释性强的结果，具有模型简单、训练速度快、内存资源占用较小的优势。相比决策树与神经网络等方法，逻辑回归具有小数据样本下的缺失数据处理、快速精确拟合优势，因此本研究采用横向联邦学习逻辑回归算法进行联邦学习。该算法需要确定参与方的损失函数和梯度，如公式（1）和公式（2）所示。

式中：w是逻辑回归模型的系数，需要通过模型迭代确定的参数；y_i是样本数据的标签值；x_i是第i个样本数据；x_ij是第i个样本数据的第j个特征数据。在横向联邦学习中按参与方数据集数量做横向加权聚合，各参与方都有特征值和标签值，在求梯度时各参与方只需计算本地的信息后将参数进行安全聚合，使用聚合后的结果计算损失函数和下一次迭代的梯度。以企业A和企业B为例，两方参与的横向逻辑回归的算法流程如图6所示。 

图6 横向联邦学习逻辑回归算法流程图

Fig. 6 Flow chart of horizontal federation learning logistic regression algorithm

以下是横向逻辑回归方法的训练步骤：

1）首先由第三方初始化参数w_A和参数w_B，并将其分别发送给参与方A和参与方B。

2）参与方接收到初始化参数，在本地训练数据，得到梯度grad_A和grad_B，并根据梯度更新参数w_A和参数w_B。

3）通过加法安全聚合技术，即通过mask_w_A=N_A×w_A+R₁₁-R₁₂和mask_w_B=n_B×w_B-R₁₁+R₁₂得到mask_w参数，并将该参数发送给第三方。

4）第三方接收到所有参数后，通过计算总梯度参数w。

5）将总梯度参数w返还给各参与方。

6）各参与方接收总梯度参数w，计算本地损失函数loss_A和loss_B。

7）通过加法安全聚合技术，即mask_loss_A=n_A×loss_A+R₂₁-R₃₁和mask_loss_B=n_B×loss_B-R₂₁+R₃₁得到参数mask_loss_A和mask_loss_B，并将该参数发送给第三方。

8）根据接收到的参数，通过计算得到loss损失函数，并将收敛状态发送给各参与方。

9）各参与方查看状态，若显示未收敛且未达到最大迭代次数，则继续训练，重复上述步骤。

3.1.3　粮食安全风险评估横向联邦学习实现

以粮食供应链安全风险评估作为业务场景，基于湖南省大米供应链合作企业2020—2023年供应链数据，开展横向联邦学习的协同计算验证。选取合作企业中的粮食加工厂A和粮食加工厂B，通过自动扫描标识编码获取不同批次产品的数据，累计共收集加工厂A数据90组、加工厂B数据90组和测试集数据60组。在联邦学习过程中，拥有联邦学习目标（label）信息的guest（主）方和不包含label信息的host（客）方，先在本地对原始数据进行清洗、转换和规范化的预处理操作，FATE（Federated AI Technology Enabler）平台根据前期配置好的dsl和conf文件，进行横向逻辑回归建模，并进行训练和评估测试，FATE提供可视化结果展示。

1）文件配置

① dsl流程配置文件。选用homo_lr_train_dsl.json文件进行流程配置。该文件包含reader_0（读取训练数据）、data_transform_0（转换数据类型）、scale_0（特征对齐操作）、homo_lr_0（横向逻辑回归模型训练）和evaluation_0（模型评估）这5个模块。每个模块都有输入和输出的数据和模型定义，定义的格式一致，下游模块会以上游模块的输出作为其输入。

② conf流程配置文件。选用homo_lr_train_conf.json文件进行参数配置。该文件定义了参与训练的所有角色并通过读取模型训练编码设置各个模块的初始参数。例如，data_transform_0模块的数据表名及类型；homo_lr_0模块的步长、学习率、最大迭代次数等。本实验设定初始参数如表4所示。

表4 横向联邦学习的参数设置

Table 4 Parameterization of horizontal federal learning

2）横向联邦学习测试验证

横向联邦学习主要是通过流转数据参数协同计算训练模型，达到扩大样本空间，提升模型准确率的效果。若不使用联邦学习进行协同计算，只采用加工厂A自身数据进行训练，模型训练结果如表5所示。共训练加工厂A自身数据90组，其中15组数据分类错误；75组数据分类正确。若联合加工厂A和加工厂B协同训练，模型在迭代349次后收敛，损失函数约为0.272 990，模型训练结果如表5所示。auc值达到0.925 926，准确率较高，Ks值达到0.833 333，模型的区分能力较好。F 1-Score值达到0.958 333，无限接近于1，模型整体较好。根据混淆矩阵显示，共计训练90组数据，其中84组数据分类正确。准确率明显高于单个加工厂训练的模型。

表5 横向联邦学习企业模型训练结果

Table 5 Horizontal federated learning enterprise model training results

同理，若仅用加工厂A的训练结果输入60组测试数据用于评估，其训练样本较少，模型缺少普适性。风险评估验证结果如表6所示。其中52组数据验证正确；8组验证错误。若运用加工厂A和加工厂B协同训练好的模型，评估同组测试数据，其风险评估验证结果如表6所示，auc值达到0.916 149，较接近1，评估能力较好，Ks值达到0.770 186，具有较好的分类效果。F 1-Score值达到0.957 447，模型整体评估能力较好。通过混淆矩阵可看到，共60组数据，其中56组验证正确；4组验证错误；准确率约提升了6.7％。由此可得基于联邦学习的模型准确率较高，评估能力优于单个主体训练出的模型。若使用神经网络算法进行评估，由于使用小数据样本，出现了过拟合的情况，导致评估效果略差于逻辑回归算法。

表6 横向联邦学习企业风险评估验证结果

Table 6 Horizontal federal learning Enterprise risk assessment validation results

3.2　异构主体间纵向联邦学习

异构主体的联邦学习具有数据集间样本特征重叠较少，样本ID重叠较多的特点，大多用于处理经营不同业务但批次相同的产品。

3.2.1　纵向联邦学习架构设计

纵向联邦学习可将稻谷企业中的加工制造业和种植、运输产业联系起来，形成整体，由于同一批稻谷，它在加工、种植和运输企业所包含的数据参数各不相同，故符合纵向联邦学习同一样本，不同特征的思想，具体如图7所示，可将粮食种植企业的数据设为｛X种｝，粮食加工企业数据设为｛X加｝，将粮食运输企业数据设为｛X物｝，对这些数据进行对齐的处理，只留下拥有相同稻谷编号的数据。其中设定粮食运输企业为guest方，带品质标签，粮食种植企业和粮食物流企业为host方。由于host方分别具有自己的数据集，但缺乏完整的品质标签信息。因此，需要通过同态加密的方法流转加密后的隐私数据，使host方拥有完整的信息从而共同完成模型的训练。 

图7 粮油加工企业纵向联邦学习架构

Fig. 7 Vertical federal learning framework for grain and oil processing enterprises

3.2.2　纵向逻辑回归算法

纵向联邦学习同样可采用逻辑回归的方法实现。纵向LR算法是在企业间两两进行，不含标签的host方分别和含有标签y的guest方进行交互。基于隐私数据无法传输的问题，可采用Paillier半同态加密对隐私数据进行加密处理，实现隐私数据间的流转。FATE加密方式如公式（3）和公式（4）所示。

式中：u、v为变量；⟦⟧为加密状态。

由于加密后的数据不支持指数运算，故需要对损失函数和梯度函数进行近似的处理，处理结果分别如公式（5）和公式（6）所示。

式中：w是系数；y是样本数据标签；x是样本数据；l表示损失函数、是梯度因子；为梯度。

以食品加工企业A和食品运输企业B为例，假设企业A含有特征X₁、X₂和X₃；企业B含有X₄、X₅和标签Y。由于企业B缺少部分特征，需要向企业A发送请求，得到其余特征，再进行训练。该方法的训练过程如图8所示。

图8 纵向联邦学习逻辑回归算法流程图

Fig. 8 Flow chart of vertical federation learning logistic regression algorithm

以下是纵向联邦学习逻辑回归方法的训练步骤：

1）企业B向企业A发送请求，请求得到企业A加密后的特征。

2）企业A将加密好的特征⟦X₁⟧、⟦X₂⟧、⟦X₃⟧发送给企业B。

3）企业B将自己的特征⟦X₄⟧、⟦X₅⟧加密后，根据上文提到的半同态加密的性质，通过⟦X₁⟧+⟦X₂⟧+⟦X₃⟧+⟦X₄⟧+⟦X₅⟧=⟦X₁+X₂+X₃+X₄+X₅⟧计算出⟦⟧并将该参数发送给企业A，再结合自己的特征X₄、X₅计算出B端的梯度⟦⟧并将该参数发送给第三方。

4）企业A根据收到的参数，结合自己的特征X₁、X₂ 和X₃，计算出A端的梯度⟦⟧并将该参数发送给第三方A。

5）第三方根据收到的A端和B端的参数，按行将其拼接在一起，对其进行解密操作得到完整的梯度参数，然后按照比例将A的梯度返还给企业A，将B的梯度返还给企业B。

6）企业A和企业B根据得到的返回梯度参数，更新本地的模型。

7）重复以上步骤，直至第三方判断loss函数是否收敛。若收敛，则向企业A、B两端发送停止训练的信号。（⟦loss⟧由企业B端算出，发送至第三方解密，得到loss）。

3.2.3　粮食安全风险评估纵向联邦学习实现

纵向联邦学习主要应用于整条链的协同训练中，通过结合不同环节的数据，形成评估整个链条的模型。该模型以粮食安全风险评估作为业务场景，基于湖南省某大米供应链合作企业2020—2023年供应链数据，开展纵向联邦学习的协同计算验证。选取合作企业中的粮食种植企业、粮食加工企业和粮食运输企业，通过自动扫描编码获取同一批次产品的数据，累计收集数据共计450组，包含种植业、加工业和运输业各150组数据。其中每个参与方拿出90组数据作为训练集，剩余60组数据作为测试集用于评估。根据模型信息编码要求，先在本地对原始数据进行清洗、转换和规范化的预处理操作。FATE平台根据前期配置好的dsl和conf文件，进行纵向逻辑回归建模，并进行训练和评估测试，FATE提供可视化结果展示。

1）文件配置

① dsl流程配置文件

应用hetero_lr_normal_dsl.json文件。该文件与横向联邦学习所用文件相似，但需注意将scale_0（特征对齐操作）模块替换为data_transform_0（转换数据类型）模块；将homo_lr_0（横向逻辑回归模型训练）模块替换为hetero_lr_0（纵向逻辑回归模型训练）模块。

② conf参数配置文件

应用hetero_lr_nomal_conf.json文件。在该文件中定义参与模型训练的所有角色，通过识别模型训练编码设置各个模块的参数。例如，data_transform_0模块的数据表名及类型，hetero_lr_0模块的步长、学习率、最大迭代次数等参数。本次实验设定初始参数如表7所示。

表7 纵向联邦学习参数设置

Table 7 Parameter setting of vertical federation learning 

2）纵向联邦学习实现结果

设定不同参数值，可得到不同的结果，具体如表8所示。在迭代500次后可观测到auc值为0.953 914，模型具有评估价值，Ks值可达到0.837 121，有分类价值，F 1-Score值为0.941 176。根据混淆矩阵显示，共90组数据用于训练，共训练正确82组；错误8组。将迭代次数更改为1 000次后，如表8所示。观察训练结果可发现auc值、Ks值和F 1-Score均有提升，模型的训练效果极佳。混淆矩阵的准确率上升，由原先训练错误8组减少为3组。故通过调整参数的设定，可有效提升模型的准确度和评估效果。

表8 不同迭代条件下模型训练结果

Table 8 Model training results under different iteration conditions

纵向联邦学习风险评验证结果如表9所示。auc值达到0.942 434，Ks值达到0.900 159，具有极佳的分类效果。F 1-Score值达到0.959 091，模型整体评估能力较好。通过混淆矩阵可看到，共60组数据，其中57组验证正确；3组验证错误。准确率提升了8.3％，具有良好的评估效果。

表9 纵向联邦学习风险评估验证结果

Table 9 Model training results under different iteration conditions

本研究提出了基于工业互联网标识解析技术和联邦学习的粮食供应链数据要素流转与协同计算架构，设计了适应模型需求的标识解析编码和数据模型，基于逻辑回归算法实现模型参数梯度的下降优化，构建了适用于单环节双企业间的同构主体模型以及三环节联合的异构主体模型，结果表明，相较于传统的单一主体评估计算，横向联邦学习的准确率提升了约6.7%，纵向联邦学习的准确率提升了约8.3%，解决了粮食供应链风险综合评估场景中的隐私数据要素协同计算问题在后续的研究中，可以进一步完善标识解析编码和数据模型，以适应更多不同类型的供应链。通过增加标识解析编码，可覆盖更多风险指标，提高模型的泛化能力；还可以加强多个环节与企业之间的联合学习，进一步扩展训练对象，更好地解决供应链中的数据要素协同计算问题，提高整个供应链的效率和安全。