港科大iSING Lab论文Excalibur被ATC‘24接收!实现高效的去中心化联邦奇异值分解系统
文摘
科技
2024-05-11 10:21
中国香港
USENIX ATC(Annual Technical Conference)是计算机系统领域的著名学术会议。ATC’24会议将于2024年7月10日至12日在美国加利福尼亚州召开。本次会议中,香港科大智能网络与系统实验室iSING Lab的一篇论文被录用,题目为:Efficient Decentralized Federated Singular Vector Decomposition, 作者:Di Chai, Junxue Zhang, Liu Yang, Yilun Jin, Leye Wang, Kai Chen, Qiang Yang.
联邦奇异值分解(SVD)是许多分布式应用的基础。例如分解多方持有的大规模基因数据进行全基因组关联性分析(GWAS),分解银行和互联网公司持有的大规模用户画像进行特征降维(PCA)和线性回归建模(LR),分解多方持有的大规模文档数据进行潜在语义分析(LSA)等。但现有联邦SVD方案要么依赖外部服务器,带来极大的安全隐患;要么使用同台加密技术来摆脱外部服务器(即,去中心化),但由于大量的计算和通信开销而导致效率显著下降。本文提出Excalibur,一个高效的、去中心化的联邦SVD系统。Excalibur的核心设计有两点。首先,Excalibur提出了一种轻量级、去中心化的矩阵保护方法,以减少由加密操作带来的性能下降。此外,Excalibur对去中心化SVD系统的设计空间进行了通信定量分析,设计了一个通信高效的去中心化SVD工作流,优化了通信性能。
为了验证Excalibur的效率,我们实现了一个功能完备的Excalibur系统,并对基于SVD的实际应用进行了测试。我们的结果显示,Excalibur不仅移除了外部服务器,而且在不同形状的十亿级数据上,其性能比最先进的服务器辅助系统快3.1∼6.0倍。此外,Excalibur的吞吐量比最先进的基于同态加密的系统大23,000多倍。