南京邮电大学学报(自然科学版)

作者：徐鹤,张迪,李鹏,季一木

单位：南京邮电大学 计算机学院，江苏 南京 210023；南京邮电大学 网络安全与可信计算研究所,江苏 南京 210023南京邮电大学 计算机学院，江苏 南京 210023南京邮电大学 计算机学院，江苏 南京 210023；南京邮电大学 网络安全与可信计算研究所,江苏 南京 210023南京邮电大学 计算机学院，江苏 南京 210023；江苏省高性能计算与智能处理工程研究中心，江苏 南京 210023

关键词：联邦学习；投毒攻击；差分隐私；指数机制

基金：国家自然科学基金(62102196)、江苏省重点研发计划(BE2019740)、江苏省教育厅高等学校自然科学研究项目(20KJA520001)和江苏省六大人才高峰高层次人才项目（RJFW-111）资助项目

联邦学习是一种解决数据孤岛问题的方法，但随着攻击模型的不断进化，敌手可能在训练过程中注入有害参数，导致模型训练效果下降。为了增强联邦学习模型训练过程的安全性，设计了一种面向联邦学习投毒攻击的客户端筛选策略。在该策略中，利用基于差分隐私指数机制的评分函数来动态更新权重参数。首先，为每个客户端分配一致的权重参数；然后，将每一轮训练的效果作为评估标准进行量化，并将量化结果传递至所构建的更新函数中；接着，服务器根据这些更新后的权重参数，筛选出适合参与本轮训练的客户端，并对这些客户端上传的训练模型进行聚合。整个流程反复进行多轮次，最终得出一个有效可靠的训练模型。最后，通过实验验证了所提策略在面对敌手投毒攻击下的可行性。

来源：2024年第06期

《南京邮电大学学报(自然科学版)》期刊编辑部

查看南京邮电大学学报(自然科学版)杂志2024年第06期