上海电力大学人工智能学部研究成果被计算机科学与人工智能领域顶级期刊录用

近日，上海电力大学人工智能学部王亮亮副教授及其硕士研究生王康在联邦学习安全方向取得新进展，相关论文《SHIFT: Enhancing federated learning robustness through client-side backdoor detection》以上海电力大学第一单位及研究生第一作者身份被计算机科学与人工智能国际顶级期刊《Information Fusion》（中国科学院一区TOP期刊）录用，其最新影响因子高达15.5。

联邦学习的分布式架构容易遭受隐蔽的后门攻击：攻击者可在本地训练中植入触发器，使全局模型在特定输入下产生恶意行为，从而威胁系统的可靠性。现有不少防御方法需要在服务器端对加密上传的梯度先进行解密然后再进行检测，往往带来显著计算开销与部署负担。

针对上述痛点，论文提出了SHIFT框架，核心思路是将后门检测任务从服务器侧“转移”到客户端侧完成：一方面，客户端可直接对未加密的数据进行检测，从而显著降低服务器端的计算压力；另一方面，引入客户端代码混淆（code obfuscation）以提升检测逻辑的隐蔽性，降低恶意客户端逆向分析与绕过的风险；同时设计了动态风险等级映射机制，对检测输出的结果进行自适应扰动与映射，以抑制攻击者基于反馈进行反复试探或迭代规避的可能性。

该项成果为联邦学习在隐私保护前提下实现更高鲁棒性的安全机制设计提供了新思路，也为后续联邦学习攻防对抗研究与应用推广提供了重要参考；研究团队表示，SHIFT在后门检测效率方面较现有方案提升了数倍，适用于计算资源受限及大规模分布式联邦学习应用。（通讯员：樊丽达）

发布于：北京

相关推荐

上海电力大学人工智能学部研究成果被计算机科学与人工智能领域顶级期刊录用
别人家的博士生：人工智能博士毕业拿华为200万顶级年薪
人工智能正在引领一场新的科学革命
中国高校人工智能专业最全院校排名&课程对比
Nature：AI的瓶颈突破在于「实体人工智能（PAI）」
德国教授汤卫思：在中国研究人工智能，我乐在其中
人工智能迷途：计算机的高技能等于高智能吗？
“具身智能: 从科学走向产业的探索与创新”论坛举行，国创中心深化人工智能科技金融合作
顶级AI视觉领域教授，朱松纯回国任教清华
度小满与哈工大共建“人工智能(大模型)联合研究中心”

网址: 上海电力大学人工智能学部研究成果被计算机科学与人工智能领域顶级期刊录用 http://www.xishuta.cn/newsview146693.html