南京邮电大学学报(自然科学版)

作者：邵文泽,滕臻,朱富坤,孙玉宝

单位：南京邮电大学 通信与信息工程学院，江苏 南京 210003南京邮电大学 贝尔英才学院，江苏 南京 210023南京邮电大学 通信与信息工程学院，江苏 南京 210003南京信息工程大学 教育部数字取证工程研究中心，江苏 南京 210000

关键词：迁移攻击；对抗攻击；黑盒攻击；深度学习；优化攻击；学习攻击

基金：国家自然科学基金(92470126，62276139，U2001211)资助项目

随着深度学习的快速发展,视觉领域的众多任务得到了有效解决。在性能不断提升的同时, 对抗样本的发现引发了关于深度学习可靠性、安全性的反思。相较于早期的白盒攻击,黑盒迁移攻击无需获取被攻击模型的网络架构、参数等敏感信息,因而不易察觉,威胁相对较大。目前的综述文献主要围绕对抗攻击或对抗攻击和防御做全面总结,对视觉识别深度模型的黑盒迁移攻击方法往往未做专题性回顾与展望,为此文中特别围绕黑盒迁移攻击的最新进展进行了全面的梳理和总结。首先,从优化和学习两种视角介绍了黑盒迁移攻击的基本模型。对于优化视角下的迁移攻击, 具体从梯度扰动更新、样本邻域增广以及模型决策代理等三方面对现有文献做了梳理和分析。对于学习视角下的迁移攻击,具体从通用扰动和生成扰动两方面对现有文献做了进一步梳理和分析。最后,总结出了当前黑盒迁移攻击方法的两个核心:最优解平滑性和特征语义引导,同时指出未来工作的重点和难点在于黑盒迁移攻击的可解释性与泛化性。

来源：2024年第05期

《南京邮电大学学报(自然科学版)》期刊编辑部

查看南京邮电大学学报(自然科学版)杂志2024年第05期