南京邮电大学学报(自然科学版)

作者：王彩玲,王　炯,蒋国平

单位：南京邮电大学 自动化学院、人工智能学院，江苏 南京　210023南京邮电大学 自动化学院、人工智能学院，江苏 南京　210023南京邮电大学 自动化学院、人工智能学院，江苏 南京　210023

关键词：卷积神经网络；模型压缩；结构化剪枝；信息熵

基金：南京邮电大学自然科学基金（NY220057）资助项目

滤波器剪枝是模型压缩的有效方法之一。受学习全局重要性（LEGR）剪枝算法思想的启发，提出了一种新的结构化剪枝策略。首先，基于滤波器权值 信息熵计算出模型卷积层中每一个滤波器的局部重要性得分；随后，利用双深度确定性策略梯度(DDPG)算法学习出每一层的全局规模系数和全局偏差系数，把滤波器的局部重要性得分转换成全局重要性得分，并进行全局剪枝得到最优子网络；最后，基于权值自适应加权的多个相同网络联合并行训练，对剪枝后得到的子网络进行性能恢复。在分类数据集CIFAR10、CIFAR100以及ILSVRC 2012 ImageNet上的实验结果表明，该方法在保证剪枝后的模型仍具有良好的性能条件下，可以有效地减少网络模型的浮点计算量（FLOPs）。

来源：2021年第05期

《南京邮电大学学报(自然科学版)》期刊编辑部

查看南京邮电大学学报(自然科学版)杂志2021年第05期