基于特征夹角的超球体嵌入对抗训练

作     者：史俊徽 王春东 

作者机构：计算机病毒防治技术国家工程实验室 天津理工大学计算机科学与工程学院 

出 版 物：《天津理工大学学报》 (Journal of Tianjin University of Technology)

年 卷 期：2024年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 080203[工学-机械设计及理论] 0835[工学-软件工程] 0802[工学-机械工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然基金,基于动态汇编指令流语义模式归纳的程序恶意行为智能分类识别技术研究(No.U1536122) 天津市教育委员会联合基金,基于政府和企业海量冷数据的蓝光云储存技术(No.2021YJSB252) 

主　　题：特征夹角 超球体嵌入 对抗训练 对抗样本 

摘      要：基于特征夹角的超球体嵌入对抗训练致力于提高学习可靠表示的效率。文章提出了特征夹角方法并在对抗训练中引入了超球体嵌入方法。特征夹角方法可以量化样本与决策边界的夹角。一方面，特征夹角可以引导干净样本越过决策边界；另一方面减少了迭代次数并划分了简单样本和硬性样本。超球体嵌入方法将特征整合到了样本空间中的超球体上，通过特征归一化、权重归一化和角距离边距调整了特征流形的分布。将特征夹角方法与超球体嵌方法结合提高了模型收敛速度。最后，在白盒环境和黑盒环境下验证了基于特征夹角的超球体嵌入对抗训练的有效性。结合对比实验分析了特征夹角方法的作用及其作用原理。另外，通过消融实验，我们对超球体嵌入进行了理论分析，解释了超球体嵌入各步骤的原理。广泛的分析证明，特征夹角与超球体嵌入对抗训练能够很好地耦合，它帮助动态调整训练过程并提高模型收敛速度。基于特征夹角的超球体嵌入对抗训练可以在不提高数据量和计算量的情况下有效提高了模型对可靠特征的编码能力。