一种随机束搜索文本攻击黑盒算法

作     者：王小萌 张华 丁金扣 王稼慧 WANG Xiaomeng;ZHANG Hua;DING Jinkou;WANG Jiahui

作者机构：北京邮电大学网络与交换技术国家重点实验室北京100876 

出 版 物：《北京邮电大学学报》 (Journal of Beijing University of Posts and Telecommunications)

年 卷 期：2024年第47卷第2期

页      面：24-29页

核心收录：

学科分类：08[工学] 081202[工学-计算机软件与理论] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金项目(62072051) 

主　　题：对抗攻击算法 自然语言处理 黑盒攻击 

摘      要：针对现有对抗样本生成算法容易陷入局部最优解的问题,提出了一种名为R-attack的算法,通过束搜索和随机元来提高攻击成功率。利用束搜索在同义词空间中寻找最优解,增加对抗样本的多样性,进而提高攻击的效率,同时,在迭代搜索过程中引入随机元素,避免过早陷入局部最优解,从而有效提高攻击成功率。在3个数据集上对2个模型进行了对抗攻击实验,实验结果表明,使用R-attack算法能够有效提高对抗样本的攻击成功率。以在Yahoo!Answers数据集上训练的双向长短期记忆网络模型为例,用R-attack算法攻击模型的攻击成功率比基线算法高了2.4%。