基于随机掩码和对抗训练的文本隐私保护实验

作     者：吴舟婷 罗森林 WU Zhouting;LUO Senlin

作者机构：北京理工大学信息与电子学院北京100081 

出 版 物：《实验技术与管理》 (Experimental Technology and Management)

年 卷 期：2023年第40卷第8期

页      面：72-76页

学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家242信息安全专项(2019A021 2020A065) 

主　　题：隐私安全 文本表示 差分隐私 对抗训练 

摘      要：针对深度学习文本表示隐私保护面临可用性与隐私性难以平衡的问题,该文提出一种基于随机掩码和对抗训练的文本表示隐私保护算法RMAT。该算法首先对原始输入文本序列做随机掩盖,之后注入差分隐私噪声,并结合模拟攻击器与任务分类器间的对抗训练,实现深度学习文本表示的隐私脱敏。文章通过理论推导证明了算法满足差分隐私要求,并用5个公开数据集的实验结果验证了算法在提供完备隐私保障的同时提升了脱敏文本的可用性。通过本项实验,学生不仅对深度学习文本表示模型面临的安全风险有了更清晰的认识,还提升了利用深度学习方法分析和解决安全问题的能力。