面向机器学习模型的基于PCA的成员推理攻击

作     者：彭长根 高婷 刘惠篮 丁红发 PENG Changgen;GAO Ting;LIU Huilan;DING Hongfa

作者机构：贵州大学公共大数据国家重点实验室贵州贵阳550025 贵州大学密码学与数据安全研究所贵州贵阳550025 贵州大学计算机科学与技术学院贵州贵阳550025 贵州财经大学信息学院贵州贵阳550025 

出 版 物：《通信学报》 (Journal on Communications)

年 卷 期：2022年第43卷第1期

页      面：149-160页

核心收录：

学科分类：0839[工学-网络空间安全] 08[工学] 081201[工学-计算机系统结构] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金资助项目(No.U1836205,No.62002080) 贵州省科技计划基金资助项目(黔科合平台人才5017) 贵州省教育厅自然科学基金资助项目(黔教合KY字140) 贵州大学人才引进科研基金资助项目(贵大人基合字61) 

主　　题：机器学习 对抗样本 成员推理攻击 主成分分析 隐私泄露 

摘      要：针对目前黑盒成员推理攻击存在的访问受限失效问题,提出基于主成分分析(PCA)的成员推理攻击。首先,针对黑盒成员推理攻击存在的访问受限问题,提出一种快速决策成员推理攻击fast-attack。在基于距离符号梯度获取扰动样本的基础上将扰动难度映射到距离范畴来进行成员推理。其次,针对快速决策成员推理攻击存在的低迁移率问题,提出一种基于PCA的成员推理攻击PCA-based attack。将快速决策成员推理攻击中的基于扰动算法与PCA技术相结合来实现成员推理,以抑制因过度依赖模型而导致的低迁移行为。实验表明,fast-attack在确保攻击精度的同时降低了访问成本,PCA-based attack在无监督的设置下优于基线攻击,且模型迁移率相比fast-attack提升10%。