以可解释工具重探基于深度学习的谣言检测

作     者：贺国秀 任佳渝 李宗耀 林晨曦 蔚海燕 He Guoxiu;Ren Jiayu;Li Zongyao;Lin Chenxi;Yu Haiyan

作者机构：华东师范大学经济与管理学院上海200062 

出 版 物：《数据分析与知识发现》 (Data Analysis and Knowledge Discovery)

年 卷 期：2024年第8卷第4期

页      面：1-13页

核心收录：

学科分类：1205[管理学-图书情报与档案管理] 12[管理学] 08[工学] 120502[管理学-情报学] 081201[工学-计算机系统结构] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金项目(项目编号:72204087) 上海市哲学社会科学规划青年课题(项目编号:2022ETQ001) 中央高校基本科研业务费专项资金资助项目的研究成果之一 

主　　题：谣言检测 可解释机器学习 深度学习 LIME SHAP 

摘      要：【目的】探究基于内容的深度谣言检测模型能否真正识别谣言的关键语义。【方法】基于谣言检测任务的中英文基准数据集,本文分别利用基于局部代理模型的可解释工具LIME和基于合作博弈论的可解释工具SHAP,分析BERT模型所识别出的关键特征,并判断其是否能反映谣言特性。【结果】可解释工具在不同模型与数据集上计算得出的关键特征差异性较大,无法辨别模型识别的重要特征和谣言之间的语义关系。【局限】本文验证的数据集和模型数量都十分有限。【结论】基于深度学习的谣言检测模型仅拟合了训练集的特征,面向多样的真实场景缺少足够的泛化性和可解释性。