以可解释工具重探基于深度学习的谣言检测
Revisiting Deep Learning-based Rumor Detection Models with Interpretable Tools作者机构:华东师范大学经济与管理学院上海200062
出 版 物:《数据分析与知识发现》 (Data Analysis and Knowledge Discovery)
年 卷 期:2024年第8卷第4期
页 面:1-13页
核心收录:
学科分类:1205[管理学-图书情报与档案管理] 12[管理学] 08[工学] 120502[管理学-情报学] 081201[工学-计算机系统结构] 0812[工学-计算机科学与技术(可授工学、理学学位)]
基 金:国家自然科学基金项目(项目编号:72204087) 上海市哲学社会科学规划青年课题(项目编号:2022ETQ001) 中央高校基本科研业务费专项资金资助项目的研究成果之一
主 题:谣言检测 可解释机器学习 深度学习 LIME SHAP
摘 要:【目的】探究基于内容的深度谣言检测模型能否真正识别谣言的关键语义。【方法】基于谣言检测任务的中英文基准数据集,本文分别利用基于局部代理模型的可解释工具LIME和基于合作博弈论的可解释工具SHAP,分析BERT模型所识别出的关键特征,并判断其是否能反映谣言特性。【结果】可解释工具在不同模型与数据集上计算得出的关键特征差异性较大,无法辨别模型识别的重要特征和谣言之间的语义关系。【局限】本文验证的数据集和模型数量都十分有限。【结论】基于深度学习的谣言检测模型仅拟合了训练集的特征,面向多样的真实场景缺少足够的泛化性和可解释性。