基于深度神经网络的网络欺凌检测技术研究

作     者：朱润青 

作者单位：南京师范大学 

学位级别：硕士

导师姓名：陈波

授予年度：2021年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 0839[工学-网络空间安全] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主      题：网络欺凌 深度学习 联邦学习 在线安全 

摘      要：网络欺凌指在互联网环境下,以伤害他人或令他人难堪为目的,通过数字媒介发布对他人不利的信息,从而造成他人精神上和心理上伤害的行为。随着社交网络的兴起与普及,网络欺凌事件频发。网络欺凌已经成为青少年在线安全的首要威胁,同时引起了各国政府与研究者的关注。本文研究社交网站中网络欺凌行为的自动化检测技术,旨在精确有效的检测网络欺凌行为,从根源上遏制欺凌行为在社交网络中造成的负面影响,保障社交网络用户尤其是青少年用户的在线安全。首先,本文结合互联网与社交网络发展的现状分析了网络欺凌日益严重的原因及影响,综合分析了网络欺凌给社交网络用户尤其是青少年用户在线安全带来的威胁。对基于机器学习与深度学习的网络欺凌检测领域已有工作进行了分析,总结已有工作中检测特征、模型结构、隐私保护等方面的不足。随后,针对已有欺凌特征选择工作中过度依赖文本型特征的问题,提出融合文本、情感、用户三大类特征作为最终的欺凌检测特征。通过基于恶词词典与话题关键词的方法获取了文本特征,通过构建基于ELMO向量的情感特征提取模型提取了情感特征,通过爬虫、API等手段补充了用户特征。其次,不同于已有的普遍结构单一的欺凌检测模型,本文使用了RNN结构的网络来完成了部分特征提取工作,在欺凌检测任务中则是构建CNN结构的网络作为分类器。针对分类器在不同数据集上的表现差异,采用了平衡数据、Dropout两种优化策略。通过实验验证了本文提出的基于深度神经网络的网络欺凌检测模型的可行性与有效性。最后,本文引入了联邦学习来确保训练数据的隐私安全。根据联邦学习的一般应用框架与其在基于CNN网络模型中的应用流程,提出了基于联邦学习的网络欺凌检测模型,并给出了在Pytorch平台下模型的具体实现方案,在确保一定模型精度的前提下保证了数据在训练过程中的隐私安全。