基于文本的情绪检测研究

作     者：杨扬 

作者单位：东南大学 

学位级别：硕士

导师姓名：周德宇;胡继芳

授予年度：2019年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 081203[工学-计算机应用技术] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主      题：情绪检测 相关情绪排序 情绪相关性 主题模型 可解释神经网络 层级状态 循环神经网络 

摘      要：随着Web2.0的日益繁荣,在线新闻网站、博客等社交网络平台成为人们分享自己的感受、态度和观点的主要方式。因此,涌现了海量的用户生成文本。准确地分析和检测这些文本中的情感,利用计算机来感受、理解以及识别人类情感可以增强对用户情感状态的理解,有着十分重要的意义。基于文本的情绪检测的主要任务是检测文本中包含或者触发读者的细粒度情绪。基于文本的情绪检测被广泛应用于人机对话,推荐系统以及舆情监控等应用中。因此,基于文本的情绪检测技术研究具有重要的现实意义和应用价值。现有的文本情绪检测方法大多只检测文本的单个情绪,而现实生活中的文本通常包含或激发多种不同的情绪,并且情绪之间还存在强度差异。因此,对文本中的多个情绪进行检测和排序是至关重要的。本文围绕相关情绪排序(Relevant Emotion Ranking,RER)学习进行研究。本文的主要贡献有:1.文本可能包含或激发具有不同强度的多种情绪。因此,检测一个给定文本相关的多种情绪可以看成一个多标签分类问题。本文更进一步对文本的相关情绪进行排序。很显然,排名靠前的情绪与文本的关联性比排名靠后的情绪更为密切,而不相关情绪的排名并不重要。针对这一特点,提出了一种新的相关情绪排序学习框架RER及对应的学习算法。在该框架中,设计了新的损失函数,实现了对情绪的检测和对相关情绪的排序。此外,通过观察,我们发现一些情绪共同出现的频率更高,而有些情绪很少共同出现。于是进一步将该情绪共现信息作为约束条件引入到学习框架。在两个真实语料库上的实验结果表明,RER能有效地处理情绪检测问题,其性能优于现有的情绪检测方法和多标签学习方法。2.情绪可能是由文本中隐含的主题触发的。因此引入并揭示主题信息可以帮助我们理解情绪是如何触发的,进而有助于准确的情绪检测。于是进一步提出了一种基于主题可解释的神经文本情绪检测(Interpretable Neural Network for Relevant Emotion Ranking,INN-RER)模型进行相关情绪排序学习。借鉴迁移学习的思想,首先根据主题模型生成的主题分布初始化神经网络,使得神经网络的隐藏层模拟主题模型的行为,即学习文本中的隐含主题信息。此外,使用相关情绪排序损失函数对整个神经网络进行优化。在三种真实语料库上的实验结果表明,INN-RER的性能优于现有的情绪检测方法、RER以及多标签学习方法。此外,学习到的模型INN-RER具有良好的可解释性,所提取的情绪关联主题词可明显反映触发该情绪的主题或事件。3.现有的文本情绪检测方法或基于浅层表示,例如词袋模型,存在未考虑单词词序的问题,或基于深层语义表示,例如循环神经网络,但在捕获长距离依赖性方面存在问题。本文提出了一种基于层级状态的神经文本情绪检测模型(Hierarchical State Recurrent Neural Network,HSRNN)用于相关情绪排序学习。相对于传统的循环神经网络那样增量地读取一系列单词,层级状态循环神经网络在每个时间步同时对所有单词或句子的隐藏状态进行编码,以更好地捕获长期依赖性。此外,采用层级机制来捕获文档中关键的层级语义结构。在两种文档级别的真实语料库上的实验结果表明,HSRNN的性能优于现有的情绪检测方法、INN-RER以及多标签学习方法。此外,层级机制可以捕获文档的关键层级语义信息,动态突出文本中唤起情绪的重要部分。