标签指导的双注意力深度神经网络模型

作     者：彭展望 朱小飞 郭嘉丰 PENG Zhanwang;ZHU Xiaofei;GUO Jiafeng

作者机构：重庆理工大学计算机科学与工程学院重庆400054 中国科学院计算技术研究所网络数据科学与技术重点实验室北京100190 

出 版 物：《模式识别与人工智能》 (Pattern Recognition and Artificial Intelligence)

年 卷 期：2022年第35卷第2期

页      面：175-184页

核心收录：

学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金项目(No.62141201) 重庆市技术创新与应用发展专项项目(No.cstc2020jscx-dxwtBX0014) 重庆市教委语言文字科研重点项目(No.yyk20103)资助 

主　　题：情感分类 标签描述生成 双注意力 自注意力 标签注意力 

摘      要：在数据集不包含标签文本信息时,现有的显式交互分类模型无法显式计算文本单词和标签之间的语义关系.针对此问题,文中提出标签指导的双注意力深度神经网络模型.首先,提出基于逆标签频次的自动类别标签描述生成方法,为每个标签生成特定的标签描述,用于显式计算文本单词与标签之间的语义关系.在此基础上,使用文本编码器学习具有上下文语境信息的评论文本表示,并提出标签指导的双注意力网络,分别学习基于自注意力的文本表示和基于标签注意力的文本表示.然后,使用自适应门控机制融合这两个文本表示,得到文本最终表示.最后,使用两层前馈神经网络作为分类器,进行情感分类.在3个公开的真实数据集上的实验表明,文中模型分类效果较优,可减少计算代价和训练时长.