基于ALBERT-CRNN的弹幕文本情感分析

作     者：曾诚 温超东 孙瑜敏 潘列 何鹏 ZENG Cheng;WEN Chaodong;SUN Yumin;PAN Lie;HE Peng

作者机构：湖北大学计算机与信息工程学院湖北武汉430062 湖北省软件工程工程技术研究中心湖北武汉430062 智慧政务与人工智能应用湖北省工程研究中心湖北武汉430062 

出 版 物：《郑州大学学报（理学版）》 (Journal of Zhengzhou University:Natural Science Edition)

年 卷 期：2021年第53卷第3期

页      面：1-8页

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金项目(61977021,61902114) 湖北省2019年技术创新专项(2019ACA144) 

主　　题：弹幕文本 情感分析 词向量 预训练语言模型 卷积循环神经网络 

摘      要：提出一种结合ALBERT预训练语言模型与卷积循环神经网络(convolutional recurrent neural network,CRNN)的弹幕文本情感分析模型ALBERT-CRNN。首先使用ALBERT预训练语言模型获取弹幕文本的动态特征表示,使得句子中同一个词在不同上下文语境中具有不同的词向量表达;然后利用CRNN对特征进行训练,充分考虑了文本中的局部特征信息和上下文语义关联;最后通过Softmax函数得出弹幕文本的情感极性。在哔哩哔哩、爱奇艺和腾讯视频三个视频平台的弹幕文本数据集上进行实验,结果表明,ALBERT-CRNN模型在三个数据集上的准确率分别达到94.3%、93.5%和94.8%,相比一些传统模型具有更好的效果。