基于IMGRU-Seq2seq的自动问答方法研究
AUTOMATIC QUESTION ANSWERING METHOD BASED ON IMGRU-SEQ2SEQ作者机构:西北农林科技大学信息工程学院陕西杨凌712100
出 版 物:《计算机应用与软件》 (Computer Applications and Software)
年 卷 期:2024年第41卷第6期
页 面:215-222,256页
学科分类:081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术(可授工学、理学学位)]
基 金:陕西省农技推广服务重大专项(2016XXPT-00) 杨凌示范区综合产业项目(2018GY-01) 西北农林科技大学校科技创新与成果转换项目(TGZX2019-12)
主 题:问答模型 门控循环单元神经网络 恒等映射 注意力机制 集束搜索算法
摘 要:针对传统问答模型采用循环神经网络带来的梯度消失和网络退化的问题,提出一种基于IMGRU-Seq2seq(Identity Mapping Gated Recurrent Unit-Sequence to Sequence)的自动问答模型。通过TF-IDF方法对文本进行加权词向量表示;以门控循环单元为基础,将批标准化技术和线性整流激活函数相结合并添加恒等映射,从而构建IMGRU模型;将双向IMGRU作为问答模型的语义抽取单元,引入注意力机制和集束搜索算法,实现自动问答。实验结果表明,所提方法比现有方法BLEU、ROUGE-L分别平均提高18.87%、4.35%。