基于篇章结构多任务学习的神经机器翻译

作     者：亢晓勉 宗成庆 KANG Xiao-Mian;ZONG Cheng-Qing

作者机构：模式识别国家重点实验室(中国科学院自动化研究所)北京100190 中国科学院大学人工智能学院北京100049 

出 版 物：《软件学报》 (Journal of Software)

年 卷 期：2022年第33卷第10期

页      面：3806-3818页

核心收录：

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家重点研发计划(2017YFB1002100) 国家自然科学基金(U1836221) 

主　　题：神经机器翻译 篇章结构 多任务学习 篇章分析 

摘      要：篇章翻译方法借助跨句的上下文信息以提升篇章的翻译质量.篇章具有结构化的语义信息,可以形式化地表示为基本篇章单元之间的依存关系.但是目前的神经机器翻译方法很少利用篇章的结构信息.为此,提出了一种篇章翻译模型,能够在神经机器翻译的编码器-解码器框架中显式地建模基本篇章单元切分、篇章依存结构预测和篇章关系分类任务,从而得到结构信息增强的篇章单元表示.该表示分别通过门控加权和层次注意力的方式,与编码和解码的状态向量进行融合.此外,为了缓解模型在测试阶段对篇章分析器的依赖,在训练时采用多任务学习的策略,引导模型对翻译任务和篇章分析任务进行联合优化.在公开数据集上的实验结果表明,所提出的方法能够有效地建模和利用篇章单元间的依存结构信息,从而达到提升译文质量的目的.