LingAlign:基于跨语言句向量的多语种句对齐方法研究
作者机构:燕山大学外国语学院 北京航空航天大学外国语学院
出 版 物:《数据分析与知识发现》 (Data Analysis and Knowledge Discovery)
年 卷 期:2023年
核心收录:
学科分类:08[工学] 081203[工学-计算机应用技术] 0812[工学-计算机科学与技术(可授工学、理学学位)]
基 金:国家社会科学基金项目(项目编号:19BYY082) 河北省社会科学发展研究重点课题(项目编号:20230104006) 教育部人文社会科学研究项目(项目编号:17YJC740055)的研究成果之一
摘 要:【目的】实现多语种句子间的自动对齐,为基于平行语料库的数字人文和机器翻译研究提供支持。【方法】采用跨语言句向量技术,将待对齐的双语文本映射到一个共享的向量空间,基于双轮动态规划和改进版余弦相似度算法抽取双语文本中的平行句对。【结果】通过直接评测和间接评测两种方式评估系统性能:直接评测的平均准确率、召回率和F1值分别为;0.950、0.960和0.955;间接评测的chrF、chrF++和COMET值分别为55.65、55.85和87.31。【局限】有待开发融合文档对齐和句子对齐的语料采集平台。【结论】本文方法在两类评测任务中的性能均优于现有系统,有助于构建大规模、高质量的多语种平行语料库。