融合语境语义差异特征的短文本匹配模型
A Short Text Matching Model Incorporating Contextual Semantic Differences作者机构：工商银行金融科技研究院北京100029
出 版 物：《北京大学学报（自然科学版）》 (Acta Scientiarum Naturalium Universitatis Pekinensis)
年 卷 期：2023年第59卷第1期
页 面：30-38页
核心收录：
学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）]
主 题：短文本匹配 差异特征 语境语义 Diff Transformer
摘 要：在字面相同语义不同和字面不同语义相同的情况下,短文本匹配往往不能准确地得到语句间语义的相似程度。针对这一问题,提出一种融合语境语义差异特征的短文本匹配模型。该模型以BERT系列的语言模型作为基础匹配模型,采用一种新的Diff Transformer结构作为差异特征提取器,并以门控方式融合基础语义表示和差异特征表示来提升匹配效果。在中文测试数据集上的实验结果表明,所提出的模型可以达到先进模型的效果。
维普期刊数据库
同方期刊数据库