基于交叉注意力多源数据增强的情境感知查询建议方法
A Context-Aware Query Suggestion Method Based on Multi-source Data Augmentation through Cross-Attention作者机构:河南财经政法大学计算机与信息工程学院郑州450046
出 版 物:《北京大学学报(自然科学版)》 (Acta Scientiarum Naturalium Universitatis Pekinensis)
年 卷 期:2024年第60卷第1期
页 面:34-42页
核心收录:
学科分类:08[工学] 0812[工学-计算机科学与技术(可授工学、理学学位)]
主 题:查询建议 数据增强 交叉注意力 情境感知 Transformer模型
摘 要:当前基于神经网络模型的查询建议研究往往单独采用查询日志会话中的查询序列作为训练数据,但由于查询本身缺乏句法关系,甚至缺失语义,导致神经网络模型不能充分挖掘和推理查询序列中各种词或概念之间语义关系。针对这一问题,提出一种基于交叉注意力多源数据增强(MDACA)的Transformer模型框架,用于生成情境感知的查询建议。采用基于Transformer的编码器-解码器模型,利用交叉注意力机制,融合了查询层、文档语义层以及全局查询建议信息。实验结果表明,与目前方法相比,该方法能生成具有更高相关性的情境感知查询建议。