融合对比学习与轻量化图网络在逻辑推理应用

作     者：李想 麻斯亮 施晨 龚芷仪 黄俊 许勇 

作者机构：华南理工大学计算机科学与工程学院 阿里云智能集团 东莞市松山湖北区学校 

出 版 物：《小型微型计算机系统》 (Journal of Chinese Computer Systems)

年 卷 期：2024年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081203[工学-计算机应用技术] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金项目(62072188)资助 

主　　题：机器阅读理解 逻辑推理 对比学习 图网络 

摘      要：机器阅读理解是自然语言处理中的重要任务，不仅需要理解文本，而且需要依据复杂的逻辑结构进行推理。现有的逻辑推理模型通常通过构建文本的图结构并提取隐性或显性特征，但这些方法常因关注单一特征类型而受限，同时传统图卷积网络易导致节点特征平滑和收敛速度慢等问题。针对这些挑战，本文提出了一种融合对比学习与轻量化图网络模型。该模型在训练初期通过融入提示词工程思想加速文本理解；对文本构建语篇图与结构图，利用轻量化图卷积网络和图注意力转换器网络对各图进行特征提取，并通过动态注意力机制融合不同图的节点特征。此外，本文结合对比学习增强模型识别错误逻辑关系的能力。最后，本文在ReClor与LogiQA数据集上的大量实验表明，本文的模型性能优于基线模型。