融合语义路径与语言模型的元学习知识推理框架

作     者：段立 封皓君 张碧莹 刘江舟 刘海潮 DUAN Li;FENG Haojun;ZHANG Biying;LIU Jiangzhou;LIU Haichao

作者机构：海军工程大学电子工程学院武汉430033 中国人民解放军91202部队葫芦岛125004 

出 版 物：《电子与信息学报》 (Journal of Electronics & Information Technology)

年 卷 期：2022年第44卷第12期

页      面：4376-4383页

核心收录：

学科分类：0711[理学-系统科学] 07[理学] 08[工学] 081203[工学-计算机应用技术] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主　　题：知识推理 语义路径 双向Transformer编码表示 模型无关元学习 

摘      要：针对传统推理方法无法兼顾计算能力与可解释性,同时在小样本场景下难以实现知识的快速学习等问题,该文设计一款融合语义路径与双向Transformer编码(BERT)的模型无关元学习(MAML)推理框架,该框架由基训练和元训练两个阶段构成。基训练阶段,将图谱推理实例用语义路径表示,并代入BERT模型微调计算链接概率,离线保存推理经验;元训练阶段,该框架基于多种关系的基训练过程获得梯度元信息,实现初始权值优化,完成小样本下知识的快速学习。实验表明,基训练推理框架在链接预测与事实预测任务中多项指标高于平均水平,同时元学习框架可以实现部分小样本推理问题的快速收敛。