深度图推理研究及其在初等数学问题求解中的应用

作     者：郭晓冬 

作者单位：电子科技大学 

学位级别：硕士

导师姓名：钟秀琴

授予年度：2021年

学科分类：07[理学] 08[工学] 081203[工学-计算机应用技术] 0701[理学-数学] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主      题：数学问题求解 知识图谱 GPT-2 图嵌入 深度图推理 

摘      要：将人工智能应用于教育领域,实现计算机对数学问题的智能解答,做出一款数学推理系统,一直是自动推理方向的热点问题。一些机构和学者们也尝试设计出一些基于知识库、推理引擎或者模式匹配的专家系统来实现数学题目智能求解;近些年来,机器学习技术也被应用到了数学推理系统的研究中。随着人工智能技术的快速发展,自动推理领域也不断在推陈出新。与此同时,知识图谱技术和深度学习技术发展迅速,其在知识推理上有着重大的优势,已经被运用在医学、电商等多个领域,并取得了很好的效果。因此在科研项目“初等数学类人答题系统上应用知识图谱和深度学习技术,使得系统能在初等数学问题求解中实现深度图推理是本文的目标。主要贡献由以下三部分组成:（1）初等数学知识图谱构建准确全面的行业知识图谱是推理系统的基础,初等数学通常指小学中学阶段的数学知识,考虑到解题系统主要目的是参与“高考,本文参与整理了以人教版、北师大版为主的初高中教材和主流教辅资料的初等数学知识点,建立了包括实体551个,关系561个,三元组204763个的初等数学概念知识图谱。该知识图谱由图数据库Neo4j存储,并建立一个对应的以JAVA语言编写的知识库项目对其管理。（2）基于游走的深度图嵌入技术对数学知识图谱进行图网络结构重构,将知识图谱关系由边建模成节点,并在深度游走（Deep Walk）算法的基础上对算法模型的游走策略和采样方式都进行了改进,最终实现了一个能更好应用于初等数学知识图谱,且适用于本文任务的知识表示模型,获得了知识图谱中数学实体和数学关系的表示向量。（3）深度学习在图推理系统中的应用图推理系统的推理依赖于题目知识图谱与规则实例化知识图谱的匹配,本文将图嵌入应用于题目和规则知识图谱的向量表示中,由向量余弦相似度作为图推理系统预测规则实例的依据,对规则实例化知识图谱匹配顺序进行排序,优化了系统匹配算法。此外,还实现了一个几何定理知识图谱与几何定理序列转换模块,并基于语言模型GPT-2训练了若干序列化几何定理模型,通过设计的评价函数筛选出证明序列,实现了部分几何问题的证明,提高了图推理系统在几何证明题方面的求解能力。