面向个性化学习的课程主题知识图谱构建研究

作     者：郭振东 

作者单位：内蒙古师范大学 

学位级别：硕士

导师姓名：李成城

授予年度：2022年

学科分类：0401[教育学-教育学] 04[教育学] 08[工学] 081203[工学-计算机应用技术] 0812[工学-计算机科学与技术（可授工学、理学学位）] 040110[教育学-教育技术学（可授教育学、理学学位）] 

主      题：BERT模型 树结构神经主题模型 知识图谱 知识蒸馏 

摘      要：用户在课程学习时,知识点的体系和脉络往往依赖人工经验总结,用户缺乏以问题导向进行知识学习的途径,无法根据学习者实际需求,对课程知识点进行细粒度的归纳和总结。知识图谱是大数据时代最有效的知识表示及整合方法之一,本研究主要针对面向个性化学习的课程主题知识图谱构建任务进行探索。具体工作如下:1.针对粗粒度课程知识点词汇语义表示的学习,提出了一种基于BERT的领域词向量生成方法。首先,建立一个BERT-CRF领域分词器,在预训练BERT字向量基础上结合领域文本进行fine-tuning和领域分词学习;然后通过领域分词解码结果进一步得到领域词向量表示。实验表明,该方法仅利用少量的领域文本就可以学习出符合领域任务需求的分词器模型,并能获得相比原始BERT更高质量的课程知识领域词向量。2.主题模型仅利用了词频等统计特征,忽略了外部先验知识对获取主题的帮助。针对课程主题分析任务,融合迁移学习思想,提出了一种基于BERT嵌入与知识蒸馏的树结构神经主题模型。首先,利用BERTCRF模型获取粗粒度领域词嵌入,缓解字粒度BERT嵌入与词袋表示不匹配问题;其次,针对词袋表示数据稀疏问题,利用知识蒸馏组合预训练BERT与主题模型的最佳性能,以提升主题质量;最后,优化树结构神经主题模型以拟合富含辅助信息的BERT词嵌入,并用有监督的蒸馏知识指导无监督主题模型的文档重构。实验表明,基于BERT嵌入与知识蒸馏的树结构神经主题模型具有预训练模型和主题模型的优良特性,能对课程主题进行更有效的归纳总结。3.为构建更充分表达用户获取意图的课程主题知识图谱,结合社会网络分析方法,对树结构神经主题模型的主题结果进一步筛选,并搭建交互式的个性化学习原型系统,增强用户个性化学习体验。