KLMVis: 基于知识图谱的检索增强语言模型可视分析系统

作     者：沈健 朱闽峰 马昱欣 程司哲 陈治彰 严丹方 陈为 

作者机构：浙江大学计算机辅助设计与图形系统全国重点实验室 浙江大学软件学院 南方科技大学计算机科学与工程系 浙江大学医学院附属第一医院放疗科 

出 版 物：《计算机辅助设计与图形学学报》 (Journal of Computer-Aided Design & Computer Graphics)

年 卷 期：2024年

核心收录：

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081203[工学-计算机应用技术] 08[工学] 081104[工学-模式识别与智能系统] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金(62132017, 62302435, 62307031) 浙江省自然科学基金(LD24F020011) 广东省自然科学基金(2023A1515012889) 广东省青年人才计划(2021QN02X794) 

主　　题：可视分析 大型语言模型 检索增强生成 知识图谱 

摘      要：当前， 检索增强生成框架已成为提升大型语言模型性能的重要技术， 其通过整合多样的外部知识源， 有效地缓解了大型语言模型知识更新滞后和领域知识匮乏的问题. 然而， 在实现检索知识与用户需求精准对齐， 以及准确地衡量外部知识对生成内容的增强作用等方面， 该框架仍面临挑战. 为此， 提出一个可视分析系统——KLMVis， 旨在优化基于知识图谱的检索增强流程， 提高语言模型输出的可解释性. 该系统提供直观的界面， 使用户能有效地探索知识图谱、选择相关证据， 并参与到知识检索过程中; 同时， 配备的多款可视化组件辅助用户做出审慎的证据选择， 并且深化用户对模型推理逻辑的理解. 最后对2个规模和类型不同的知识图谱进行案例分析和用户实验， 证明了KLMVis在提升检索质量和效率方面表现优异， 能够有效地帮助用户评估增强后的模型输出.