单调贝叶斯网络参数学习算法研究

作     者：杨景焯 

作者单位：天津大学 

学位级别：硕士

导师姓名：胡清华

授予年度：2018年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主      题：贝叶斯网络 参数学习 单调性提取 单调性约束 

摘      要：随着人工智能技术受到人们越来越广泛的重视和应用,贝叶斯网络作为经典的机器学习算法,以其概率推理准确和语义表达清晰的优势,在不确定性建模和概率推理等问题上得到了广泛的应用。贝叶斯网络参数学习作为贝叶斯网络研究和应用的一个重要的问题和挑战,准确地学习网络参数对贝叶斯网络模型的准确性和可解释性具有重要的影响。在现实世界的很多应用中,人们能够收集得到的样本数据是有限的。所以,针对有限的训练样本数据,如何提升网络参数学习的准确性是一个重要的研究课题。同时,有学者研究表明单调性广泛存在于生活中的各个领域,在很多问题中属性与属性、属性与决策之间存在着一定单调性关系。本文围绕着有限训练样本数据的贝叶斯网络参数学习问题,基于贝叶斯网络节点之间的单调性关系和贝叶斯网络的单调性展开研究,主要的研究工作和创新点如下:（1）本文提出了一种纯数据驱动的单调贝叶斯网络参数学习方法。首先,该方法通过单调性衡量指标自动地提取网络节点之间的单调性关系;然后,基于贝叶斯网络的单调性定义构造网络节点条件概率表的单调性不等式约束,将贝叶斯网络参数学习转化为一个约束优化问题;最后,通过不同的方法对该问题进行求解。在公开的标准贝叶斯网络库和真实分类数据集上的实验验证了本文提出的方法在有限训练样本数据上的有效性。（2）针对现实中获得的样本通常带有缺失数据,本文提出了一种带单调性约束的EM改进算法。改进后的EM算法通过在每一轮迭代的M步求解中添加基于贝叶斯网络单调性定义构造得到参数单调性不等式约束,将最大化期望似然函数转为约束优化问题。改进后的EM算法使得在M步求解得到的网络参数满足网络节点之间单调关系,降低了EM算法对训练样本数据量的依赖。在不同缺失率数据集上的实验结果表明了改进后的EM算法提升了参数学习的准确性。