最大熵原理及改进方法的研究现状

作     者：黄乾坤 吴娅辉 HUANG Qiankun;WU Yahui

作者机构：航空工业北京长城计量测试技术研究所北京100095 

出 版 物：《计测技术》 (Metrology & Measurement Technology)

年 卷 期：2022年第42卷第1期

页      面：9-17页

学科分类：08[工学] 080203[工学-机械设计及理论] 080402[工学-测试计量技术及仪器] 0804[工学-仪器科学与技术] 0802[工学-机械工程] 

基　　金：国家自然科学基金(51775526) 

主　　题：最大熵原理 优化求解 矩约束 秩约束 转换函数 密度核估计 

摘      要：熵作为信息论中的一个基本概念受到了广泛的关注与研究。以熵为基础的最大熵原理也在众多学者的研究与应用中不断发展,逐渐形成了自有的理论体系并得到了广泛应用,例如在使用贝叶斯方法进行测量不确定度评定时,最大熵原理可以估计先验分布。本文以Shannon熵为主要对象,对目前研究中涉及的不同约束下最大熵原理进行了归纳,并整理为形式较为统一的模型。论述了利用转换函数法、密度核估计法等改善传统最大熵原理不足的方法,具体介绍了它们的改进思路、理论模型及应用特点。最后结合实践,从约束选择、评价指标和优化算法等方面对最大熵原理改进方法进行总结,为最大熵原理的进一步研究及应用起到推动作用。