交替方向乘子法及在逆协方差矩阵估计中的应用

作     者：杨冠雨 

作者单位：河南大学 

学位级别：硕士

导师姓名：肖运海

授予年度：2016年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 07[理学] 070105[理学-运筹学与控制论] 0701[理学-数学] 

主      题：非光滑凸优化 交替方向乘子法 临近点算法 逆协方差矩阵估计 全局收敛性 

摘      要：交替方向乘子法是增广拉格朗日乘子法的一种分裂形式,因其迭代形式简单,存储量低等优点,非常适合求解大规模可分离结构凸优化问题.逆协方差矩阵估计是统计学领域的经典问题,在经济,金融,社交网络,基因排序等高维数据分析领域有着广泛的应用.本论文重点研究求解非光滑可分离凸优化问题的线性化交替方向乘子法,分析算法的收敛性,并测试其在高维逆协方差矩阵估计中的数值有效性.第一章,简单介绍求解可分离结构凸优化问题的交替方向乘子法的迭代形式,总结此算法的部分研究成果;简单回顾逆协方差矩阵估计问题及其模型,并列出求解该模型的知名算法;最后,简单陈述本文的主要贡献,并列出本文所使用的符号,概念等.第二章,首先基于线性化技术,提出求解凸优化问题的交替方向乘子法,分析此算法与Xu和Wu所提线性化交替方向乘子法的关系.然后对G auss-Seiddel迭代产生的点列进行松弛,并说明该松弛步可看做是Eckstein和Bertsekas所提广义交替方向乘子法的推广.在一定条件下,分析算法的收敛性质.第三章,推广第二章中所提的算法用来求解高维逆协方差矩阵估计问题.证明算法的收敛性,并通过数值试验验证算法的有效性.最后,添加自适应校正项改进逆协方差矩阵估计问题的模型,通过数值试验验证算法及模型的优越性.第四章,总结全文并给出一些值得进一步研究的问题.