检索结果-南通市图书馆

广西大学学报（自然科学版） 2016年第6期41卷 2071-2077页

作者：晁绵涛邓钊唐春明广西大学数学与信息科学学院广西高校数学及其应用重点实验室广西南宁530004

研究一类目标函数是光滑凸函数与Group Lasso正则项和的优化问题。利用不动点迭代理论分析了邻近梯度算法的全局收敛性和有限收敛性。特别地,在不要求光滑凸函数为严格凸函数的条件下建立了邻近梯度法的线性收敛性。

关键词：邻近梯度算法线性收敛性 Group Lasso

复合凸优化问题的不精确邻近梯度算法及其应用

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

复合凸优化问题的不精确邻近梯度算法及其应用

作者：谢秋玲桂林电子科技大学

学位级别：硕士

复合凸优化问题是一类重要的优化问题,其在稀疏信号修复、稀疏图回归、稀疏逆协方差、稀疏字典学习、图像修复、图像去噪和去模糊等领域具有广泛应用。本文主要研究以下内容:首先基于邻近梯度算法和?-次微分的思想,考虑在光滑项梯度及... 详细信息

复合凸优化问题是一类重要的优化问题,其在稀疏信号修复、稀疏图回归、稀疏逆协方差、稀疏字典学习、图像修复、图像去噪和去模糊等领域具有广泛应用。本文主要研究以下内容:首先基于邻近梯度算法和?-次微分的思想,考虑在光滑项梯度及邻近算子的计算中存在误差,提出了求解复合凸优化问题的带Backtracking技术的不精确邻近梯度算法,并在适当条件下给出该算法的收敛速度分析。然后,讨论该算法在Lasso问题和稀疏逻辑回归问题中的应用。其次基于重启技术,提出了求解复合凸优化问题带有重启和Backtracking技术的不精确邻近梯度法,并在适当条件下证明了该算法的收敛速度,也讨论该算法在Lasso问题和稀疏逻辑回归问题中的应用。对以上两个算法,相应的数值实验验证了算法的有效性。

关键词：复合凸优化问题不精确邻近算子邻近梯度算法重启技术 Backtracking技术

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

优化问题中的邻近梯度算法研究

优化问题中的邻近梯度算法研究

作者：王卫霞中国民航大学

学位级别：硕士

信号恢复和图像处理、偏微分方程、凸优化等领域的许多问题都可以归结为优化问题.邻近梯度算法作为求解凸函数和的优化问题的有效方法之一,近年来受到了很多学者的关注,且其相关研究工作也取得了一定程度的进展.但目前对更复杂的多个函... 详细信息

信号恢复和图像处理、偏微分方程、凸优化等领域的许多问题都可以归结为优化问题.邻近梯度算法作为求解凸函数和的优化问题的有效方法之一,近年来受到了很多学者的关注,且其相关研究工作也取得了一定程度的进展.但目前对更复杂的多个函数和的凸优化问题的研究结果还不多.另外,基于提高算法收敛速度的需要,对加速算法的研究一直是算法研究工作者的努力方向和研究热点.目前针对多个非光滑凸函数的加速算法的研究还在不断发展中.本文的主要工作之一是讨论了m(10)n(m(10)n≥3)个凸函数之和的极小化问题,提出了精确和非精确的三算子邻近尺度梯度算法,分析了算法的强收敛性.在此基础上,探讨了精确的三算子邻近尺度梯度算法的有界扰动恢复性,为应用广泛的Superiorization算法的进一步研究提供了良好的理论基础.基于对算法加速的考虑,本文的另一个工作是提出了松弛惯性三算子邻近尺度梯度算法,且在适当的条件假设下证明了算法生成的序列强收敛于某个非扩张算子的不动点,该不动点在邻近算子的作用下即为优化问题解集中的点.此外,本文还构造了数值算例检验了算法的有效性,比较了算法的收敛性能和算法系数对算法运行时间和迭代步数的影响.本文的工作在一定程度上丰富了不动点理论的研究成果.

关键词：优化问题邻近梯度算法有界扰动恢复惯性算法松弛算法

基于邻近梯度算法求解Lasso回归模型在证券指数的应用研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

电子商务评论 2024年第4期13卷 2973-2981页

作者：王琦彭定涛贵州大学数学与统计学院贵州贵阳

在证券市场中,指数跟踪是投资者进行资产配置和风险管理的重要手段。传统的指数跟踪方法往往有模型解释性差、计算复杂度高等问题。因此,探索新的算法和技术以提升指数跟踪的效果具有重要意义。本文考虑Lasso回归模型来进行变量选择,首... 详细信息

在证券市场中,指数跟踪是投资者进行资产配置和风险管理的重要手段。传统的指数跟踪方法往往有模型解释性差、计算复杂度高等问题。因此,探索新的算法和技术以提升指数跟踪的效果具有重要意义。本文考虑Lasso回归模型来进行变量选择,首先介绍了Lasso回归模型基本原理,然后利用邻近梯度算法求解回归系数,该解具有稀疏性,旨在众多的变量中精确选择有效的部分变量来预测证券指数。最后利用沪深300指数以及其成分股的收盘价格作为分析数据,得出小部分股票就可以达到几乎相同的拟合效果,通过实例说明该方法在证券指数跟踪中有一定的有效性和优越性,能够实现更稀疏的变量组合,给证券指数跟踪提供了新的思路和方法。In the security market, index tracking is an important means for investors to allocate assets and manage risks. Traditional exponential tracking methods often have the problems of poor model interpretation and high computational complexity. Therefore, it is of great significance to explore new algorithms and techniques to improve the effect of exponential tracking. In this paper, Lasso regression model is considered for variable selection. Firstly, the basic principle of Lasso regression model is introduced, and then the adjacent gradient algorithm is used to solve the regression coefficient. The solution is sparse, aiming at accurately selecting effective part of the variables to predict the stock index from many variables. Finally, using the closing prices of CSI 300 index and its component stocks as analysis data, a small number of stocks can achieve almost the same fitting effect. An example shows that the method has certain effectiveness and superiority in securities index tracking, and can realize sparser variable combination, which provides a new idea and method for securities index tracking.

关键词： Lasso回归股票价格邻近梯度算法稀疏优化证券指数

维普期刊数据库评论

在线全文

维普期刊数据库

学校读者我要写书评

暂无评论

一类混合稀疏组稀疏优化问题的邻近梯度算法

运筹与模糊学 2023年第6期13卷 7598-7611页

作者：童兴华彭定涛张弦贵州大学数学与统计学院贵州贵阳

本文研究了一类混合稀疏组稀疏优化问题,其中损失函数为光滑凸函数,正则项为稀疏l1范数与组稀疏lα,p(α ≥ 1, p > 0)范数的组合。首先,提出了邻近梯度算法求解此混合稀疏组稀疏优化问题。其次,分别讨论了凸(p ≥ 1)和非凸(0 时给出... 详细信息

本文研究了一类混合稀疏组稀疏优化问题,其中损失函数为光滑凸函数,正则项为稀疏l1范数与组稀疏lα,p(α ≥ 1, p > 0)范数的组合。首先,提出了邻近梯度算法求解此混合稀疏组稀疏优化问题。其次,分别讨论了凸(p ≥ 1)和非凸(0 时给出组合惩罚项邻近算子的闭式解。本文结果为求解混合稀疏组稀疏优化问题提供了理论依据和可行途径。

关键词：混合稀疏组稀疏优化问题邻近梯度算法邻近算子闭式解

Hadamard流形上的多目标邻近梯度算法

维普期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

理论数学 2023年第12期13卷 3525-3536页

作者：刘仁金王湘美贵州大学数学与统计学院贵州贵阳

邻近梯度算法是求解非光滑优化问题的经典算法。本文将多目标优化问题的邻近梯度算法推广到Hadammard流形上。在一定条件下,证明了算法产生序列的聚点是Pareto稳定点。在目标函数满足Polyak-Loiasiewicz不等式时,得到算法的收敛速度是... 详细信息

邻近梯度算法是求解非光滑优化问题的经典算法。本文将多目标优化问题的邻近梯度算法推广到Hadammard流形上。在一定条件下,证明了算法产生序列的聚点是Pareto稳定点。在目标函数满足Polyak-Loiasiewicz不等式时,得到算法的收敛速度是线性的。所得结果在Hadamard流形上是新的。

关键词： Hadamard流形邻近梯度算法 Polyak-Loiasiewicz不等式

基于Eligible正则项的稀疏优化模型与算法及其应用

维普期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

中国科学:数学 2025年

作者：李倩王国强高雪瑞白延琴上海工程技术大学数理与统计学院上海大学理学院数学系

在当前机器学习、深度学习及统计学习的前沿研究中,众多核心科学难题能够借助基于正则项的稀疏优化模型进行有效表征.本文致力于探索这类基于正则项的稀疏优化模型、有效算法及实际应用场景,以期推动该领域发展.首先,创新性地提出Eligi... 详细信息

在当前机器学习、深度学习及统计学习的前沿研究中,众多核心科学难题能够借助基于正则项的稀疏优化模型进行有效表征.本文致力于探索这类基于正则项的稀疏优化模型、有效算法及实际应用场景,以期推动该领域发展.首先,创新性地提出Eligible正则项的概念.其次,建立基于可分和不可分Eligible正则项的精确恢复理论.接着,构建Eligible正则稀疏优化模型,并设计高效加速邻近梯度算法框架进行求解.最后,给出相位图分析和稀疏指数追踪实证分析的应用.

关键词：稀疏优化正则项邻近梯度算法加速邻近梯度算法

关于求解平方根损失函数回归问题的自适应邻近梯度-次梯度算法的收敛性分析

同方期刊数据库评论

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

运筹学学报(中英文) 2023年

作者：杨金佶沈春根宇振盛上海理工大学理学院

SQRT-Lasso模型由于其对于正则化参数的选择不依赖于残差的方差估计这一特点,从而受到了广泛关注。但平方根损失函数存在不可微点,这给SQRT-Lasso模型的算法设计带来了困难。本文在Li等人2020年的工作的基础上改进了平方根损失函数的局... 详细信息

SQRT-Lasso模型由于其对于正则化参数的选择不依赖于残差的方差估计这一特点,从而受到了广泛关注。但平方根损失函数存在不可微点,这给SQRT-Lasso模型的算法设计带来了困难。本文在Li等人2020年的工作的基础上改进了平方根损失函数的局部光滑性与局部限制强凸性的证明;为了克服损失函数因存在不可微点而导致的计算困难,设计了自适应邻近梯度-次梯度算法(APGSA);在一定的假设条件下,证明了所提算法在高概率意义下的全局收敛性。此外,本文还证明了算法在有限步迭代后准确探测出积极流形,进而得到了高概率意义下的局部线性收敛速度。最后通过仿真实验验证了算法(APGSA)的有效性和局部线性收敛速度。

关键词：局部光滑性局部限制强凸性邻近梯度算法邻近次梯度算法部分光滑性

凸优化问题Superiorization算法的研究与应用

同方期刊数据库评论

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

凸优化问题Superiorization算法的研究与应用

作者：崔伟中国民航大学

学位级别：硕士

邻近梯度算法是求解凸优化问题的一种有效方法.在此基础上,本文基于近年来Censor提出的Superioriation算法框架,讨论了带扰动的邻近梯度算法,以解决一类非光滑的凸优化问题.本文一方面从两个角度对带扰动的邻近梯度算法做了一般化和推广... 详细信息

邻近梯度算法是求解凸优化问题的一种有效方法.在此基础上,本文基于近年来Censor提出的Superioriation算法框架,讨论了带扰动的邻近梯度算法,以解决一类非光滑的凸优化问题.本文一方面从两个角度对带扰动的邻近梯度算法做了一般化和推广:一是鉴于实际应用的需要,对算法本身做了推广,从而使得算法的适应性更强,应用面更广;二是注意到邻近梯度方法在无穷维空间中一般没有强收敛性质,本文应用压缩算子与带扰动的邻近梯度算法的凸组合（称为带扰动的粘滞邻近梯度算法）,得到了迭代序列的强收敛性结果.另一方面,本文也是Superioriation算法在邻近梯度算法上的应用研究.鉴于Superiorization算法的实现有赖于原始算法的有界扰动恢复性质,本文的主要工作之一是通过前述提出的两种算法证明了邻近梯度算法和粘滞邻近梯度算法都具有有界扰动恢复性质,并在此基础上,给出了算法相应的Superiorization格式.此外,在证明粘滞邻近梯度算法的有界扰动恢复性质时,本文还指出原始算法的有界扰动作为内扰动,其形式实际上可以转化为所提出算法的外扰动形式,从而推广了在一定条件下证明原始算法具有有界扰动恢复性质的一种证明思路.本文最后给出了算法在线性反问题上的应用和数值算例.

关键词：邻近梯度算法有界扰动恢复 Superiorization算法压缩映射 Lasso问题线性反问题

一类稀疏矩阵优化问题的精确连续逼近理论与算法分析

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

一类稀疏矩阵优化问题的精确连续逼近理论与算法分析

作者：朱彤哈尔滨工业大学

学位级别：硕士

最优化问题与人们的生活、学习等方面都是息息相关的。最优化理论是解决最优化问题的理论基础。随着近几年计算机技术的迅猛发展,在图像处理、人工智能、压缩感知等当代重要的领域中,最优化理论都显得尤为重要,其中较为常用的是稀疏优... 详细信息

最优化问题与人们的生活、学习等方面都是息息相关的。最优化理论是解决最优化问题的理论基础。随着近几年计算机技术的迅猛发展,在图像处理、人工智能、压缩感知等当代重要的领域中,最优化理论都显得尤为重要,其中较为常用的是稀疏优化问题。稀疏优化是最优化理论的一个重要分支,被逐渐广泛地应用到经济、工程、军事等领域中。随着图像的恢复和重建、人工智能、压缩感知等领域的蓬勃发展,对稀疏优化问题的求解显得尤为重要。稀疏优化问题是指寻找问题中绝大多数元素是零的解,一个矩阵的稀疏性可以由其基数(1-0范数)来定义,所以带有基数项的优化问题模型为该类问题最直接最理想的模型,研究建立稀疏优化问题的理论以及算法的分析都存在着极为重要的意义。针对一类非连续的稀疏优化问题,本文给出了一个精确的连续逼近问题,得到稀疏优化问题的逼近问题,并且定义逼近问题的一类稳定点,进而证明原问题与其逼近问题具有相同的全局最优解集,然后证明出逼近问题的稳定点等价于原问题满足下界性质的局部最优解。其次,本文针对稀疏矩阵问题设计了相应的邻近梯度算法,提出邻近梯度算法的相关步骤,并且证明逼近问题的解序列收敛到其稳定点,该点即为原问题满足下界性质的局部最优解。最后,利用提出的邻近梯度算法对逼近问题进行数值实验,通过实验验证了迭代序列的收敛性,并且收敛到原问题的某个较为稀疏的局部最优解。

关键词：稀疏优化连续逼近邻近梯度算法下界性质收敛