检索结果-南通市图书馆

Global Solutions to Nonconvex Problems by Evolution of Hamilton-Jacobi PDEs

Communications on Applied Mathematics and Computation 2024年第2期6卷 790-810页

作者： Howard Heaton Samy Wu Fung Stanley Osher Typal Research Typal LLCLos AngelesUSA Department of Applied Mathematics and Statistics Colorado School of MinesGoldenUSA Department Mathematics UCLALos AngelesUSA

Computing tasks may often be posed as optimization *** objective functions for real-world scenarios are often nonconvex and/or ***-of-the-art methods for solving these problems typically only guarantee convergence to local *** work presents Hamilton-Jacobi-based moreau adaptive descent(HJ-MAD),a zero-order algorithm with guaranteed convergence to global minima,assuming continuity of the objective *** core idea is to compute gradients of the moreau envelope of the objective(which is"piece-wise convex")with adaptive smoothing *** of the moreau envelope(i.e.,proximal operators)are approximated via the Hopf-Lax formula for the viscous Hamilton-Jacobi *** numerical examples illustrate global convergence.

关键词： Global optimization moreau envelope Hamilton-Jacobi Hopf-Lax-Cole-Hopf Proximals Zero-order optimization

来源：

维普期刊数据库评论

在线全文

维普期刊数据库

学校读者我要写书评

暂无评论

非独立同分布数据下的联邦学习隐私保护方法研究

非独立同分布数据下的联邦学习隐私保护方法研究

引用

作者：张激勇湖南科技大学

学位级别：硕士

联邦学习(Federated Learning)是一种新兴的机器学习技术,它允许多个设备在本地训练自己的模型,而无需将数据集上传到集中式服务器。该方式可以帮助数据拥有者更好地掌控其数据,但联邦学习也面临着新的挑战。现有研究表明直接共享模型... 详细信息

联邦学习(Federated Learning)是一种新兴的机器学习技术,它允许多个设备在本地训练自己的模型,而无需将数据集上传到集中式服务器。该方式可以帮助数据拥有者更好地掌控其数据,但联邦学习也面临着新的挑战。现有研究表明直接共享模型参数也会造成用户隐私泄露,同时联邦学习在非独立同分布数据下,难以在全局聚合时很好地学习每一个参与训练的设备,从而导致模型性能下降。联邦学习中的个性化问题和隐私保护问题已经成为目前的研究热点。本文针对目前联邦学习中模型泄露和非独立同分布数据造成模型准确率下降的问题,提出了基于Bregman优化的个性化联邦学习隐私保护方法和基于差分隐私的个性化联邦学习方法。本文的主要内容如下:(1)目前联邦学习研究中,针对差分隐私的方法往往只考虑独立同分布数据下的隐私预算分配,缺乏对非独立同分布数据的考虑。因此,我们提出了Bregman发散衡量客户端模型与全局模型差异,通过近端算子计算个性化模型,解决非凸和强凸函数下收敛性问题。同时,采用高斯噪声对个性化模型进行扰动,增强本地模型在上传时对用户隐私的保护。理论分析和实验验证表明,该方法权衡了模型的隐私性和准确性。(2)目前研究中仅用差分隐私对联邦学习的本地模型进行扰动,在全局聚合时会导致差分隐私被弱化,从而无法保证全局参数在下发时的用户隐私安全。因此,我们提出了基于差分隐私的个性化联邦学习方法,通过定义局部和全局差分隐私分别对本地和全局参数加噪,使模型参数在上行和下行信道中满足差分隐私以加强用户隐私保护保护。同时,我们采用moreau envelope函数进行个性化训练,将本地参数与全局参数的差值控制在有限范围内,以减小模型差异来提升模型性能。理论分析表明,该方法在强凸和非凸光滑函数下具有快速收敛性。实验结果验证该方法在满足差分隐私的前提下,模型准确性分别达到了92.19%和95.03%。

关键词：联邦学习隐私保护个性化差分隐私 Bregman moreau envelope

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：