检索结果-南通市图书馆

基于Adam局部优化的分布式近似牛顿深度网络训练

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于Adam局部优化的分布式近似牛顿深度网络训练

作者：毕常遥南京信息工程大学

学位级别：硕士

分布式学习是减轻现代机器学习系统中不断增加的数据和模型规模压力的有效工具之一。DANE算法是一种近似牛顿方法,已被广泛应用于通信高效的分布式机器学习。与传统方法相比,DANE具有收敛速度快且无需计算Hessian矩阵逆的优点,从而可以... 详细信息

分布式学习是减轻现代机器学习系统中不断增加的数据和模型规模压力的有效工具之一。DANE算法是一种近似牛顿方法,已被广泛应用于通信高效的分布式机器学习。与传统方法相比,DANE具有收敛速度快且无需计算Hessian矩阵逆的优点,从而可以在高维情况下显著减少通信和计算开销。为了进一步提高计算效率,本文研究如何加快DANE的局部优化。本文选择使用最流行的自适应梯度优化算法Adam取代常用的随机梯度下降法用来求解DANE的局部单机子优化问题,同时提出了在迭代期间添加随机采样步骤的方法以降低每次迭代的计算成本并模拟多机计算环境。在实验中,我们设置了三种不同的局部样本大小进行比较。实验结果表明,通过设置合适的抽样比例,基于Adam的优化在训练速度上可以明显快于原始的基于SGD的实现,同时仅会小幅牺牲模型精度。但实验结果也表明使用Adam带来了一定的泛化能力下降。为了解决使用Adam算法所带来的泛化能力不足的问题,本文引入了一种从Adam自适应切换到SGD的混合策略SWATS。实验证明,该策略既能保留Adam算法在训练初始过程的的优势,又能提高训练结果的精度。本文通过MXNet平台将优化后的算法应用于分布式训练。实验结果表明随着并行机器数量的增加,训练的速度明显提高,并且几乎不会牺牲模型泛化能力。

关键词：深度学习近似牛顿法分布式优化 Adam算法随机抽样

习近平总书记关于创新的理论阐释及其实践理路研究

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

中国软科学 2024年第S1期 16-25页

作者：邓恒姚芳遥北方工业大学文法学院

习近平总书记关于创新的重要论述在考量现代国际新形势的基础上，汲取了马克思主义思想以及中国共产党历代主要领导人的创新思想，体现了为追求社会高质量发展的必要思考，进行了创造性提炼与理论的新发展。这些重要论述蕴含了深刻的思... 详细信息

习近平总书记关于创新的重要论述在考量现代国际新形势的基础上，汲取了马克思主义思想以及中国共产党历代主要领导人的创新思想，体现了为追求社会高质量发展的必要思考，进行了创造性提炼与理论的新发展。这些重要论述蕴含了深刻的思想内涵，以推进中国式现代化为底色，以实施人才强国战略为总抓手，以打造开放共享的国际平台为目标。习近平总书记关于创新的重要论述为建设创新型国家提供了实践理路，对建立全面创新格局、统筹推进多链条融合、破除体制机制弊端、加强国际化科研环境建设具有十分重要的理论价值和实践意义，擘画了以中国式现代化全面推进中华民族伟大复兴的伟大蓝图。

关键词：中国式现代化创新型国家实践理路

基于Adam局部优化的分布式近似牛顿深度学习模型训练

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

计算机应用与软件 2021年第10期38卷 278-283页

作者：毕常遥袁晓彤南京信息工程大学自动化学院江苏南京210044 江苏省大数据分析技术重点实验室江苏南京210044

分布式学习是减轻现代机器学习系统中不断增加的数据和模型规模压力的有效工具之一。DANE算法是一种近似牛顿方法,已被广泛应用于通信高效的分布式机器学习。其具有收敛速度快且无须计算Hessian矩阵逆的优点,从而可以在高维情况下显著... 详细信息

分布式学习是减轻现代机器学习系统中不断增加的数据和模型规模压力的有效工具之一。DANE算法是一种近似牛顿方法,已被广泛应用于通信高效的分布式机器学习。其具有收敛速度快且无须计算Hessian矩阵逆的优点,从而可以在高维情况下显著减少通信和计算开销。为了进一步提高计算效率,就需要研究如何加快DANE的局部优化。选择使用最流行的自适应梯度优化算法Adam取代常用的随机梯度下降法来求解DANE的局部单机子优化问题是一种可行的方法。实验表明,基于Adam的优化在收敛速度上可以明显快于原始的基于SGD的实现,且几乎不会牺牲模型泛化性能。

关键词：深度学习近似牛顿法分布式优化 Adam算法随机抽样

隐私的道德判断标准——基于场景一致性理论的视角

在线全文

学校读者我要写书评

暂无评论

东南大学学报（哲学社会科学版） 2024年第S1期26卷 13-16页

作者：芦遥中国农业大学人文与发展学院北京100083

相较于隐私控制理论对于判断侵犯隐私行为的一成不变,尼森鲍姆所构建的场景一致性理论蕴含了道德整体思维,并由此形成了不同隐私场景下的不同道德要求。帕菲克的整体思维能够回应由技术的复杂性所带来的隐私犬儒主义,但无法直接应用于... 详细信息

相较于隐私控制理论对于判断侵犯隐私行为的一成不变,尼森鲍姆所构建的场景一致性理论蕴含了道德整体思维,并由此形成了不同隐私场景下的不同道德要求。帕菲克的整体思维能够回应由技术的复杂性所带来的隐私犬儒主义,但无法直接应用于司法实践中。场景一致性理论中所蕴含的道德整体思维,为道德在判断侵犯隐私行为时提供了指南。在以道德整体思维考察其在评判新技术时的有效性以及裁判说理中的有效性后可以发现,道德整体思维能够明晰隐私权纠纷中的法律责任,为我国隐私权纠纷的审判实践提供理论支持。

关键词：场景一致性理论道德整体思维隐私道德

环境治理体系中的多元规范及其协同机制——基于环境行政处罚制度的分析

在线全文

学校读者我要写书评

暂无评论

重庆大学学报(社会科学版) 2024年

作者：彭中遥湖南大学法学院

现代环境治理，首先表现为规范体系的治理。当前，我国环境治理领域总体上存在着国家法律、党内法规、行政规范性文件、党的规范性文件等多种规范类型，形成了“多元规范共存、多元秩序共治”的运行模式。现有学术研讨的一个重要贡献，... 详细信息

现代环境治理，首先表现为规范体系的治理。当前，我国环境治理领域总体上存在着国家法律、党内法规、行政规范性文件、党的规范性文件等多种规范类型，形成了“多元规范共存、多元秩序共治”的运行模式。现有学术研讨的一个重要贡献，是承认并高度重视生态环境领域所存在的多元规范现象，并尝试将其纳入已被提上立法议程的生态环境法典之中。但是，此种研究进路较为宏观抽象，难以深入触及我国环境治理体系中所出现的环境行政执法变革等前沿议题。从实践情况看，我国环境治理中的多元规范体系与多元秩序结构已然产生抵牾和龃龉，其在环境行政处罚领域呈现较为明显与突出。现阶段，我国环境行政处罚制度探索的困局主要包括：生态环境领域“免于处罚”的混沌实践、行政处罚异化为生态环境损害赔偿责任追究的前置要件，以及垂直管理改革背景下环境执法力量的错位配置。从多元规范视角出发，运用“发生学方法”分析发现，上述实践难题均源于现代环境治理体系中非国家法律类规范之变动而产生的多元规范不协同问题，具体包括规范性文件（行政规范性文件、党的规范性文件）相互间的冲突，以及党的政策与国家法律相互间的差异。从法理上考量，当前我国环境行政处罚制度探索暴露出的系列问题及内在冲突，不能简单根据“问题—对策”式思路来加以应对，而需从“事理”上升为“法理”，揭示其中所蕴含的一般规律和普遍矛盾（即环境治理体系中多元规范的相互关系问题）。鉴此，未来我国应当立基于多元规范协同互动的理论和方法，重点完善生态环境领域相关规范性文件的备案审查机制，建立健全生态环境领域党的政策与国家法律的统筹协调机制，同时借助生态环境法典编纂之契机确认多元规范的相互关系规则，以提升我国环境治理体系和治理能力的现代化。

关键词：环境治理体系多元规范规范协同协同机制环境行政处罚生态环境法典

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

用户视角下公共图书馆家谱阅读推广策略探索

图书馆杂志 2024年第2期43卷 64-72页

作者：马步遥上海图书馆上海200031

家谱是重要的文化遗产,各级公共图书馆对家谱资源建设日渐重视,然而由于图书馆针对家谱用户调查的不足,制定的阅读推广策略多出于图书馆的主观判断,缺乏精确性。研究通过对知识社区用户家谱回答文本的抓取,以LDA模型构建的方式对文本内... 详细信息

家谱是重要的文化遗产,各级公共图书馆对家谱资源建设日渐重视,然而由于图书馆针对家谱用户调查的不足,制定的阅读推广策略多出于图书馆的主观判断,缺乏精确性。研究通过对知识社区用户家谱回答文本的抓取,以LDA模型构建的方式对文本内容进行特征提取,解读家谱兴趣群体讨论的关键词,进而分析他们对家谱的实际关注点。探索从用户视角出发的公共图书馆家谱阅读推广路径,并提出家谱阅读推广要嵌入记忆之场、重视女性视角,具有国际视野、创新修谱指导的策略。

关键词：公共图书馆家谱阅读推广用户视角 LDA模型

在线全文

学校读者我要写书评

暂无评论

生态环境“首违不罚”的法理阐释与优化进路

学习与实践 2024年第08期 65-73页

作者：彭中遥湖南大学法学院

生态环境“首违不罚”是我国行政执法实践中自发形成的一项原创性制度。从法理上看,生态环境“首违不罚”既是经济发展与环境保护相互衡平之产物,亦是行政处罚与行政教育融合统一之结果,同时契合服务型政府与执法为民的价值取向。然而,... 详细信息

生态环境“首违不罚”是我国行政执法实践中自发形成的一项原创性制度。从法理上看,生态环境“首违不罚”既是经济发展与环境保护相互衡平之产物,亦是行政处罚与行政教育融合统一之结果,同时契合服务型政府与执法为民的价值取向。然而,从行政裁量基准视角检视,该项制度大体存在要件裁量含混不清、效果裁量较为狭隘、程序裁量付之阙如等困局。就其优化进路而言,可依循“情节细化、效果格化、程序制式化”的思路,厘清生态环境“首违不罚”的构成要件,构建格次化的行政处罚效果裁量体系,并型塑贯穿其运行始终的程序性规则及义务。

关键词：生态环境首违不罚柔性执法免罚清单裁量基准

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

“问”之发生:从谜团到问题

社会科学 2024年第7期 49-58页

作者：云天遥华东师范大学哲学系里昂高等师范学校(ENS de Lyon)IHRIM研究所

人无往而不处在“问”中。哲学不应当忽视对发问者、问题与发问活动的研究。20世纪以来不同哲学传统的问题研究,皆意识到“问”在认识论上的基础地位。然而,其重心主要在从“问”到“问”之解决的过程,对问题本身何以发生则缺乏关注。... 详细信息

人无往而不处在“问”中。哲学不应当忽视对发问者、问题与发问活动的研究。20世纪以来不同哲学传统的问题研究,皆意识到“问”在认识论上的基础地位。然而,其重心主要在从“问”到“问”之解决的过程,对问题本身何以发生则缺乏关注。为探本溯源,应研究问题自身之根源,以及问题从此根源中产生之过程。在现象学传统中,有关“问”之发生的洞见,主要来自实存现象学:马塞尔、蒂利希和帕托什卡以不同方式将存在问题溯源于神秘及震惊。这一洞见不仅适用于存在问题,亦具有更一般的理论意义。杜威有关反思性思维的理论,刻画了明述问题如何从酝酿着问题的困惑性处境中产生,并提供了将实存现象学的洞见一般化的可能性。两者互补,便能基本展现“问”之发生即化谜团为问题的过程。

关键词：问题谜团困惑实存现象学杜威

考虑跨境市场差异的绿色产品行为定价策略比较研究

在线全文

学校读者我要写书评

暂无评论

中国管理科学 2024年

作者：刘侃莹李巍孙宁遥湖南农业大学商学院湖南大学经济与贸易学院南开大学经济与社会发展学院

本文旨在探讨在跨境市场差异背景下，针对绿色产品实施行为定价策略（Behavior-based pricing， BBP）的可行性和适用性，重点关注贸易成本对绿色产品BBP策略、市场份额、企业利润及社会福利的影响。研究发现，存在跨境市场差异时，企... 详细信息

本文旨在探讨在跨境市场差异背景下，针对绿色产品实施行为定价策略（Behavior-based pricing， BBP）的可行性和适用性，重点关注贸易成本对绿色产品BBP策略、市场份额、企业利润及社会福利的影响。研究发现，存在跨境市场差异时，企业能否全面或部分实施BBP策略，将受到绿色与普通产品间贸易成本差额的影响；随着企业自身贸易成本的增加，BBP策略将侧重保护忠诚顾客，随着竞争对手贸易成本的增加，BBP策略将侧重吸引潜在顾客；BBP策略的实施既有利于强化绿色产品在跨境市场中的市场份额优势，又有助于提高境内外消费者购买绿色产品的消费者剩余及社会总福利。当绿色和普通产品生产企业的贸易成本差额较小时，市场均衡为两类企业均采用BBP。

关键词：行为定价策略绿色产品跨境市场贸易成本