检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

深度神经网络训练中梯度下降优化算法研究

深度神经网络训练中梯度下降优化算法研究

作者：姚敏达天津科技大学

学位级别：硕士

深度神经网络是整个深度学习领域的核心,而基于梯度下降法的反向传播算法又是整个神经网络体系的基石。目前深度神经网络的参数学习主要是通过梯度下降法来寻找一组最优参数,虽然深度神经网络具有非常强的能力,但对其优化却十分困难。首... 详细信息

深度神经网络是整个深度学习领域的核心,而基于梯度下降法的反向传播算法又是整个神经网络体系的基石。目前深度神经网络的参数学习主要是通过梯度下降法来寻找一组最优参数,虽然深度神经网络具有非常强的能力,但对其优化却十分困难。首先,神经网络的损失函数是一个非凸函数,找到全局最优解比较困难。其次,深度神经网络的参数通常非常多,训练数据也非常大,这就使得计算代价很高的二阶优化算法无法使用,而一阶优化算法的训练效率通常比较低。因此,需要在深度神经网络的训练中选择合适的优化算法和训练算法。本文针对深度神经网络训练过程中所使用梯度下降法的优化问题和训练算法进行了相关研究,提出了基于多阶段训练的梯度下降优化算法,并在此基础上融入组合的思想,提出了基于多阶段训练和优化算法组合的梯度下降优化算法,最后提出了基于批量大小降低和循环策略的深度神经网络训练算法。本文主要完成了以下工作:首先,分析出梯度下降法在深度神经网络训练中起重要作用的三个影响因素:学习率、梯度以及批量大小;从学习率和梯度两个角度出发,分析出自适应优化算法是利用梯度实现学习率自适应调整的算法;在此基础上,提出了基于优化算法组合的梯度下降优化算法。其次,从Warmup、CLR和SGDR三种算法中得到启发,将多阶段的思想与组合思想融合并应用于梯度优化,提出基于多阶段训练和优化算法组合的梯度下降优化算法;通过大量的实验表明本算法具有良好效果,能提升深度神经网络模型的训练效果。最后,分别从统计学、训练时间、梯度变化以及泛化能力四个角度分析批量大小对神经网络训练的影响;考虑现实硬件限制,从更新参数时的梯度的变化、模型鲁棒性以及训练噪声分析了降低批量大小带来的优化效果;分析了循环思想在深度学习领域中的广泛应用的内在机理;融合降低批量大小与循环思想,提出基于批量大小降低与循环策略的神经网络训练算法;在大量实验中验证了所提算法的有效性。

关键词：梯度下降学习率批量大小循环策略深度神经网络训练

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

低损耗的资源预留的时间确定性循环调度

低损耗的资源预留的时间确定性循环调度

作者：马添奥武汉科技大学

学位级别：硕士

操作系统负责控制和管理计算机软硬件资源,并且合理地组织程序运行与各类资源的共享。由操作系统中的调度算法处理与分配这些任务,使其能够有序执行。在调度过程中,通过处理对象的实时性不同将调度分为实时调度和非实时调度。实时调度... 详细信息

操作系统负责控制和管理计算机软硬件资源,并且合理地组织程序运行与各类资源的共享。由操作系统中的调度算法处理与分配这些任务,使其能够有序执行。在调度过程中,通过处理对象的实时性不同将调度分为实时调度和非实时调度。实时调度主要调度的是有截止期限的实时任务,而非实时调度更关注CPU的利用率与吞吐率。随着各类应用需求的提高,原先的非实时任务具有了低延时与快速响应的需求。这样的需求使得非实时调度无法满足现有的应用,而使用实时调度又会难以满足其高利用率的要求。因此在解决这类新增软实时的周期性任务时,如何权衡延时、吞吐率、中断响应和信道利用率等各个因素,对研究调度算法有着重大意义。本文提出了一种新的非实时调度算法“资源预留的时间确定性循环调度”Resource Reserved Time Deterministic Cyclic Scheduling(RRTDCS)。这是一种离线缓存预分配式的调度。这种调度方法是一种结合了时间预留与优先级策略的混合调度算法。该算法可以针对不同的任务集进行算法上的修正,可选用通用的方法或专门针对高压条件的方法。并且能够适应当前调度环境对自身调度过程进行优化,使得在动态分配时间间隔的同时保证任务调度规律的确定性。RRTDCS相比经典的循环调度执行方法,更加具有灵活性,能够保证高利用率条件下任务可行的调度并执行。并且其周期性的循环策略减少了任务调度过程中产生的任务切换或抢占带来的额外时间开销。本文使用Matlab进行模拟仿真,建立RRTDCS调度模型,并进行测试。同时也模拟了当下主流的实时调度方案进行比较。主要针对延迟、周期性任务的可完成度进行测试,实验结果表明RRTDCS有较好的可调度性,能够突破经典三任务集调度模型的调度临界条件(≤0.78),使得含个任务的任务集可调度性突破CPU利用率之和,即(?)。并且能以不同表现形式和调度模式适配不同测试任务集,从而得到延迟和可完成度的平衡,达到更好的服务质量。

关键词：调度循环策略周期任务预调度 RRTDCS调度算法

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

用分层循环遗传算法去识别生理信号情感状态

计算机工程与应用 2010年第1期46卷 103-105,121页

作者：郝敏刘光远西南大学电子信息工程学院重庆400715

针对生理信号的情感识别问题,采用自适应分层式遗传算法方法对生理信号进行特征选择,能有效地解决特征组合优化问题。实验仿真表明,可以得到有效地特征组合来进行生理信号情感状态识别。

关键词：遗传算法情感识别生理信号特征选择循环策略

在线全文

学校读者我要写书评

暂无评论

基于触摸屏和PLC的工件分拣控制系统设计

机电一体化 2019年第5期25卷 39-43页

作者：徐连强吴迎春无锡工艺职业技术学院机电工程系江苏宜兴214206 南京航空航天大学机电学院南京210006

为提高工件分拣的准确性和适应性,分拣控制系统通过光电编码器实现物料位置精确检测,使用PLC模拟量模块及变频器控制输送电机的无级变速。通过触摸屏组态软件的循环策略和脚本程序设计,控制页面具有工件分拣操作和计数等功能,还能实时... 详细信息

为提高工件分拣的准确性和适应性,分拣控制系统通过光电编码器实现物料位置精确检测,使用PLC模拟量模块及变频器控制输送电机的无级变速。通过触摸屏组态软件的循环策略和脚本程序设计,控制页面具有工件分拣操作和计数等功能,还能实时动画监控工件的运动过程和分拣效果。运行结果表明,该控制系统具备操作方便、分拣精确、直观生动等特点,对自动化生产系统开发具有一定的实践借鉴意义。

关键词： PLC 变频器触摸屏分拣控制系统循环策略

在线全文

学校读者我要写书评

暂无评论

基于PDM任务指派问题的研究及应用

基于PDM任务指派问题的研究及应用

作者：陈响玲辽宁科技大学

学位级别：硕士

产品数据管理（Product Data Management,PDM）是一种以企业的产品为中心,通过计算机网络和数据库等技术,对所有描述产品的数据和与产品开发相关的过程统一进行管理的技术。近年来针对PDM技术的研究大多数是针对PDM的体系结构、产品的... 详细信息

产品数据管理（Product Data Management,PDM）是一种以企业的产品为中心,通过计算机网络和数据库等技术,对所有描述产品的数据和与产品开发相关的过程统一进行管理的技术。近年来针对PDM技术的研究大多数是针对PDM的体系结构、产品的数据模型、软件系统的开发、实施方法和集成接口等,很少有论文研究PDM关键过程中的优化问题,其中基于PDM任务指派问题属于PDM关键过程中优化问题中的一类问题。研究基于PDM任务指派问题的解决方法可为PDM系统核心的设计、开发提供理论和算法的支持,可为提高企业的产品设计和生产效率起到积极的意义。本文用遗传算法的理论和方法对PDM系统项目管理中设计任务的指派问题的建模和优化进行了研究,主要工作分为三个部分: （1）建立了基于PDM任务指派问题的数学模型,目标是确定最优的指派方案,使项目组的有限设计资源得到合理利用。（2）分别从宏观和微观上改进了遗传算法,在宏观上引入了循环策略和模拟退火算法,在微观上针对基于PDM任务指派问题数学模型的特点对编码的方式、解码的规则以及遗传算子进行了改进,提出了一种间接编码的混合遗传算法,并对该混合遗传算法的染色体编码方案、解码规则、适值函数和遗传算子等进行了详细设计。（3）在运用Camel函数和Shubert函数验证了采用循环策略的模拟退火遗传算法性能的基础上,针对提出的间接编码的混合遗传算法,通过一个应用实例,分析并验证了基于PDM任务指派问题的模型和间接编码的混合遗传算法解决该问题的有效性。

关键词：产品数据管理任务指派问题遗传算法循环策略间接编码的混合遗传算法

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

几种新的混合遗传算法研究

几种新的混合遗传算法研究

作者：袁健湖南大学

学位级别：硕士

遗传算法在计算智能、人工生命、图像处理和模式识别等方面具有重要作用。加快遗传算法的收敛速度以提高算法的全局收敛性是当前改善遗传算法性能的主要方向。结合优化算法与启发式算法思想的混合遗传算法是提高其运行效率和求解质量的... 详细信息

遗传算法在计算智能、人工生命、图像处理和模式识别等方面具有重要作用。加快遗传算法的收敛速度以提高算法的全局收敛性是当前改善遗传算法性能的主要方向。结合优化算法与启发式算法思想的混合遗传算法是提高其运行效率和求解质量的一个有效方法。本文对混合遗传算法的控制机理和应用进行了分析与研究,提出了几种新的混合遗传算法,给出了算法的理论分析,设计了算法的流程模型,并进行了仿真测试。本文的主要工作如下: （1）根据循环进化过程能够增强和保持生物种群的多样性,提出了一种采用循环策略的改进模拟退火遗传算法。算法将循环策略与模拟退火遗传算法有机地结合起来。理论分析和仿真测试表明,该算法不仅能够保证遗传算法的全局收敛性,而且还可以加快种群的进化速度并获得满意的全局最优解。（2）针对量子遗传算法解决多变量连续函数的问题提出了一种求解多变量问题的量子遗传算法。算法将多个变量集中作用于一个通用量子染色体上,从而动态地调整进化强度并依据旋转角生成函数确定进化方向。理论分析和仿真测试表明,提出的量子遗传算法对于求解多变量问题能获得较快的进化速度和较好的收敛效果。（3）根据量子染色体中的不同的量子位在量子染色体演化中的作用强度不同,并结合量子位势的概念,提出了一种基于量子位势的量子遗传算法。仿真测试表明,算法能够在较小的种群规模和较小的量子染色体长度下获得很好的收敛效率。本文描述了以上混合进化计算方法的设计思想与实现算法,并基于矩阵与Markov链理论分析其收敛性与计算效率,以DELPHI作为仿真实验设计工具,进行优化实验的仿真和分析。理论分析与实验结果表明,对于不同的优化目的,采用以上方法能有效改善传统遗传算法在计算效率或全局搜索能力方面的不足,扩展了其使用范围及效果。

关键词：遗传算法模拟退火量子进化循环策略量子旋转门量子位势

巧做PLC项目教学工具——用MCGS演示三层电梯运行

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

信息技术与信息化 2009年第6期 86-89页

作者：王世敏徐州生物工程高等职业学校江苏徐州221006

本文从设计演示PLC实训项目——三层电梯运行的目的出发,利用了工控MCGS软件,用它来设计一套演示工具,制作简单,使用方便,和PLC实训指导相结合,克服了往常实训指导全图文表述的抽象性,利用动画使使用者更快地了解三层电梯运行的PLC构成。

关键词： MCGS 三层电梯 PLC 属性设置动画连接循环策略