检索结果-南通市图书馆

基于学习率的纯电动与燃料电池汽车分场景经济性比较研究

在线全文

学校读者我要写书评

暂无评论

汽车工程 2021年第2期43卷 296-304页

作者：邱彬禹如杰刘勇赵冬昶宋健清华大学汽车安全与节能国家重点实验室北京100084 工业和信息化部装备工业发展中心北京100846 中国汽车技术研究中心有限公司天津300300 南开大学金融学院天津300350

新能源汽车较高的成本是制约我国新能源汽车发展的重要因素之一。本研究构建了纯电动和燃料电池汽车经济性综合分析比较模型。基于新能源汽车各关键零部件的学习率曲线,对纯电动和燃料电池乘用车、客车和货车的未来制造成本趋势进行了... 详细信息

新能源汽车较高的成本是制约我国新能源汽车发展的重要因素之一。本研究构建了纯电动和燃料电池汽车经济性综合分析比较模型。基于新能源汽车各关键零部件的学习率曲线,对纯电动和燃料电池乘用车、客车和货车的未来制造成本趋势进行了分析和比较。同时结合我国私家车、出租车、公交车和物流车4个应用场景,对各场景下纯电动和燃料电池汽车使用成本进行了分析。最后比较了未来不同时点下两种技术路线下的总成本差异。研究发现,虽然未来增程式燃料电池汽车制造成本较低,但纯电动车使用成本价格优势明显,其中总成本将具有较强竞争力。

关键词：学习率燃料电池汽车纯电动汽车成本

在线全文

学校读者我要写书评

暂无评论

学习率的心理现实性及其对项目选择的影响

心理与行为研究 2020年第2期18卷 255-260,267页

作者：贾宁刘伟代景华河北师范大学教育学院石家庄050024 河北中医学院石家庄050200

项目选择一直是元认知控制研究中的热点问题。本研究以不同难度和分值的计算题为实验材料,通过两个实验探讨学习率的心理现实性及其对项目选择的影响。实验1中,在不限时条件下,被试者需要完成不同难度的计算题并赋予不同分值。实验2中,... 详细信息

项目选择一直是元认知控制研究中的热点问题。本研究以不同难度和分值的计算题为实验材料,通过两个实验探讨学习率的心理现实性及其对项目选择的影响。实验1中,在不限时条件下,被试者需要完成不同难度的计算题并赋予不同分值。实验2中,在限时条件下,通过变化计算题的难度和分值设计了三种不同学习率的项目,被试只能选择其中一种项目来计算以获得更高的分值。研究表明:第一,当项目所用时间增多时,被试对该项目所赋分值就增大,而时间(难度)与分值的比例是不变的,即学习率是相同的;第二,被试倾向于选择学习率更高的项目来完成计算任务,而当学习率相同时,被试倾向于优先选择高分困难项目。研究证实了学习率的心理现实性,并确定了学习率是项目选择的主要依据。

关键词：学习率心理现实性项目选择

有时间压力下学习率对学习时间分配议程的影响:来自眼动的证据

在线全文

学校读者我要写书评

暂无评论

心理学探新 2022年第6期42卷 508-513页

作者：贾宁刘伟代景华河北师范大学教育学院石家庄050024 河北中医学院石家庄050200

利用眼动分析技术,通过设置不同难度和分值的计算项目,探讨了在有时间压力下学习者的学习时间分配。结果发现:(1)在首次项目选择上,学习者优先选择学习率最高的项目;(2)在学习过程中,学习者的项目选择次序也是根据学习率由高到低。总之... 详细信息

利用眼动分析技术,通过设置不同难度和分值的计算项目,探讨了在有时间压力下学习者的学习时间分配。结果发现:(1)在首次项目选择上,学习者优先选择学习率最高的项目;(2)在学习过程中,学习者的项目选择次序也是根据学习率由高到低。总之,在学习时间分配上,如果需要权衡难度与分值,学习者会考虑单位时间的获益,也就是以学习率为议程的主要依据。研究不仅利用眼动分析技术证实了基于议程的学习时间分配模型,而且进一步揭示了学习率是设置学习时间分配议程的重要依据。

关键词：学习率项目选择学习时间分配议程眼动

在线全文

学校读者我要写书评

暂无评论

深度学习中有关随机优化的学习率研究与应用

深度学习中有关随机优化的学习率研究与应用

作者：赵威华北电力大学(北京)

学位级别：硕士

以随机梯度下降(SGD)为基础的随机优化在深度神经网络这一类非凸目标函数的优化中应用广泛且表现较好,其自身带有的随机性有助于模型进行鞍点逃逸并增强了泛化性能。作为重要的超参数,学习率对深度学习随机优化的影响较为复杂。小学习... 详细信息

以随机梯度下降(SGD)为基础的随机优化在深度神经网络这一类非凸目标函数的优化中应用广泛且表现较好,其自身带有的随机性有助于模型进行鞍点逃逸并增强了泛化性能。作为重要的超参数,学习率对深度学习随机优化的影响较为复杂。小学习率理论上使模型可以在较小的训练误差水平上平稳收敛,但却损失了收敛速度,收敛缓慢且后期极易陷入鞍点等局部最优。大学习率增强了 SGD的随机扰动,增大了收敛速度,为模型跳出鞍点提供了可能性,但过大的学习率也带来了不稳定性,容易发生振荡甚至难以收敛。为了平衡学习率过大与过小之间的矛盾,学习率衰减、循环学习率、自适应学习率等多种学习率调整方法被提出,在诸多实践中被证明有效,但各自也有相应的缺点。学习率衰减在训练后期收敛速度小易陷入鞍点,循环学习率在一段时间内会损害优化过程,自适应学习率则泛化性较差且耗费计算资源。本文提出了双阶段学习率调整策略,结合了学习率衰减与循环学习率思想,旨在保留各自优势的同时也能尽量规避掉各自的缺点,即在保证模型收敛稳定性的情况下,也能在训练后期保持一定的随机性以跳出鞍点等局部陷阱,并尽可能减少对优化过程的损害。双阶段学习率调整策略将学习率调整分为训练阶段与赋能阶段两个过程,训练阶段学习率常值衰减,赋能阶段学习率短暂上升且均匀分布在两个训练阶段中间。通过对各阶段进行理论分析与算法设置,说明了该策略的理论有效性。并针对赋能阶段的不同算法,共提出了八种具体的双阶段学习率调整方法。通过不同模型与数据的实验,将这八种双阶段学习率调整方法与目前较常用的学习率调整方法的优化效果进行对比分析,以此来验证双阶段学习率调整策略的实际有效性。实验结果表明,双阶段学习率调整策略在大多数情况下能够提升模型的整体优化性能。

关键词：深度学习神经网络随机优化学习率

结合模糊熵和学习率自适应的GMM目标检测算法

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

计算机应用与软件 2022年第8期39卷 187-192,219页

作者：王德忠李睿兰州理工大学计算机与通信学院甘肃兰州730000

GMM算法在目标检测中采用固定的模型个数描述像素点的状态,固定的学习率更新背景。针对GMM算法的以上不足,提出一种自适应选取模型个数和学习率自适应环境变化的GMM算法。通过模糊理论将视频分为三个模糊子集,计算每一部分的模糊熵,根... 详细信息

GMM算法在目标检测中采用固定的模型个数描述像素点的状态,固定的学习率更新背景。针对GMM算法的以上不足,提出一种自适应选取模型个数和学习率自适应环境变化的GMM算法。通过模糊理论将视频分为三个模糊子集,计算每一部分的模糊熵,根据视频模糊熵的最大值确定需要的模型个数。引入两帧视频的相关性度量视频帧之间的相关性,比较背景变化因子与背景变化系数确定不同的学习率。实验验证,改进算法能够消除噪声影响,有效地节约混合高斯模型的个数,能够自适应环境变化,提高检测准确率,降低检测耗时。

关键词：模糊熵相关性学习率背景变化因子背景平均变化系数

在线全文

学校读者我要写书评

暂无评论

深度学习自适应学习率算法研究

华中科技大学学报（自然科学版） 2019年第5期47卷 79-83页

作者：蒋文斌彭晶叶阁焰华中科技大学服务计算技术与系统教育部重点实验室湖北武汉430074 华中科技大学集群与网格计算湖北省重点实验室湖北武汉430074 华中科技大学计算机科学与技术学院湖北武汉430074

为了获得更好的收敛速度和训练效果,提出了根据模型测试准确率对学习率使用不同调整策略的自适应学习率调整算法.将训练过程分为前期、中期和后期三个阶段:在前期适当增大学习率,在中期和后期根据与测试准确率的增量相关的衰减因子函数... 详细信息

为了获得更好的收敛速度和训练效果,提出了根据模型测试准确率对学习率使用不同调整策略的自适应学习率调整算法.将训练过程分为前期、中期和后期三个阶段:在前期适当增大学习率,在中期和后期根据与测试准确率的增量相关的衰减因子函数使用不同大小的学习率衰减因子减小学习率,增量越小表示模型越接近收敛,因而使用更小的衰减因子.基于MXNet框架,在数据集CIFAR-10和CIFAR-100上进行测试实验,结果表明所提出的方法在收敛速度和准确率收敛值方面都有更好的效果.

关键词：深度学习学习率准确率陈旧梯度 MXNet框架

在线全文

学校读者我要写书评

暂无评论

深度神经网络训练中学习率算法的研究

深度神经网络训练中学习率算法的研究

作者：林虹浙江工商大学

学位级别：硕士

随着人工智能时代的逐渐到来,深度学习已成为当前热门的研究方向。深度神经网络（DNN）是一种典型的深度学习模式,已成功应用于视频检测、图片分类、目标检测、人脸识别和无人驾驶等多个领域。通过深度神经网络的训练可以使机器更好地... 详细信息

随着人工智能时代的逐渐到来,深度学习已成为当前热门的研究方向。深度神经网络（DNN）是一种典型的深度学习模式,已成功应用于视频检测、图片分类、目标检测、人脸识别和无人驾驶等多个领域。通过深度神经网络的训练可以使机器更好地学习人类的行为,如听、说、思考与分析等。然而,大数据时代带来的庞大数据使得神经网络的训练仍然是一个复杂的、亟待解决的全局优化问题。因此,如何优化神经网络的训练过程成为当前科研领域的热门问题,而学习率是对深度神经网络训练性能有着重要影响的超参数之一。梯度下降法是深度学习模型训练中广为使用的优化方法,该方法依靠对参数的细致调整来给模型训练提供合适的优化方案,而学习率是梯度下降法中关键的超参数。在非凸损失函数的曲面导航中,学习率控制着模型收敛到全局最小值的速度。过小的学习率会造成模型收敛速度过缓,使其容易困于局部最小值中;而过大的学习率则会导致损失函数大幅震荡,从而导致模型难以收敛。所以,一种有效调节学习率的算法对于深度神经网络的训练过程至关重要。为了提高深度神经网络模型的训练效果,近几年相继提出了一些调整学习率的算法。其中单调衰减型学习率易使模型训练后期的收敛速度过慢;自适应算法的泛化能力较差且计算复杂;循环型学习率基于一种循环的思想,它使学习率在两个边界值范围内周期性循环,但其单一的循环范围易使模型难以逃离高维非凸损失函数中大量且不同的鞍点、局部最小值与梯度平坦区域。针对学习率的研究领域中存在的问题,本文对深度神经网络训练中的学习率算法进行研究与优化,成果如下:1.本文提出一种学习率的循环方法,称为奇偶循环方法,该方法使学习率在三条边界值范围内高低循环,从而让模型更好地逃离鞍点与局部最小值,提高模型的收敛性能。同时,本文优化了现有的循环边界值测定方法,设计了一种用来测定三条边界值的方法,相比原有的方法其判定边界值的方式更精确。2.结合上述学习率循环方法,本文提出了两种不同的学习率算法,即双曲正切多项式奇偶循环学习率（HTPPC）与可变梯形奇偶循环学习率（VTPC）,并通过实验数据验证了这两种算法可以在一定程度上提高深度神经网络模型的训练效果。3.本文进行了大量实验,实验包括深度学习的图片分类任务与目标检测任务。对于图片分类任务,实验中采用Res Net50、Vgg Net16、Google Netv2和Mobile Netv2网络训练CIFAR-10、CIFAR-100和Fashion-MNIST数据集;对于目标检测任务,实验中采用高性能目标检测网络Shuffle Net V2-YOLOv3训练Pascal VOC数据集。通过对比不同学习率算法应用于不同网络模型训练中的实验结果,验证了本文所提出的学习率算法不仅能提高图片分类任务的准确率和目标检测任务的检测性能,同时也能提高模型的收敛速度。

关键词：深度神经网络损失函数学习率准确率

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

学习率对项目选择和学习时间分配的影响

学习率对项目选择和学习时间分配的影响

作者：刘伟河北师范大学

学位级别：硕士

项目的选择与学习时间的分配一直是元认知控制研究的热点问题。本研究旨在检验在学习情境中,学习者进行项目选择和学习时间分配的主要依据是学习率。学习率是最近学习区模型的重要概念之一,该模型只涉及了项目难度对学习时间分配和项目... 详细信息

项目的选择与学习时间的分配一直是元认知控制研究的热点问题。本研究旨在检验在学习情境中,学习者进行项目选择和学习时间分配的主要依据是学习率。学习率是最近学习区模型的重要概念之一,该模型只涉及了项目难度对学习时间分配和项目选择的影响。基于议程调节模型认为学习者是基于议程来选择不同的项目学习和分配时间的,发现任务奖励结构对学习时间分配的影响超越了项目难度。本次研究采用自控步调学习范式进行实验,并提出了修正版的学习率的概念。既考虑到了最近学习区中的难度,又考虑到了基于议程调节模型的分值,即通过综合项目的分值和难度(以学习时间为指标)来计算学习率(单位时间内所获得的分值)。研究分为三个实验,以大学生为被试,多位数加法计算题为实验材料。实验1,在不限时的情况下,让被试对难、中、易三种不同难度计算项目赋予分值,计算机自动记录计算时间,然后根据学习者对不同难度题目赋予的相对分值和相对计算时间的比值来求出学习率。实验2,选取难、易两种难度题目设置了三种不同学习率的实验材料(简单项目学习率高、困难项目学习率高、两者学习率相等),计算项目学习率的高低是依据实验一的结果设定的,让被试在有限的时间内做出题目选择和计算(被试只能选择其中一种难度和与其相对应分值的项目进行计算)。实验3,实验材料同实验二,在限时的情况下将不同难度、不同分值计算题同时呈现,使用眼动技术记录和分析被试对不同计算项目的选择、计算次序以及学习时间的分配。研究结果显示:(1)三种难度项目的相对计算时间和相对分值存在显著差异,学习率不存在显著差异,表明学习者依据学习率进行学习;(2)学习者选择项目的依据是学习率的高低,会选择学习率高的计算项目学习;(3)学习者优先选择学习率较高的项目,并在该类项目上分配更多的时间。因此,研究证实了学习率是学习者进行项目选择和学习时间分配的重要依据。

关键词：项目难度项目分值学习时间分配学习率

基于改进激活函数和学习率的双向LSTM研究

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

重庆师范大学学报（自然科学版） 2021年第2期38卷 70-76页

作者：李军李明曾蒸李莉重庆师范大学计算机与信息科学学院重庆401331 重庆师范大学新闻与传媒学院重庆401331 西南大学计算机与信息科学学院重庆400715

【目的】目前双向长短期记忆网络(Long short term memory,LSTM)在语音识别、图像识别和情感分类等方面的应用越来越广泛,基于此研究如何提高双向LSTM的准确率。【方法】提出一种改进的双向LSTM,通过对LSTM中输入门与输出门激活函数的改... 详细信息

【目的】目前双向长短期记忆网络(Long short term memory,LSTM)在语音识别、图像识别和情感分类等方面的应用越来越广泛,基于此研究如何提高双向LSTM的准确率。【方法】提出一种改进的双向LSTM,通过对LSTM中输入门与输出门激活函数的改进,并结合改进的学习率,能够大大地提高神经网络的收敛速度与准确率。【结果】在不同领域的数据集MNIST和IMDB上分别进行实验,改进的双向LSTM在MNIST数据集上的准确率达到了99.61%,比基准双向LSTM的准确率提高了1.172%,在IMDB数据集上的准确率则达到了88.08%,比基准双向LSTM的准确率提高了1.6%,而且在两个数据集上在迭代次数较小的情况下,相比基准双向LSTM,改进的算法都达到了较高的准确率和较低的损失率。【结论】由此证明改进的双向LSTM优于基准双向LSTM。

关键词：双向LSTM 激活函数学习率输入门输出门