检索结果-南通市图书馆

基于历史梯度平均方差缩减的协同参数更新方法

在线全文

学校读者我要写书评

暂无评论

电子与信息学报 2021年第4期43卷 956-964页

作者：谢涛张春炯徐永健西南大学教育学部智慧教育研究院重庆400715 同济大学电子与信息工程学院上海201804 西南大学计算机与信息科学学院重庆400715

随机梯度下降算法(SGD)随机使用一个样本估计梯度,造成较大的方差,使机器学习模型收敛减慢且训练不稳定。该文提出一种基于方差缩减的分布式SGD,命名为DisSAGD。该方法采用历史梯度平均方差缩减来更新机器学习模型中的参数,不需要完全... 详细信息

随机梯度下降算法(SGD)随机使用一个样本估计梯度,造成较大的方差,使机器学习模型收敛减慢且训练不稳定。该文提出一种基于方差缩减的分布式SGD,命名为DisSAGD。该方法采用历史梯度平均方差缩减来更新机器学习模型中的参数,不需要完全梯度计算或额外存储,而是通过使用异步通信协议来共享跨节点的参数。为了解决全局参数分发存在的“更新滞后”问题,该文采用具有加速因子的学习速率和自适应采样策略:一方面当参数偏离最优值时,增大加速因子,加快收敛速度;另一方面,当一个工作节点比其他工作节点快时,为下一次迭代采样更多样本,使工作节点有更多时间来计算局部梯度。实验表明:DisSAGD显著减少了循环迭代的等待时间,加速了算法的收敛,其收敛速度比对照方法更快,在分布式集群中可以获得近似线性的加速。

关键词：梯度下降机器学习分布式集群自适应采样方差缩减

在线全文

学校读者我要写书评

暂无评论

基于动量分数阶梯度的卷积神经网络优化方法

计算机工程与应用 2022年第6期58卷 80-87页

作者：郭明霄王宏伟王佳李昊哲杨仕旗新疆大学电气工程学院乌鲁木齐830047 大连理工大学控制科学与工程学院辽宁大连116024 大连医科大学基础医学院辽宁大连116041

针对采用传统梯度下降算法训练卷积神经网络收敛速度慢的问题,提出了动量分数阶梯度下降算法。介绍了分数阶微积分的定义,并依据问题描述,通过算法推导,将整数阶梯度下降算法中的动量思想应用到分数阶梯度下降算法中,设计出动量分数阶... 详细信息

针对采用传统梯度下降算法训练卷积神经网络收敛速度慢的问题,提出了动量分数阶梯度下降算法。介绍了分数阶微积分的定义,并依据问题描述,通过算法推导,将整数阶梯度下降算法中的动量思想应用到分数阶梯度下降算法中,设计出动量分数阶梯度下降算法。使用测试函数验证算法的收敛性,并分析不同分数阶阶次和动量项系数对算法收敛性的影响。在三个数据集上使用动量分数阶梯度下降算法与传统梯度下降算法、动量梯度下降算法作对比实验,实验数据表明,动量分数阶梯度下降算法可以在不同复杂程度的数据集上,在保证较高分类准确率的前提下,极大提高卷积神经网络的收敛速度,为训练卷积神经网络节省大量时间成本。

关键词：卷积神经网络分数阶梯度下降动量

在线全文

学校读者我要写书评

暂无评论

结构振动信号盲源分离的快速复杂度追踪算法

振动工程学报 2024年

作者：胡志祥黄磊贺文宇合肥工业大学土木与水利工程学院

盲源分离（BSS）理论可用于分离出结构振动信号中的各阶模态坐标振动，而复杂度追踪（CP）是求解盲源分离问题的经典方法之一。为提高复杂度追踪算法的计算效率，本文进行了两方面改进：采用高斯分布的负对数函数这—非线性函数估计信... 详细信息

盲源分离（BSS）理论可用于分离出结构振动信号中的各阶模态坐标振动，而复杂度追踪（CP）是求解盲源分离问题的经典方法之一。为提高复杂度追踪算法的计算效率，本文进行了两方面改进：采用高斯分布的负对数函数这—非线性函数估计信号复杂度，并推导出可快速计算信号复杂度及其梯度的计算公式；采用基于子空间搜索的梯度下降算法，在降维后的子空间中计算最优解混向量。新公式在计算复杂度及其梯度时只需采用混合信号的协方差矩阵和时延协方差矩阵，而无需使用全部信号数据。利用数值算例和框架振动数据对所提方法进行了研究，结果表明快速复杂度追踪算法在计算效率方面高于传统方法，并且能正确地分离出结构模态坐标振动。

关键词：盲源分离模态参数识别复杂度追踪梯度下降子空间搜索

NT-EP:一种无拓扑结构的社交消息传播范围预测方法

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

计算机研究与发展 2020年第6期57卷 1312-1322页

作者：刘子图全紫薇毛如柏刘勇朱敬华黑龙江大学计算机科学技术学院哈尔滨150080

准确预测社交网络中消息的传播范围是舆情分析的重要内容,该问题受到了数据挖掘领域的广泛关注.目前的大部分研究主要利用社交网络拓扑结构和用户的动作日志来预测社交消息的传播范围.在实际应用中用户的动作日志中通常容易获得,但是社... 详细信息

准确预测社交网络中消息的传播范围是舆情分析的重要内容,该问题受到了数据挖掘领域的广泛关注.目前的大部分研究主要利用社交网络拓扑结构和用户的动作日志来预测社交消息的传播范围.在实际应用中用户的动作日志中通常容易获得,但是社交网络的拓扑结构(例如用户之间的朋友关系)并不容易获得,因此无拓扑结构的社交消息预测具有更广泛的应用前景.提出了一种新的社交消息传播范围预测方法NT-EP,该方法由4部分构成:1)利用消息传播随时间衰减的特性为消息构造加权传播图,使用随机游走策略获取多条传播路径;2)把目标消息的传播路径输入到Bi-GRU(bidirectional gated recurrent unite),结合注意力机制计算出目标消息的传播特征向量;3)使用梯度下降方法计算出其他消息的影响向量;4)将目标消息的传播特征向量和其他消息的影响向量结合在一起,预测目标消息的传播范围.在Sina微博和Flixster数据集上的实验结果表明:NT-EP方法在均方误差(mean squared error,MSE),F1-score等多个指标上都优于现有的社交消息预测方法.

关键词：社交网络传播范围拓扑结构随机游走梯度下降

在线全文

学校读者我要写书评

暂无评论

一种基于指令MKS的自动向量化代价模型

计算机科学 2023年

作者：王震聂凯韩林郑州大学计算机与人工智能学院郑州大学国家超级计算郑州中心

自动向量化代价模型是编译器进行自动向量化优化时的重要组成部分，其作用是评估代码在应用向量化转换后能否获得性能提升。当代价模型不准确时，编译器会应用负收益的向量化转换，从而降低程序的执行效率。针对GCC编译器默认代价模型... 详细信息

自动向量化代价模型是编译器进行自动向量化优化时的重要组成部分，其作用是评估代码在应用向量化转换后能否获得性能提升。当代价模型不准确时，编译器会应用负收益的向量化转换，从而降低程序的执行效率。针对GCC编译器默认代价模型的不精确问题，以Intel Xeon Silver 4214R CPU为平台，提出了一种基于指令MKS的自动向量化代价模型。该模型充分考虑了指令的机器模式、运算类型以及运算强度等，并使用梯度下降算法自动搜索不同指令类型的近似代价。在SPEC2006以及SPEC2017上进行了单线程测试，实验结果表明，该模型能够降低收益评估错误的情况。与默认代价模型生成的向量程序相比，GCC编译器添加MKS代价模型后，在SPEC2006课题上最高获得了4.72%的提速，在SPEC2017课题上最高获得了7.08%的提速。

关键词： GCC编译器自动向量化代价模型收益评估梯度下降

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

独立级联传播模型下的连续影响力最大化

计算机科学 2023年

作者：邓紫维陈崚刘维扬州大学信息工程学院

影响力最大化是在社交网络中寻求一组最具有影响力的用户作为种子节点，通过种子节点向网络中传播信息，使得传播的范围最大化。现有的对影响力最大化的研究大都对每个节点选择或者不选择其为种子节点。而在实际应用中，需要根据用户的... 详细信息

影响力最大化是在社交网络中寻求一组最具有影响力的用户作为种子节点，通过种子节点向网络中传播信息，使得传播的范围最大化。现有的对影响力最大化的研究大都对每个节点选择或者不选择其为种子节点。而在实际应用中，需要根据用户的影响力来赋予他成为种子的概率，使得根据这个概率分布得到的种子集合的影响力传播范围的期望值最大化，这就是连续影响力最大化问题。提出了一种独立级联传播模型下连续影响力最大化算法。该算法首先将该问题抽象成一个约束优化问题。然后抽样若干个可能的种子集，并对每个可能的种子集估计影响的传播范围。使用梯度下降法，在每轮迭代中根据估计的传播范围计算各个方向的增量值，取最大增量的方向作为梯度进行目标函数值的迭代更新，从而得到目标函数值的最优解。在真实和虚拟网络上的实验结果表明，该算法在影响范围的期望值上优于Random、Degree、UD和CD等算法。

关键词：连续影响力最大化社交网络独立级联传播模型梯度下降迭代

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

常见轴孔的高精度定位算法研究及应用

制造业自动化 2022年第12期44卷 161-165页

作者：杨万鹏胡伟河南理工大学电气与自动化学院焦作454002

针对自动化装配场景中的轴孔目标定位检测过程,成像质量不高、特征区域边缘模糊和定位精度低的问题,采用形态学处理提高图像质量,用同态增晰的算法来增强边缘特征,最后用最小二乘法Huber圆拟合算法拟合圆,梯度下降算法求出圆心,最终实... 详细信息

针对自动化装配场景中的轴孔目标定位检测过程,成像质量不高、特征区域边缘模糊和定位精度低的问题,采用形态学处理提高图像质量,用同态增晰的算法来增强边缘特征,最后用最小二乘法Huber圆拟合算法拟合圆,梯度下降算法求出圆心,最终实现高精度定位。通过数据分析和现场实际测试验证,该算法定位精度高,运行速度快,并且运行稳定。

关键词：机器视觉形态学同态增晰最小二乘法梯度下降

搭载低成本MEMS-IMU的RTK接收机初始对准方法

在线全文

学校读者我要写书评

暂无评论

科学技术与工程 2023年第28期23卷 11972-11979页

作者：李灏杨唐诗华刘坤之吕富强桂林理工大学测绘地理信息学院桂林541006 广西空间信息与测绘重点实验室桂林541006

搭载的低成本微机电系统惯性测量单元(micro-electro-mechanical system-inertial measurement unit, MEMS-IMU)的实时动态载波相位差分(real time kinematic, RTK)接收机的初始对准是一个关键的技术问题,也是目前惯导RTK的一个挑战。针对这个问题,提出一种基于梯度下降的惯导RTK初始对准方法,将多矢量定姿与梯度下降相融合,有效地提高了多矢量定姿的精度。通过仿真实验和现场实验验证改进算法的有效性。试验结果表明:在不使用任何附加传感器(如磁力计)的情况下,使用低成本MEMS-IMU,仅需2~3 s,就可以在91%的置信度下,对中杆倾斜40°范围内RTK的测量精度达到2.5 cm,该算法的精度和收敛速度都能很好地满足惯导RTK应用的要求。

关键词：惯导实时动态载波相位差分(RTK) 初始对准梯度下降多矢量定姿

在线全文

学校读者我要写书评

暂无评论

基于局部差分隐私的增强矩阵分解推荐算法

计算机工程与设计 2023年第7期44卷 2070-2079页

作者：孟小燕内蒙古师范大学青年政治学院内蒙古呼和浩特010051

为增强隐私保护能力以及推荐干扰鲁棒性,有效减少通信成本,提出一种基于局部差分隐私的增强矩阵分解推荐算法。提出用于矩阵分解的局部差分隐私梯度下降算法,同时保护用户项目和评级;通过随机过程的维度还原技术减少由于大量项目而产生... 详细信息

为增强隐私保护能力以及推荐干扰鲁棒性,有效减少通信成本,提出一种基于局部差分隐私的增强矩阵分解推荐算法。提出用于矩阵分解的局部差分隐私梯度下降算法,同时保护用户项目和评级;通过随机过程的维度还原技术减少由于大量项目而产生的大扰动误差,通过稳定噪声半径减少由于迭代而产生的误差;引入一个因子,通过数据集稳定扰动梯度。通过两个数据集验证了提出方法的有效性。

关键词：推荐算法差分隐私矩阵分解梯度下降隐私保护扰动梯度用户评级