基于信赖域Newton算法的ELM网络
ELM based on trust region Newton method作者机构:大连理工大学电子信息与电气工程学部辽宁大连116024
出 版 物:《控制与决策》 (Control and Decision)
年 卷 期:2011年第26卷第5期
页 面:757-760页
核心收录:
学科分类:08[工学] 0835[工学-软件工程] 0802[工学-机械工程] 080201[工学-机械制造及其自动化]
基 金:国家自然科学基金项目(60674073) 国家科技支撑计划项目(2006BAB14B05) 国家973计划项目(2006CB403405)
主 题:极端学习机 信赖域Newton法 共轭梯度法 回归
摘 要:针对极端学习机(ELM)网络伪逆输出权值计算方法的运算复杂度制约其训练速度问题,提出一种基于信赖域Newton算法的新型ELM网络(TRON-ELM),并采用信赖域Newton算法求解ELM网络的输出权值.该算法首先构造一个ELM网络代价函数的Newton方程,并将其作为一个无约束优化问题,采用共轭梯度法求解,避免了求代价函数Hessian矩阵逆的运算,提高了训练速度,信赖域条件的存在保证了算法的整体收敛性.仿真实验结果验证了所提出方法的有效性.