增量型极限学习机改进算法
Improvement Algorithm of an Incremental Extreme Learning Machine作者机构:广西大学电气工程学院广西南宁530004
出 版 物:《信息与控制》 (Information and Control)
年 卷 期:2016年第45卷第6期
页 面:735-741,758页
核心收录:
学科分类:12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术(可授工学、理学学位)]
基 金:国家自然科学资助基金(61364007) 广西科学研究与技术开发计划项目(桂科攻14122007-33) 南宁市科学研究与技术开发计划项目(20141050)
主 题:增量型极限学习机 无效神经元 算法改进 网络的稳定性
摘 要:增量型极限学习机(incremental extreme learning machine,Ⅰ-ELM)在训练过程中,由于输入权值及隐层神经元阈值的随机获取,造成部分隐层神经元的输出权值过小,使其对网络输出贡献小,从而成为无效神经元.这个问题不但使网络变得更加复杂,而且降低了网络的稳定性.针对此问题,本文提出了一种给Ⅰ-ELM隐层输出加上偏置的改进方法(即Ⅱ-ELM),并分析证明了该偏置的存在性.最后对Ⅰ-ELM方法在分类和回归问题上进行仿真对比,验证Ⅱ-ELM的有效性.