多层前馈式神经网络的HJPS训练算法
The HJPS Training Algorithm for Multilayer Feedforward Neural Networks作者机构:哈尔滨工业大学计算机科学与技术学院哈尔滨150001 香港理工大学计算学系
出 版 物:《计算机研究与发展》 (Journal of Computer Research and Development)
年 卷 期:2005年第42卷第10期
页 面:1790-1795页
核心收录:
学科分类:12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术(可授工学、理学学位)]
基 金:国家自然科学基金项目(90209020 60441005) 国家"八六三"高技术研究发展计划基金项目(863-306-ZD13-06-1)
摘 要:根据优化理论中的Hooke-Jeeves模式搜索(patternsearch)法提出了多层前馈式神经网络快速训练算法HJPS·该算法由“探测搜索和“模式移动两个步骤交替进行·其基本思想是探测搜索依次沿各个坐标轴进行,用以确定新的基点和有利于网络误差函数值下降的方向·模式移动沿相邻两个基点的连线方向前进,从而进一步减小误差函数值,达到更快收敛·实验结果表明,同BP算法以及其他几种快速算法相比,HJPS算法在收敛速度和运算时间上都有非常显著的提高·同时HJPS算法的泛化能力很强·