检索结果-南通市图书馆

检索条件"主题词=激活函数选择"

共 1 条记录，以下是1-10 订阅

全选清除本页清除全部题录导出标记到"检索档案"

详细简洁

排序：

随机配置网络模型参数及其激活函数选择方法研究

随机配置网络模型参数及其激活函数选择方法研究

引用

作者：丁思超沈阳工业大学

学位级别：硕士

随机配置网络(Stochastic Configuration Networks,SCN)通过独特的监督机制确保其万用逼近性,对比其他神经网络,随机配置网络具有收敛速度快,泛化性能得到保障等优势。然而,SCN网络在建模过程中部分超参数选择的遍历范围是人工设定的,... 详细信息

随机配置网络(Stochastic Configuration Networks,SCN)通过独特的监督机制确保其万用逼近性,对比其他神经网络,随机配置网络具有收敛速度快,泛化性能得到保障等优势。然而,SCN网络在建模过程中部分超参数选择的遍历范围是人工设定的,激活函数也是根据人为经验去设置,这些都与数据无关。但是人工设置超参数范围会造成选择到的区间无效,导致建模速度变慢,使用单一激活函数对数据进行非线性变换会限制模型的表达能力,从而降低模型的泛化能力,并可能导致过早停止训练。针对上述问题本文提出了一种数据驱动的SCN参数选择方法,将模型输入参数的选择与数据相关联,此种优化策略可提高模型的建模速度和泛化性能,并同时提出了一种数据驱动的SCN激活函数选择方法,依据数据为隐藏层节点选择最适配的激活函数,解决提前停止训练的同时,进一步提高模型泛化能力。主要研究内容如下:(1)针对随机配置网络生成模型时,需要人为设置均匀分布的范围,并且选取的参数可能会落入使激活函数无效的区间范围的问题,本文提出了一种数据驱动的随机配置网络参数选择(Data-driven Random Parameter Selection Stochastic Configuration Networks,DRPS-SCN)方法。该方法通过输入数据为隐藏层节点生成候选参数,使其落入Sigmoid函数的非饱和区间,避免了人为设置均匀分布的参数范围,导致选出的随机参数可能会落入无效的饱和区间的问题。实验结果表明,这种根据数据选择随机参数的方法能使模型的节点数更少,模型更加紧致,同时有效提高了SCN模型的生成速度。(2)针对随机配置网络生成模型时依据人为经验设置激活函数会限制模型表达能力的问题,本文提出了一种数据驱动的随机配置网络激活函数选择(Data-driven Activation Function Selection Stochastic Configuration Networks,DAFS-SCN)方法。该方法生成模型时根据数据选择最优的激活函数,避免了根据经验设置激活函数建模时,导致模型过拟合或者提前停止训练的问题。实验结果表明,这样的模型有更好的泛化能力和更广阔的普适性。

关键词：随机配置网络激活函数选择随机参数选择区间增量式学习数据驱动

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

全选清除本页清除全部题录导出标记到“检索档案”

共1页 << < 1 > >>

回到顶部

执行限定条件

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：