检索结果-南通市图书馆

检索条件"主题词=噪声有益性"

共 3 条记录，以下是1-10 订阅

全选清除本页清除全部题录导出标记到"检索档案"

详细简洁

排序：

超阈值随机共振神经网络及分类算法中噪声有益性研究

超阈值随机共振神经网络及分类算法中噪声有益性研究

引用

作者：刘晓杰青岛大学

学位级别：硕士

在单个阈值函数构成的非线性系统中,当输入信号为亚阈值信号时,加入适量的噪声会增强非线性系统的输出响应,即随机共振现象。随机共振主要关注噪声对于系统性能的积极作用,也成为神经科学领域中神经元随机可塑性的一种解释机制。鉴于生... 详细信息

在单个阈值函数构成的非线性系统中,当输入信号为亚阈值信号时,加入适量的噪声会增强非线性系统的输出响应,即随机共振现象。随机共振主要关注噪声对于系统性能的积极作用,也成为神经科学领域中神经元随机可塑性的一种解释机制。鉴于生物信息传输中大量神经元聚集特点,对于超阈值输入信号,研究表明当系统由多个阈值单元并联而成时,加入独立同分布的噪声分量也会产生随机共振现象,即超阈值随机共振。在这些现象中,噪声对于提高系统性能发挥了积极的作用,我们称为噪声有益性。本文主要研究了超阈值随机共振神经网络及k近邻分类算法中噪声的有益性。首先构造了一种基于超阈值随机共振机制的阈值型神经网络模型。在构成人工神经网络的不同神经元激活函数中,阈值函数与连续可微激活函数相比,具有硬件实现成本低、内存占用少等优点,其构成的网络经过训练后的计算量小,输出值为0或1,特别适合用于完成各种分类任务。然而,阈值函数具有不可微的间断点和零梯度的特性,无法使用基于梯度下降的误差后向传播(Backpropagation,BP)算法训练阈值型网络。在超阈值随机共振现象的启发下,我们向阈值单元构成的并联阵列中加入独立同分布的噪声样本,此时,每个阵列可以看成是一个超阈值随机共振模型。理论分析表明当阵列中的阈值单元个数足够大时,阵列的输出均值渐近趋向于阈值函数对于所加入噪声概率分布的期望值,这时超阈值随机共振模型可以视为神经元,此神经元的激活函数变成了连续可微的函数——噪声平滑化阈值激活函数,此时,误差后向传播算法可以用于训练阈值型网络。在网络训练过程中,噪声平滑化阈值激活函数中的噪声概率密度参数,如噪声强度,和网络权系数一样采用随机梯度下降的方式进行更新优化,直到噪声强度收敛到非零最优值,这一网络训练方法称为噪声提升BP算法。进一步地,我们理论分析了使用噪声提升BP算法训练神经网络时,损失函数收敛时得到的最优网络参数值一般为局部最优解。在测试阶段,从实际的易实现性出发,噪声平滑化阈值激活函数由阈值阵列和训练得到的非零最优噪声来实现,神经元的输出为每个阵列阈值单元输出的均值。将使用随机梯度下降算法训练好的阈值网络用于数据分类和手写数字图片识别实验,与神经元采用连续激活函数(全精度)构成的网络得到的测试分类正确率相比,此类低精度的阈值网络能够达到同样甚至更高的分类正确率。由此,噪声在阈值网络中的有益性有两类:一是噪声的加入使阈值网络神经元函数转化为光滑可微激活函数,使得随机梯度下降算法进行网络训练成为可能,二是适宜的噪声强度可以提高网络的测试分类正确率。为研究噪声注入提高模式识别模型的泛化能力,本文还研究了阈值网络中各隐藏层神经元所加噪声服从不同噪声概率分布时噪声强度的收敛性,对不同测试数据集进行了阈值网络的分类精度比较。此外,本文进一步研究了当训练数据中加入随机噪声分量时,使用k近邻算法进行数据分类,人工噪声注入是否能够进一步地提高算法分类正确率,研究结果表明噪声注入方法在提高模式识别模型泛化能力方面具有一定的普适性。

关键词：噪声有益性阈值型神经网络超阈值随机共振模式识别噪声平滑化激活函数 k近邻算法

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于低分辨率观测值的贝叶斯估计器设计及噪声有益性研究

基于低分辨率观测值的贝叶斯估计器设计及噪声有益性研究

引用

作者：刘佳青岛大学

学位级别：硕士

在现代信号处理系统中,由于带宽占用、能量供给、系统实现成本等实际约束问题,需要将模拟观测信号进行量化,然后再进行进一步地数据处理。信号的量化不仅使硬件设计复杂度降低、器件功耗少、占用通信带宽减小,而且量化传感器还具有成本... 详细信息

在现代信号处理系统中,由于带宽占用、能量供给、系统实现成本等实际约束问题,需要将模拟观测信号进行量化,然后再进行进一步地数据处理。信号的量化不仅使硬件设计复杂度降低、器件功耗少、占用通信带宽减小,而且量化传感器还具有成本低、物理尺寸较小、易实现高速率采样等优点。尽管具有上述优势,但信号量化会损失数据的信息、降低分辨率、使系统的估计性能降低,而且将非线性效应引入系统,这给信号参数的估计带来了诸多新挑战。在某些非线性系统中,适量加入随机噪声能够使得非线性系统性能得到优化,此即随机共振现象,为信号参数估计方法提供了新思路。随着非周期和超阈值随机共振等现象的发现,系统输入不再局限于单一频率的周期弱信号,随机共振也不局限于“共振”这一概念,如今在信号处理领域中随机共振现象被广泛的称为“噪声有益性”。本文研究了基于低分辨率观测值的贝叶斯估计器设计,探讨了分布式贝叶斯参数估计中的噪声有益性。本文首先理论分析了原始数据和人工噪声加入的新数据中参数估计的贝叶斯Cramér-Rao下界(BCRB),以及这两类数据给出的BCRB之间关系,证明了依据新观测数据构造的最小均方误差(MMSE)估计器性能劣于基于原始数据设计的MMSE估计器性能的结论。虽然此结论指出了人工噪声应用的局限性,但是MMSE估计器计算复杂性大,经常难以得到解析解,因此实际信号估计问题中经常采用一些易于设计的次优估计器,也正因如此探索噪声有益才是可行的。对于随机标量参数估计,本文研究了贝叶斯参数估计中的噪声有益性。基于低精度量化器的观测数据,本文设计了四种贝叶斯估计器,并针对不同背景噪声类型,确定人工噪声的最佳分布,以减小参数估计的MSE。理论分析表明,在单个传感器(如二进制量化器)中最优人工噪声概率分布为狄拉克函数,即恒定偏差常数,但是噪声修正后的估计器性能还是劣于基于原始数据设计的MMSE估计器。对于分布式估计,本文理论证明了估计器中最优人工噪声分布不再局限于恒定的偏置常数,而是“真实的”随机分布。本文利用高斯核密度估计方法将噪声概率分布非线性泛函优化问题转化为带约束的有限维参数估计问题,以MSE为目标函数,利用序列二次规划算法求解噪声分布的最优参数,给出了最优噪声分布的近似表达。研究结果表明无论分布式估计中量化器的阈值是否相同,所设计的贝叶斯估计器总可以从最优人工噪声中受益,并有效地接近MMSE估计器的性能。针对随机参数向量估计问题,基于传感器的低精度观测数据,本文设计了分布式贝叶斯参数向量估计器,给出了该估计器的贝叶斯MSE矩阵理论表达式,在阵列传感器数目足够多的情况下,利用噪声有益性,提出了一种贝叶斯MSE矩阵的低成本计算方法以及对应的贝叶斯参数向量估计器。研究结果表明,通过调节估计器中噪声概率分布或噪声强度,对于每一个随机参数,所设计估计器的贝叶斯MSE得到显著改善。

关键词：贝叶斯估计噪声有益性最优人工噪声随机参数向量噪声增强估计器随机共振

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于自适应随机共振的信号估计与滤波研究

基于自适应随机共振的信号估计与滤波研究

引用

作者：李菲青岛大学

学位级别：硕士

在信号处理领域,经常面临带宽占用、成本节约等实际的约束问题,我们可将信号量化来减小带宽的占用并简化硬件的设计,量化传感器也具有采样速率高、成本低等优势。然而,对信号进行量化处理也带来一些问题,比如导致数据信息损失、降低系... 详细信息

在信号处理领域,经常面临带宽占用、成本节约等实际的约束问题,我们可将信号量化来减小带宽的占用并简化硬件的设计,量化传感器也具有采样速率高、成本低等优势。然而,对信号进行量化处理也带来一些问题,比如导致数据信息损失、降低系统估计性能、降低分辨率、将非线性效应引入系统等。这些问题使得信号参数估计和检测等信号处理任务面临新的挑战。近年来,在非线性系统中加入适量的随机噪声为信号参数估计提供了新方法和新思路。这种方法在一定程度上能够优化系统的性能,成为现代统计信号处理的热点问题。其中,如何寻找添加噪声的最优水平或最优噪声类型成为一个有意义且亟需解决的问题。本文提出了一种寻找最优噪声的自适应随机共振算法,研究了二进制量化器求和网络和非线性滤波中的噪声有益性。这种学习算法不仅能自适应地调整权重,还可以自适应地更新人工添加到量化器中的噪声水平或噪声类型。但是,在一些实际问题中,梯度的求解过于复杂甚至无法求解,因此,我们进一步利用差分估计梯度发展得到基于差分的自适应随机共振方法来解决上述问题。该方法不仅能够避免导数的求解,降低计算复杂度,也能提高算法的优化效率。通过上述方法,本文实现了一种随机共振或噪声辅助信号处理的形式,也扩展了自适应随机共振在一些复杂的非线性信号处理任务中的应用。本文主要研究内容和创新点如下:(i)本文首先研究了二进制量化器求和网络中的单参数估计问题,理论推导出基于梯度下降和差分的自适应学习算法,利用该算法自动调整估计器求和网络中的权重、人工加性噪声水平以及量化器阈值,以减少估计器的均方误差(Mean-Square Error,MSE),从而提高估计器的性能。研究结果表明,通过上述自适应随机共振学习算法能够找到加性噪声水平的最优非零值,该噪声水平能够最小化估计器的均方误差,达到优化估计器性能的目的,证实了求和网络中人工加性噪声的有益性。(ii)对于贝叶斯随机参数向量估计,本文通过基于差分的自适应学习算法对低精度观测向量进行估计。在假设向量估计器的传感器数目足够多时,理论推导得到贝叶斯参数向量估计量的均方误差矩阵并以该矩阵的迹作为目标函数,利用差分自适应学习规则自动地寻找向量估计器中能够显著降低MSE的最优加性噪声水平。研究结果表明通过差分自适应调整加性噪声水平,该贝叶斯估计器也能从最优加性噪声中获益,优化后的估计器性能非常接近同等条件下的基于全精度观测数据的线性最小方差估计器的性能。(iii)对于非线性滤波问题,基于二进制量化器求和网络模型及其低精度观测值,本文设计了由单参数估计器扩展而来的横向滤波器。在求和网络中量化器数目足够多的情况下,分别利用基于梯度下降和差分的自适应学习算法调整滤波器中的加性噪声水平,分析该滤波器的滤波能力。研究表明,利用两种方法得到的最优加性噪声水平,能够有效降低所设计滤波器的MSE,体现了非线性滤波器中人工加性噪声有益性。(iv)对于二进制量化器求和网络中的单参数信号估计,本文进一步利用序列二次规划算法,自适应地优化权系数和加性噪声概率密度分布函数。研究结果表明,利用该方法自适应地求解出一类近似最优噪声概率密度分布函数,以进一步地降低所设计估计器的MSE。

关键词：自适应随机共振噪声有益性梯度下降最优加性噪声参数估计非线性滤波

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

全选清除本页清除全部题录导出标记到“检索档案”

共1页 << < 1 > >>

回到顶部

执行限定条件

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：