检索结果-南通市图书馆

检索条件"主题词=平均一阶依赖估计器"

共 2 条记录，以下是1-10 订阅

全选清除本页清除全部题录导出标记到"检索档案"

详细简洁

排序：

面向平均一阶依赖贝叶斯网络分类器的双重加权学习策略

面向平均一阶依赖贝叶斯网络分类器的双重加权学习策略

引用

作者：谢亦斌吉林大学

学位级别：硕士

分类作为机器学习的基本任务之一,被广泛用于解决现实生活场景中的诸多问题。解决分类任务的关键是生成一个既能为数据提供结构化知识表示又具有良好分类性能的分类器。贝叶斯网络分类器(Bayesian network classifier,BNC)长期以来一直... 详细信息

分类作为机器学习的基本任务之一,被广泛用于解决现实生活场景中的诸多问题。解决分类任务的关键是生成一个既能为数据提供结构化知识表示又具有良好分类性能的分类器。贝叶斯网络分类器(Bayesian network classifier,BNC)长期以来一直是以图形方式表达预测属性之间依赖关系的流行媒介,它可以通过估计不同类标签的后验概率分布来自然地处理不确定性背景下的推理问题。自从朴素贝叶斯(Naive Bayes,NB)广泛且成功的应用后,关于BNC的研究极大地吸引了研究者们的注意。由于其不现实的条件独立性假设,NB具有简单的拓扑结构以及优秀的计算复杂度,但在概率估计上仍表现欠佳。因此研究者们提出了许多方法通过放松其属性的条件独立性假设来改善NB的性能。在这些方法中,平均一阶依赖估计器(Averaged one-dependence estimators,AODE)的表现尤为出众,它通过平均一系列的超父属性一阶依赖估计器(Superparent one-dependence estimator,SPODE)的概率估计进而得到最终决策结果。AODE在保留了NB简单的拓扑结构的同时在偏差与方差上取得了均衡的良好表现,因此它成为了最受欢迎的BNC之一。然而,与NB类似,SPODE的条件独立性假设在现实中难以成立。此外,AODE在进行集成学习时所采取的平均策略忽略了SPODE成员之间的差异,从而影响了AODE的分类精度以及泛化性能。为了进一步改善NB或AODE的性能,研究者们提出了许多改进方法,包括结构拓展、属性选择、属性加权、模型选择、模型加权以及懒惰式学习等。相较于其他改进方法,属性加权和模型加权方法能够动态地为每个属性或子模型赋予权值,通过增加高置信度属性或子模型在分类结果中所占比重从而提升模型的分类精度和泛化性能。因此本文创新地将属性加权和模型加权方法同时应用于对AODE的改进中,提出了一种面向AODE的双重加权学习策略,从而得到了名为双重加权的平均一阶依赖估计器(Double weighting schema of AODE,DWAODE)的BNC模型。在属性加权阶段,本文引进了半逐点互信息和半逐点条件互信息两种信息论测度来识别变量间的关键依赖关系同时为属性赋予权重,从而调整每个预测属性的条件概率估计并且使得生成的模型更加拟合于数据。在模型加权阶段,本文应用逐点对数似然函数来衡量SPODE网络拓扑结构的合理性,进而调整模型的联合概率估计。此外,为了进一步解决独立同分布假设的问题,本文还融合了局部学习方法以学习特定数据点的局部最优权重。为了进一步验证双重加权学习策略的有效性,本文引进了0-1损失函数、偏差-方差分解、均方根误差以及Friedman检验和Nemenyi检验作为评价指标。在34个UCI数据集上的实验结果表明,与一系列包括WATAN、AODE、WAODE-MI、IBWAODE、AVWAODE-IG、AWAODE等在内的其他优秀BNC算法相比,DWAODE均有着较强的竞争力,并且在分类性能以及数据拟合上取得了优秀的综合表现。

关键词：贝叶斯网络分类器平均一阶依赖估计器属性加权模型加权

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于对数似然分析的贝叶斯网络结构扩展研究

基于对数似然分析的贝叶斯网络结构扩展研究

引用

作者：孔贺吉林大学

学位级别：硕士

如何建立一个能够用结构来表示隐藏在领域知识内的分类模型是人工智能领域内的一个关键问题。贝叶斯网络（Bayesian networks,BNs）为不确定性背景下的推理提供了一种紧凑直观的图形表示,并已成为许多概率专家系统的基础。然而,学习一... 详细信息

如何建立一个能够用结构来表示隐藏在领域知识内的分类模型是人工智能领域内的一个关键问题。贝叶斯网络（Bayesian networks,BNs）为不确定性背景下的推理提供了一种紧凑直观的图形表示,并已成为许多概率专家系统的基础。然而,学习一个拥有最优的网络拓扑结构的贝叶斯网络已经被证明是NP-hard问题。自从朴素贝叶斯（Naive Bayes,NB）在良好的分类表现和最小时间开销两方面取得优良平衡的巨大成功后,限制性贝叶斯网络分类器（Bayesian network classifiers,BNCs）就受到了许多研究者的关注,并且研究者们提出了很多方法来改进NB。在改进NB的众多方法中,平均一阶依赖估计器（Averaged one-dependence estimators,AODE）取得了优越的分类表现,尽管对应于AODE中的每一个超父属性一阶依赖估计器（Superparent one-dependence estimator,SPODE）的独立性假设在实际情况中很少成立。模型选择和模型加权都已经被认为是用于放松AODE的独立性假设和提高其分类性能的有效且高效的解决办法。与模型选择和模型加权相比,对于改进AODE模型来说,结构扩展更能为逼近隐含在训练数据中的真实概率分布提供一种可靠的方式。在贝叶斯网络分类器的结构学习中,结构扩展通常被用来探索条件依赖而忽略了依赖的方向关系,这会对贝叶斯网络分类器在不确定性下的推理表达能力产生负面影响。目前随着数据规模的不断增长,具有高表达能力和低偏差的鲁棒性AODE模型也是十分急需的。本文引进了对数似然函数用于度量编码在网络拓扑结构中用于描述训练数据的比特数。同时,由于条件对数似然函数具有非对称性,因此其可以衡量属性和其父变量集合之间的方向关系。从对数似然函数角度出发,本文通过识别属性之间的有向依赖关系来向AODE中的超父节点一阶依赖估计器的拓扑结构中增加增广边。本文提出了一种启发式搜索策略用于最大化对数似然函数并且通过探索属性之间更高阶的条件依赖关系来放松AODE模型的独立性假设。本文提出了一种名为平均树增广的一阶依赖估计器（Averaged tree-augmented one-dependence estimators,ATODE）的贝叶斯网络分类器,其结合了生成式学习的高表达能力和判别式学习的低偏差优势。因此,ATODE继承了AODE模型的有效性而且还在建模高阶依赖时获得了更大的灵活性。为了评估ATODE模型的有效性,0-1损失、偏差-方差分解、均方根误差以及它们对应的Friedman检验和Nemenyi检验被用来进行实验比较分析。在36个UCI数据集（属性个数从5到64,实例个数从57到164860）上的实验结果表明,与一系列单模型贝叶斯网络分类器（例如CFWNB和SKDB）和集成型贝叶斯网络分类器（例如TAODE和IWAODE）相比,ATODE可以取得相当的或者更好的分类性能。

关键词：贝叶斯网络分类器对数似然平均一阶依赖估计器结构扩展

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

全选清除本页清除全部题录导出标记到“检索档案”

共1页 << < 1 > >>

回到顶部

执行限定条件

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：