检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

面向小样本文本分类的互学习原型网络

北京邮电大学学报 2024年第3期 30-35页

作者：刘俊秦晓瑞陶剑董洪飞李晓旭中国航空综合技术研究所兰州理工大学计算机与通信学院

小样本文本分类方法大多依赖于单一原型进行训练和推理，容易受到噪声等因素的影响，从而导致泛化能力不足。对此，提出了一种用于小样本文本分类的互学习原型网络。在保留现有算法通过文本嵌入特征直接计算原型的基础上，引入了基于转... 详细信息

小样本文本分类方法大多依赖于单一原型进行训练和推理，容易受到噪声等因素的影响，从而导致泛化能力不足。对此，提出了一种用于小样本文本分类的互学习原型网络。在保留现有算法通过文本嵌入特征直接计算原型的基础上，引入了基于转换器的双向编码表征模型，将文本嵌入特征输入模型中以生成新的原型；然后，利用互学习算法使这2个原型相互约束并进行知识交换，以过滤掉不准确的语义信息。此过程旨在提升模型的特征提取能力，并通过2个原型的共同决策来提高分类精度。在小样本文本分类数据集上的实验结果证实了所提方法的有效性。实验结果表明，在FewRel小样本关系分类数据集上，所提方法在类别为5且样本为1的分类实验中较当前最优方法的精度提高了2.97%,较类别为5且样本为5的分类实验中精度提高了1.99%。

关键词：人工智能文本分类小样本学习互学习原型网络

GHPN：面向半监督小样本节点分类的图超球面原型网络

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

小型微型计算机系统 2024年

作者：徐祖豪陈鑫龙李进黄益颂傅仰耿福州大学计算机与大数据学院香港科技大学(广州)信息枢纽

图神经网络已经成功应用于各种与图相关的任务中。以有监督的方式训练一个图神经网络需要大量标签，而现实世界中受到成本制约难以获取大量标签，因此在小样本学习或半监督学习场景的标签就更为稀少。为了克服这个问题，许多方法通过标... 详细信息

图神经网络已经成功应用于各种与图相关的任务中。以有监督的方式训练一个图神经网络需要大量标签，而现实世界中受到成本制约难以获取大量标签，因此在小样本学习或半监督学习场景的标签就更为稀少。为了克服这个问题，许多方法通过标签传播的方法来估计标签，但通常会受到图上连接性和同质性假设的限制，容易生成带有噪声的伪标签。为了解决这些限制，本文提出了一个名为图超球面原型网络的新方法GHPN，专注于半监督小样本节点分类。为了减轻图结构对预测结果的影响，GHPN在超球面表示空间中建模类别表示，通过类级别表示在语义空间中传播标签信息。此外，为了利用未标记节点的监督信息，本文设计了一个基于原型网络预测结果的负学习框架，用于补充监督信号，调整各类别原型之间的距离。在五个真实世界的数据集上进行的实验表明，该方法与十个最先进的方法相比能够有效提高性能，在四个数据集上能取得平均排名最佳结果。

关键词：半监督学习图表示学习小样本学习原型网络负学习

面向lncRNA亚细胞定位预测的注意力BiLSTM与原型网络

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

计算机工程 2024年

作者：孙荣能刘琳亢元召云南师范大学信息学院云南省教育厅计算机视觉与智能控制技术工程研究中心

长链非编码RNA(long non-coding RNAs， lncRNA)在细胞的许多生命过程中发挥着重要作用，而lncRNA亚细胞定位可为其功能识别带来关键信息，针对通过传统生物生化实验方法鉴定lncRNA亚细胞定位存在着程序复杂、难以复制、成本高等缺点，... 详细信息

长链非编码RNA(long non-coding RNAs， lncRNA)在细胞的许多生命过程中发挥着重要作用，而lncRNA亚细胞定位可为其功能识别带来关键信息，针对通过传统生物生化实验方法鉴定lncRNA亚细胞定位存在着程序复杂、难以复制、成本高等缺点，提出了一种面向lncRNA亚细胞定位预测的注意力双向长短时记忆（BiLSTM）与原型网络方法——BP-lncLoc。首先，基于原始序列数据中获取K-mer初始特征，并对其做平衡处理；其次结合注意力BiLSTM有效提取lncRNA序列深层隐含特征，并优化神经网络在处理高维数据时可能出现的梯度消失问题；再次，针对lncRNA亚细胞定位数据的小样本特性，构建了不依赖大规模训练样本的原型网络预测框架；最后，目前现有计算模型缺乏可解释性，即不知道模型如何基于输入数据做出决策的，随着人工智能和机器学习的快速发展，可解释性变得越来越重要。本文从量化输入特征对输出决策的重要性角度出发，实现了预测模型的可解释性。与最新方法相比，该方法在公开数据集上的准确率达到了98.89%的最佳结果，为lncRNA亚细胞定位预测应用提供了一种新思路。

关键词： lncRNA亚细胞定位不平衡学习双向长短时记忆网络原型网络可解释

基于知识增强自适应原型网络的小样本关系分类

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

计算机工程 2024年

作者：张河萍方志军卢俊鑫高永彬上海工程技术大学电子电气工程学院华东师范大学计算机科学与技术学院

小样本关系分类是指在任务中使用少量标注实例对各种关系进行分类，并可快速适用于对全新的类别进行归类。然而，当测试域与训练域之间存在分布差异时，现有的小样本分类算法泛化能力有限，导致性能的显著下降。针对该问题，提出一种适... 详细信息

小样本关系分类是指在任务中使用少量标注实例对各种关系进行分类，并可快速适用于对全新的类别进行归类。然而，当测试域与训练域之间存在分布差异时，现有的小样本分类算法泛化能力有限，导致性能的显著下降。针对该问题，提出一种适用于领域适应任务的知识增强自适应原型网络，通过探索实例之间的联系以提高模型的鲁棒性，同时学习关于关系的先验知识和内在语义以获得可解释原型。具体来说，通过引入交互注意力机制来捕捉支持实例与查询实例之间的相关性，突出关键实例，并生成交互实例。同时，自适应原型融合机制以关系信息为锚点生成自适应混合系数，通过特征融合将实例与关系信息相结合，从而生成混合原型。在公开数据集FewRel 1.0 和 2.0上进行了充足的实验，验证了该方法具有更好的分类效果与稳定性。

关键词：关系分类小样本学习小样本关系分类原型网络知识增强

基于动态阈值增强原型网络的联邦半监督学习模型

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

智能系统学报 2024年第3期19卷 534-545页

作者：陈涛谢在鹏屈志昊河海大学计算机与信息学院江苏南京211100

目前,联邦半监督学习面临着有效利用训练过程中大量无标签数据的挑战。尽管通过轻量级的原型网络实现客户端之间的知识共享可以缓解伪标签质量问题,但仍然有瓶颈。本文提出一种新的动态阈值增强下的原型网络联邦半监督学习算法。通过引... 详细信息

目前,联邦半监督学习面临着有效利用训练过程中大量无标签数据的挑战。尽管通过轻量级的原型网络实现客户端之间的知识共享可以缓解伪标签质量问题,但仍然有瓶颈。本文提出一种新的动态阈值增强下的原型网络联邦半监督学习算法。通过引入课程伪标签技术,其核心是对不同类别样本的学习状态动态调整阈值,使模型能够学习高质量的样本,显著提高模型的预测性能。实验结果表明,本算法在多个数据集上均取得优异的测试性能。在CIFAR-10数据集上,本算法相对于同类算法至少提高3%的测试精度。此外在SVHN和STL-10数据集上也有1%~7%的领先优势。值得注意的是,本算法在处理异质性和同质性数据时表现出色,且对于不同比例的有标签和无标签数据都具有良好的适应性。本算法不仅提高测试精度,而且未带来额外的通信开销和计算成本。这些结果表明本算法在联邦半监督学习领域具有巨大潜力,并为实际应用提供了一个性能卓越且高效的解决方案。

关键词：联邦学习半监督学习知识共享原型网络伪标签动态阈值无标签数据数据异质性

同方期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

基于原型网络的聚类式联邦学习

小型微型计算机系统 2024年第1期45卷 1-8页

作者：张铁徐林莉周远远中国科学技术大学计算机科学与技术学院合肥230022 中国科学技术大学信息科学实验中心合肥230022

聚类式联邦学习利用数据分布的差异对用户群体进行聚类,实现个性化的联邦模型训练,可以有效解决联邦学习中的特征分布异构问题.本文针对现有方法通信复杂度较高,难以适用于类别分布异构与小数据场景等问题,基于元学习方法中的原型网络... 详细信息

聚类式联邦学习利用数据分布的差异对用户群体进行聚类,实现个性化的联邦模型训练,可以有效解决联邦学习中的特征分布异构问题.本文针对现有方法通信复杂度较高,难以适用于类别分布异构与小数据场景等问题,基于元学习方法中的原型网络模型提出了一种迭代聚类式联邦学习框架.本文从期望最大化算法的角度出发,利用类原型信息构建用户嵌入表示,并基于此提出用于度量用户与聚类簇之间差异性的模型距离.该迭代式框架交替地执行用户聚类与局部更新以优化全局目标函数.由于新的模型距离可以在服务器端被计算,该框架在每一轮通信中有着近似于FedAvg算法的通信代价.相关实验结果表明了本文提出的方法对于聚类式联邦学习问题,特别是在类别分布异构与小样本数据场景的有效性.

关键词：联邦学习用户聚类原型网络数据异构模型距离

在线全文

学校读者我要写书评

暂无评论

基于微调原型网络的小样本敏感信息识别方法

中文信息学报 2024年第1期38卷 115-123页

作者：余正涛关昕黄于欣张思琦赵庆珏昆明理工大学信息工程与自动化学院云南昆明650500 昆明理工大学云南省人工智能重点实验室云南昆明650500

敏感信息识别主要是指识别互联网上涉及色情、毒品、邪教、暴力等类型的敏感信息,现有的敏感信息识别通常将其看作文本分类任务,但由于缺乏大规模的敏感信息标注数据,分类效果不佳。该文提出一种基于微调原型网络的小样本敏感信息识别方... 详细信息

敏感信息识别主要是指识别互联网上涉及色情、毒品、邪教、暴力等类型的敏感信息,现有的敏感信息识别通常将其看作文本分类任务,但由于缺乏大规模的敏感信息标注数据,分类效果不佳。该文提出一种基于微调原型网络的小样本敏感信息识别方法,在小样本学习框架下,利用快速适应的微调原型网络来缓解元训练阶段通用新闻领域和元测试阶段敏感信息数据差异大的问题。首先,在元训练阶段,基于通用新闻领域的分类数据训练模型来学习通用知识,同时在训练过程中经过两阶段梯度更新,得到一组对新任务敏感的快速适应初始参数,然后在元测试阶段敏感文本数据集的新任务上,冻结模型部分参数并使用支持集进一步微调,使模型更好地泛化到敏感识别领域上。实验结果证明,相比当前最优的小样本分类模型,该文提出的快速适应微调策略的原型网络显著提升了敏感信息识别效果。

关键词：敏感信息识别小样本学习微调策略原型网络

基于CBAM和原型网络的小样本恶意软件分类模型

在线全文

学校读者我要写书评

暂无评论

计算机工程与设计 2024年第7期 1941-1947页

作者：周景贤崔海彬李志平中国民航大学信息安全测评中心中国民航大学计算机科学与技术学院

为解决小样本条件下恶意软件分类准确率低的问题，提出一种基于CBAM(convolutional block attention module)和原型网络的恶意软件分类模型。利用图像转换算法将恶意软件可执行文件转换为灰度图像；将残差连接和CBAM引入模型的特征嵌入... 详细信息

为解决小样本条件下恶意软件分类准确率低的问题，提出一种基于CBAM(convolutional block attention module)和原型网络的恶意软件分类模型。利用图像转换算法将恶意软件可执行文件转换为灰度图像；将残差连接和CBAM引入模型的特征嵌入模块，从通道和空间两个维度上增强关键特征表达，使得到的特征更具分辨性；提出联合损失函数，在距离交叉熵损失的基础上加入原型损失，通过减小类内距离的方式进一步扩增类间距离，使模型在样本数量有限的情况下取得良好的分类效果。实验结果表明，在每类恶意软件仅有5个样本的情况下，模型的分类准确率仍可达到83.12%。

关键词：恶意软件分类灰度图小样本学习卷积神经网络注意力机制原型网络联合损失函数

基于自校正原型网络的泥石流灾害易发性评价——以怒江州为例

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

人民长江 2024年第3期55卷 123-133页

作者：韩俊王保云徐繁树云南师范大学信息学院云南昆明650500 云南师范大学数学学院云南昆明650500 云南省高校复杂系统建模及应用重点实验室云南昆明650500

为解决泥石流易发性评价中因子选择不一致造成的评价差异问题,以及目前神经网络不能有效提取泥石流特征以提升易发性评价正确率问题,提出了基于自校正原型网络的泥石流灾害易发性评价方法。以沟谷为评价单元,提取沟谷的DEM、高分一号和G... 详细信息

为解决泥石流易发性评价中因子选择不一致造成的评价差异问题,以及目前神经网络不能有效提取泥石流特征以提升易发性评价正确率问题,提出了基于自校正原型网络的泥石流灾害易发性评价方法。以沟谷为评价单元,提取沟谷的DEM、高分一号和Google Earth遥感影像作为训练数据,引入注意力机制和空洞空间卷积池化金字塔结构构建原型网络的特征提取器,并使用自校正的方法优化原型网络的计算,将未发生泥石流的沟谷图像输入改进后的模型,计算其泥石流灾害易发性指数从而得出泥石流评价等级。运用该模型对怒江州的沟谷进行评价,并与历史灾害数据进行对比。结果表明:模型分类正确率达到86.32%,评价结果中的易发区和高易发区均与历史泥石流沟谷的空间分布较为吻合;相比于传统评价方法,该方法能够较好地自动学习遥感影像中泥石流特征,并实现灾害区域的快速识别与评价。研究成果可为泥石流灾害的研究提供新的思路。

关键词：泥石流易发性评价原型网络小样本学习遥感影像怒江州