检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

参数共享在语音识别中的应用

清华大学学报（自然科学版） 2002年第10期42卷 1374-1376页

作者：郭锐朱小燕清华大学计算机科学与技术系智能技术与系统国家重点实验室北京100084

参数共享是基于隐 Markov模型 (hidden Markovmodel,HMM)的语音识别系统的参数训练中的一个关键性问题 ,因此在语音识别的诸多领域中都有重要的应用。对参数共享的作用及其使用的聚类算法进行了分析研究 ,在此基础上提出改进合并分级聚... 详细信息

参数共享是基于隐 Markov模型 (hidden Markovmodel,HMM)的语音识别系统的参数训练中的一个关键性问题 ,因此在语音识别的诸多领域中都有重要的应用。对参数共享的作用及其使用的聚类算法进行了分析研究 ,在此基础上提出改进合并分级聚类算法 ,并将其应用于 HMM的状态捆绑。实验表明 ,一个大规模词汇量的孤立词语音识别器采用 HMM的状态捆绑后 ,可以大大缩减识别过程的时空消耗。

关键词：语音识别隐Markov模型参数共享聚类算法状态捆绑参数训练

在线全文

学校读者我要写书评

暂无评论

参数共享模式下的实体和关系联合抽取研究

参数共享模式下的实体和关系联合抽取研究

作者：干家东北京邮电大学

学位级别：硕士

在日常生活中,大量的信息通过自然语言文本作为载体进行传递。人们使用信息抽取的方法从非结构化文本中获取重要信息,命名实体识别和关系抽取是基础的两个任务,分别用于实体和关系信息的获取。人们通过共享底层参数的联合方法,将两个任... 详细信息

在日常生活中,大量的信息通过自然语言文本作为载体进行传递。人们使用信息抽取的方法从非结构化文本中获取重要信息,命名实体识别和关系抽取是基础的两个任务,分别用于实体和关系信息的获取。人们通过共享底层参数的联合方法,将两个任务结合,在提升效率的基础上追求更高的性能。现有的联合抽取技术会产生冗余信息,增加模型计算的复杂度,对模型训练产生干扰。此外,命名实体识别作为其中一项任务,通过实际应用研究其技术要点,对推进联合抽取的发展具有重要意义。针对上述内容,本文主要的研究工作包括:设计了端到端的神经网络模型和标注体系进行实体和关系联合抽取。部分现有的联合模型通过使用一些自然语言处理工具获取句法和语法等特征信息,在模型训练过程中存在误差传播。而神经网络模型可以有效学习文本特征,避免了人工特征的限制。针对任务设计了动态记忆单元,可以动态地捕捉和存储输入文本中的关系信息,进行关系检测。同时可以利用存储的关系信息帮助进行命名实体识别,在实验中有效提升了模型性能。利用命名实体识别技术构建面向特定领域的文本自动化解析系统,比较不同编码器、解码器结构在试验中的性能,剖析命名实体识别的技术要点。

关键词：信息抽取实体和关系联合抽取参数共享动态记忆单元命名实体识别

面向边缘网络的联邦学习聚合算法和参数共享机制优化研究

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向边缘网络的联邦学习聚合算法和参数共享机制优化研究

作者：邱晨豪北京邮电大学

学位级别：硕士

随着边缘计算和物联网技术的快速发展,终端设备产生的数据量日趋庞大,赋能机器学习模型的性能提升,带来经济和社会效益的同时,也对个人数据的隐私保护提出了更大的挑战。联邦学习作为一类新型分布式机器学习范式,最早由谷歌提出并被用... 详细信息

随着边缘计算和物联网技术的快速发展,终端设备产生的数据量日趋庞大,赋能机器学习模型的性能提升,带来经济和社会效益的同时,也对个人数据的隐私保护提出了更大的挑战。联邦学习作为一类新型分布式机器学习范式,最早由谷歌提出并被用于解决传统集中式机器学习训练带来的隐私泄露和数据孤岛问题,整个训练过程中数据参与的计算工作(如本地模型更新)在本地进行,数据不出本地,在有效保证用户隐私的情况下使得大量设备协同训练机器学习模型变得可行。然而与传统分布式学习不同的是,在边缘网络场景下,联邦学习模型训练仍存在以下两类问题:1)联邦学习参与方通常是复杂多样的,可能存在恶意节点的参与影响模型优化。2)在边缘网络下不同参与方本地持有数据通常是非独立同分布的,目前主流的联邦平均(FedAvg)训练方法在此场景下仍面临训练速度低、收敛速度慢等问题。基于上述挑战,本文针对边缘网络场景下联邦学习存在的恶意节点参与和终端数据非独立同分布问题进行研究。首先,本文针对训练终端复杂带来的可靠性问题,在FedAvg的基础上提出了基于节点重要性聚合的联邦聚合优化算法(FedIM),在常用的联邦学习训练过程中添加重要性评估过程,评估算法分别采用了基于节点行为规则和基于独立近端策略优化算法(IPPO)的多智能体强化学习模型,降低非可靠节点提交的本地参数对于全局模型的影响,经过在MNIST数据集上的测试,研究了不同恶意节点参与情况对联邦学习训练任务的影响,仿真结果表明基于节点行为规则和基于IPPO的联邦学习聚合优化算法相比传统FedAvg聚合算法在模型训练效果和收敛速度上效果更优。其次,针对训练终端数据存在的非独立同分布(Non-IID)问题,本文提出了基于数据增强和基于局部异常因子检测(LOF)的参数共享机制,以适应Non-IID节点参与情况下的训练任务。在本地更新阶段,采用基于改进合成少样本类过采样(PSMOTE)的数据增强方法改善节点数据分布对本地更新的影响。在聚合阶段,通过对本地模型权重按照隐含层拆分特征向量并进行异常检测,以降低高散度终端参数对全局模型影响。实验结果表明,本文提出的方法相较于传统FedAvg的训练方法效果显著提升,能够更好的降低节点非独立同分布数据对全局模型优化的影响,并提升模型的训练效率。

关键词：联邦学习深度强化学习聚合算法优化参数共享

基于动态自选择参数共享的合作多智能体强化学习算法

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

智能科学与技术学报 2022年第1期4卷 75-83页

作者：王涵俞扬姜远计算机软件新技术国家重点实验室(南京大学) 江苏南京210023

在多智能体强化学习的研究中,参数共享作为学习过程中一种信息集中的方式,可以有效地缓解不稳定性导致的学习低效性。但是,在实际应用中智能体使用同样的策略往往会带来不利影响。为了解决此类过度共享的问题,提出了一种新的方法来赋予... 详细信息

在多智能体强化学习的研究中,参数共享作为学习过程中一种信息集中的方式,可以有效地缓解不稳定性导致的学习低效性。但是,在实际应用中智能体使用同样的策略往往会带来不利影响。为了解决此类过度共享的问题,提出了一种新的方法来赋予智能体自动识别可能受益于共享参数的智能体的能力,并且可以在学习过程中动态地选择共享参数的对象。具体来说,智能体需要将历史轨迹编码为可表示其潜在意图的隐信息,并通过与其余智能体隐信息的对比选择共享参数的对象。实验表明,提出的方法在多智能体系统中不仅可以提高参数共享的效率,同时保证了策略学习的质量。

关键词：多智能体系统强化学习参数共享

维普期刊数据库博看期刊

在线全文

学校读者我要写书评

暂无评论

分级监督范式指导下的遥感图像超分辨率方法

遥感学报 2024年第7期28卷 1746-1759页

作者：李明锴徐其志北京理工大学机电学院北京100081

超分辨率技术可提升遥感图像空间分辨率,为基于遥感图像的目标检测、场景分类等任务提供更加清晰的数据集,具有广泛的应用价值。然而,现有基于深度学习的超分辨率方法存在监督次数不足的问题,导致超分辨率重建图像中易出现细节损失和伪... 详细信息

超分辨率技术可提升遥感图像空间分辨率,为基于遥感图像的目标检测、场景分类等任务提供更加清晰的数据集,具有广泛的应用价值。然而,现有基于深度学习的超分辨率方法存在监督次数不足的问题,导致超分辨率重建图像中易出现细节损失和伪细节。针对这一问题,本文提出基于分级监督的遥感图像超分辨率方法(MSSR)。首先,提出了一个分级监督网络架构,通过引入多级真值图像作为监督,为超分辨率过程提供充足的图像细节恢复指引,进而减少超分辨率结果中细节损失和伪细节的出现。其次,为了便于构建级数可变、超分辨率倍数可变的分级监督网络,设计了一个轻量化的、超分辨率倍数可灵活调整的同构超分辨率模块(BSRC)。各级BSRC的网络结构基本相同,便于迁移网络权重,缩短训练时间。最后,针对分级网络超分辨率倍数一定时,网络级数及各级分辨率倍数有多种组合方式的问题,对比多种分级方式下的超分辨率结果,给出最佳网络分级方式。此外,构建了一个包含世界各地复杂细节地面场景的遥感图像数据集(RSSRD)。在该数据集和UCMerced、AID两个公开数据集上进行超分辨率实验,实验结果显示本文方法优于现有常用超分辨率方法。

关键词：遥感图像深度学习分级监督超分辨率多尺度特征提取渐进式网络参数共享迁移学习

基于ViT-CNN混合网络的合成孔径雷达图像船舶分类

在线全文

学校读者我要写书评

暂无评论

哈尔滨工程大学学报 2024年第8期45卷 1616-1623页

作者：邵然毕晓君哈尔滨工程大学信息与通信工程学院黑龙江哈尔滨150001 哈尔滨职业技术学院电子与信息工程学院黑龙江哈尔滨150001 中央民族大学民族语言智能分析与安全治理教育部重点实验室北京100081 中央民族大学信息工程学院北京100081

为了解决视觉转换器模型缺乏多尺度与局部特征捕获能力,难以适应合成孔径雷达图像船舶分类任务的问题,本文提出一种混合网络模型用于合成孔径雷达图像船舶分类。利用分阶段下采样网络结构,解决了ViT无法捕获多尺度特征的问题。通过在Vi... 详细信息

为了解决视觉转换器模型缺乏多尺度与局部特征捕获能力,难以适应合成孔径雷达图像船舶分类任务的问题,本文提出一种混合网络模型用于合成孔径雷达图像船舶分类。利用分阶段下采样网络结构,解决了ViT无法捕获多尺度特征的问题。通过在ViT模型的3个核心模块中融入卷积结构,设计了卷积标记嵌入、卷积参数共享注意力和局部前馈网络3个模块,使得网络能够同时捕获船舶图像的全局和局部特征,进一步增强了网络归纳偏置和特征提取能力。研究表明:本文所提模型在OpenSARShip和FUSAR-Ship2个通用合成孔径雷达船舶图像数据集上,分类准确率较最优方法分别提高了2.96%和4.18%,有效地提升了合成孔径雷达图像船舶分类性能。

关键词：视觉转换器卷积神经网络 SAR图像深度学习参数共享局部特征全局特征船舶图像

基于ViT-CNN混合网络的SAR图像船舶分类

同方期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

哈尔滨工程大学学报 2024年

作者：邵然毕晓君中央民族大学信息工程学院哈尔滨职业技术学院电子与信息工程学院哈尔滨工程大学信息与通信工程学院

视觉转换器模型在图像分类领域取得了显著突破，然而，由于其缺乏多尺度与局部特征捕获能力，难以适应合成孔径雷达图像船舶分类任务。为此，本文提出一种混合网络模型用于SAR图像船舶分类。设计一种分阶段下采样网络结构，解决了ViT无... 详细信息

视觉转换器模型在图像分类领域取得了显著突破，然而，由于其缺乏多尺度与局部特征捕获能力，难以适应合成孔径雷达图像船舶分类任务。为此，本文提出一种混合网络模型用于SAR图像船舶分类。设计一种分阶段下采样网络结构，解决了ViT无法捕获多尺度特征的问题。通过在ViT模型的3个核心模块中融入卷积结构，设计了卷积标记嵌入、卷积参数共享注意力和局部前馈网络3个模块，使得网络能够同时捕获船舶图像的全局和局部特征，进一步增强了网络归纳偏置和特征提取能力。研究表明：本文所提模型在OpenSARShip和FUSAR-Ship2个通用SAR船舶图像数据集上，分类准确率优于现有主流方法，有效地提升了SAR图像船舶分类性能。

关键词：视觉转换器卷积神经网络 SAR图像深度学习参数共享局部特征全局特征船舶图像

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于可逆神经网络的多载体图像隐写模型

计算机工程 2024年

作者：卞玉星黄荣周树波刘浩东华大学信息科学与技术学院东华大学数字化纺织服装技术教育部工程研究中心

图像隐写是指将秘密图像隐藏到载体图像中，生成含密图像并在公共信道中传输，通常包括秘密图像的嵌入和提取两个过程。现有多载体图像隐写方法将秘密图像的嵌入过程拆分为编码和叠加两步，将秘密图像编码为含密扰动，通过空域操作将含... 详细信息

图像隐写是指将秘密图像隐藏到载体图像中，生成含密图像并在公共信道中传输，通常包括秘密图像的嵌入和提取两个过程。现有多载体图像隐写方法将秘密图像的嵌入过程拆分为编码和叠加两步，将秘密图像编码为含密扰动，通过空域操作将含密扰动与多张载体图像叠加，实现了在多张载体图像中嵌入秘密图像。这种方法的嵌入和提取两个互逆过程分别由两个相互独立的网络实现，无法共享参数，这导致计算资源消耗大、训练参数多。为解决这个问题，提出了一种基于可逆神经网络的多载体图像隐写模型，它将嵌入和提取过程分别与可逆神经网络的正向和逆向映射相关联，实现了参数共享，有效减少了网络参数量。此外，现有的模型缺乏对秘密图像重要内容级区域的重要性度量方法。针对此问题，在可逆神经网络输入端引入了空域注意力模块，以提高编码质量，关注秘密图像中的关键区域，从而提升隐写效果。同时，为多用户配给基于密钥的身份信息矩阵，建立了身份核验机制，防止攻击者非法获取秘密图像。实验表明，该方法实现了较好的隐写效果，含密图像和提取出的秘密图像的峰值信噪比优于基线模型8.5dB～9.4dB，结构相似度优于基线模型0.012～0.019、学习感知图像块相似度优于基线模型0.0029～0.0047，参数量仅为基线模型的17.6%。

关键词：可逆神经网络多载体图像隐写身份核验机制空域注意力模块参数共享

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

一种改进的超分辨率轻量化特征融合方法

计算机工程 2024年

作者：李志鹏陈丹阳钟诚广西高校并行分布式计算技术重点实验室广西大学计算机与电子信息学院

图像超分辨率技术可以通过提高图像的分辨率有效提升图片的质量和视频的观看体验。然而小型嵌入式设备却因为硬件资源受限的原因难以运行常规模型。为了缓解这一问题，减少模型的参数以及加快模型运算速度，提出一种改进的超分辨率轻量... 详细信息

图像超分辨率技术可以通过提高图像的分辨率有效提升图片的质量和视频的观看体验。然而小型嵌入式设备却因为硬件资源受限的原因难以运行常规模型。为了缓解这一问题，减少模型的参数以及加快模型运算速度，提出一种改进的超分辨率轻量化特征融合方法ILFM。在该模型中创新性地提出结构间部分参数共享模块，使得在参数量基本不变的情况下增强模块的表达能力进而增强模型输出图像质量，还提出一种更加轻量的可分离编解码基本模块。值得一提的是，模型中双层网络结构和改进的参数共享方法被设计为一个统一结构。除此之外，模型采用通道叠加的图像预处理方式来提取更多的图像特征。模型在DIV2K和Flickr2K数据集上进行训练，在Set5，BSDS100等多个基准数据集上进行测试，实验结果表明，相较于基准模型IMDN，ILFM在超分系数为×2和×4且更高的输出图片质量的情况下分别降低了67%和61%的参数量。对比当前最优的轻量化超分变率模型能够在多个数据集的PSNR和SSIM上取得平均0.04378 dB和0.0013的增长。比较各模型的参数量、计算速度和输出图片质量，ILFM能够取得更好的综合性能。

关键词：图像超分辨率轻量化卷积参数共享编码解码