检索结果-南通市图书馆

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

深度神经网络解释与语义特征提取

深度神经网络解释与语义特征提取

作者：周来平上海交通大学

学位级别：硕士

深度神经网络技术在近年内发展迅速,在诸多认知相关问题(如图像识别,语音识别,自然语言理解等)上达到接近人类的精度,已被广泛投入实际应用中。然而神经网络的理论基础,却尚未有公认的解释,仍然是一个悬而未决的难题。本文从消除语义鸿... 详细信息

深度神经网络技术在近年内发展迅速,在诸多认知相关问题(如图像识别,语音识别,自然语言理解等)上达到接近人类的精度,已被广泛投入实际应用中。然而神经网络的理论基础,却尚未有公认的解释,仍然是一个悬而未决的难题。本文从消除语义鸿沟这一思路展开此命题,首先介绍了多种常用的神经网络解释算法,完善理论基础。随后对传统及深度特征提取方法进行了阐述,揭示了它们在语义信息表现方面的不足。基于这些问题,我们将神经网络解释应用在语义特征提取上,以提高特征的语义表征能力,进而提高检索系统的性能,并增强其可交互性与可解释性。在神经网络解释部分,我们说明了消除语义鸿沟是神经网络理解的最终目标,也是其本质所在。并从消除语义鸿沟和神经网络解释两个角度提出了解决问题的方法路线。依照方法路线,我们提出了一种新的算法ICL-CNN,将神经网络各层的卷积类比成稀疏编码,将显著性算法施加在神经网络的各个卷积层中,结合了CNN与ICL的优势,合并成物体级别的显著性图。在此基础上,我们用统计方法引入了物体的概念作为显著性的条件,从而结合了自顶向下显著性检测的优势。我们用此方法揭示深度网络各个层次或整体的处理过程。在语义特征提取部分,我们将神经网络解释算法应用到特征提取中,将当前先进的CNN特征提取流程和类别响应图(Class Activation Mapping,CAM)方法融合在一起,使得在单次CNN前向运算中就能够提取出更具有语义特性的深度图像特征。我们在100,000张服装图像的规模下,运用以上方法搭建服装检索系统,相比当前最优算法有一定性能提升。除此以外,语义信息的引入增强了系统的可交互性与可解释性,使得用户可以改变各个属性的特征权重,甚至可以将其他服装的部件特征替换到待检索图像上来,从而增加了用户检索的自定义化程度,增强了系统的互动特性。作为深度神经网络解释算法的介绍,拓展与应用,这项工作的主要贡献是搭建理论基础,挖掘神经网络的非端到端功能,对神经网络模型发展,和垂直方向应用都具有一定帮助。

关键词：深度神经网络神经网络解释语义特征提取

基于自动编码器的句子语义特征提取及相似度计算

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

郑州大学学报（理学版） 2018年第2期50卷 86-91页

作者：马建红杨浩姚爽河北工业大学计算机科学与软件学院天津300401

句子特征提取与相似度计算是自然语言处理中的重要问题.目前汉语句子相似度计算方法不能全面考虑句子语义,因而导致相似度计算结果不够准确.提出了基于深层稀疏自动编码器的句子语义特征提取及相似度计算算法.首先将句子表示为高维、稀... 详细信息

句子特征提取与相似度计算是自然语言处理中的重要问题.目前汉语句子相似度计算方法不能全面考虑句子语义,因而导致相似度计算结果不够准确.提出了基于深层稀疏自动编码器的句子语义特征提取及相似度计算算法.首先将句子表示为高维、稀疏向量,进一步利用深度无监督学习句子非线性特征,即将高维、稀疏向量变换到低维、本质特征空间,此过程是一种更为纯粹的端到端的学习,避免了建立停用词表、分词等工作,最终得到可直接用于句子相似度计算的低维特征表示.实验结果表明,提取到的句子特征应用于句子相似度计算,与基于关系向量模型的句子相似度计算方法相比,提高了相似度计算准确率,计算的时间复杂度仅为O(n).

关键词：自动编码器无监督特征学习语义特征提取相似度计算

在线全文

学校读者我要写书评

暂无评论

基于图正则算法的语义特征提取与翻译的研究

电子测量技术 2020年第8期43卷 91-95页

作者：袁勤黄家海恩施职业技术学院恩施44500

针对传统英语翻译系统进行英语翻译过程中英语语义、语境不明显,最优特征语义选定过程中没有达到最优翻译解,且无法准确识别更高级别和更复杂层次结构信息的问题,本文设计了基于图正则非负矩阵分解算法(GNMF)的语义特征提取与翻译系统。... 详细信息

针对传统英语翻译系统进行英语翻译过程中英语语义、语境不明显,最优特征语义选定过程中没有达到最优翻译解,且无法准确识别更高级别和更复杂层次结构信息的问题,本文设计了基于图正则非负矩阵分解算法(GNMF)的语义特征提取与翻译系统。GNMF能够实现在非负约束条件下构建最近邻几何图结构,挖掘数据内部结构所隐藏的数据信息,实现对语言特征的准确提取和翻译。此外,为了证明该方法的有效性,我们采用了包括英国广播公司(BBC)在内的三家国际知名新闻单位的开放数据集来评估GNMF的聚类性能和准确性。实验结果表明,本文所设计系统的在准确度和规范化互信息两方面的表现明显高于现有算法,且运行稳定。

关键词：图正则非负矩阵分解图结构语义特征提取

在线全文

学校读者我要写书评

暂无评论

一种无人机视觉位姿估计的语义特征匹配算法

航空学报 2024年

作者：赵辰豪吴德伟何晶吴倩空军工程大学信息与导航学院

传统视觉特征匹配算法提取的特征点易受光照、视角变化等外界因素的影响，复杂环境下算法匹配精度低、鲁棒性差，导致无人机视觉定位误差大。针对上述问题，本文提出了一种融合多类信息的语义特征匹配算法，该算法采用语义特征点替代传... 详细信息

传统视觉特征匹配算法提取的特征点易受光照、视角变化等外界因素的影响，复杂环境下算法匹配精度低、鲁棒性差，导致无人机视觉定位误差大。针对上述问题，本文提出了一种融合多类信息的语义特征匹配算法，该算法采用语义特征点替代传统特征点以提高特征点的鲁棒性与可重复提取率。首先，采用位置信息、语义信息以及描述信息建立特征点的初始表征；随后，利用具有注意力机制的图神经网络聚合其他语义特征点信息，建立最终表征，以优化表征结果的精确性；最后，根据语义信息与表征信息计算特征点对的综合匹配度，提高特征匹配的准确率。实验结果表明：在无人机飞行场景下，本文所提算法特征点的稳健性、特征匹配准确性均优于传统算法，且对光照、大视角等变化具有较强的鲁棒性，为后端无人机视觉导航位姿解算提供了更加可靠精准的语义特征匹配结果。

关键词：路标检测语义特征提取语义特征匹配图神经网络注意力机制

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

面向金融文本的实体关系抽取方法

计算机工程与设计 2023年第11期44卷 3345-3351页

作者：王欢王兴芬吕金娜北京信息科技大学信息管理学院北京100192 北京信息科技大学商务大数据分析研究中心北京100192

针对金融文本语义特征难以准确提取的问题,提出一种面向金融文本的实体关系抽取方法。使用预训练模型FinBERT对输入金融文本进行字、词粒度特征提取;在编码层引入时序格子网络将词粒度特征动态融合到字粒度特征中;采用字级别注意力机制... 详细信息

针对金融文本语义特征难以准确提取的问题,提出一种面向金融文本的实体关系抽取方法。使用预训练模型FinBERT对输入金融文本进行字、词粒度特征提取;在编码层引入时序格子网络将词粒度特征动态融合到字粒度特征中;采用字级别注意力机制合并所有字粒度特征,获取更准确的句子表示,进行关系分类。实验结果表明,该方法在金融文本数据集上F 1值达到91.8%,较目前主流方法效果更好。

关键词：关系抽取语义特征提取金融文本时序格子网络特征动态融合注意力机制关系分类

基于深度学习的多尺度融合跨模态检索方法研究

在线全文

学校读者我要写书评

暂无评论

基于深度学习的多尺度融合跨模态检索方法研究

作者：赵凯强天津理工大学

学位级别：硕士

近年来随着各种形式数据的爆炸增长,如何对多模态数据建立语义上的关联以便更好的管理海量数据成为了深度学习研究的热点。跨模态检索在图像文本检索、草图搜索、配方检索等领域都有应用。本文从公共空间学习和关联学习两个角度研究跨... 详细信息

近年来随着各种形式数据的爆炸增长,如何对多模态数据建立语义上的关联以便更好的管理海量数据成为了深度学习研究的热点。跨模态检索在图像文本检索、草图搜索、配方检索等领域都有应用。本文从公共空间学习和关联学习两个角度研究跨模态检索,完成了如下工作:(1)本文提出了一种双尺度融合的多语义相似性度量方法(DSRF,Doublescale Similarity with Rich Features),将类别标签的相似性与包含物体相似性融合,综合考虑多模态数据的相似性。现有的大多数方法都是通过类别标签和配对关系将不同模态的数据映射到一个共同的空间中,然而忽略了多模态数据中包含的其他鉴别信息。与查询样本属于同一类别但含有较少相同对象的结果应当给与适当的惩罚,而正确结果(具有相同标签且含有许多相同对象)则会给与更多的奖励。此外,本文设计了一种新的语义特征提取框。创建多个注意力图给局部特征分配不同的权重并获得多个的语义特征。区别于其他将多个语义表征进行累加平均化的工作,本文使用只带有遗忘门的LSTM(Long Short Term Memory)来消除冗余信息。具体来说,为每个语义表征生成遗忘因子,不合理的语义信息将会分配较大的遗忘因子。本文的方法在MSCOCO上进行了对比实验显著提高了m AP和R@K的得分。(2)本文从关联学习的角度提出了一种多尺度对齐的跨模态检索方法(MACMR,Multi-scale Alignment for Cross-media Retrieval),从全局、局部对象、动作位置关系三个层面的融合对齐衡量多模态数据的相关性。现有的工作大多集中于全局层面或局部层面的信息对齐,这些方法忽略了局部显著区域之间关系(位置动作)信息。本文在全局和局部层面对齐的基础上加入了关系层面的对齐。具体来说,构建了跨模态多路径网络分别从全局、局部、关系三个层面提取相关信息。根据目标检测获取对象区域,将对象之间的交叉区域作为关系区域,将对象区域和关系区域与文本数据中对应的描述词进行对齐。其次本文通过联合注意机制去除掉不能匹配的图像区域和文本关键字,通过三个尺度的自适应对齐图像和文本数据,实现更好的图像文本跨模态检索。在MSCOCO数据集进行了广泛的对比实验,显著的提高了R@K得分。

关键词：公共空间关联学习跨模态检索多尺度融合语义特征提取

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向句子分类的深度渗透网络研究

面向句子分类的深度渗透网络研究

作者：钟新洋贵州大学

学位级别：硕士

句子分类是自然语言处理中的基本任务。通过句子分类可以有效支撑情感分类、关系抽取、新闻主题分类等任务。现有句子分类模型采用深度神经网络自动从原始句子中抽取抽象语义特征。在卷积神经网络中,每个输出对应全部输入的抽象表示,输... 详细信息

句子分类是自然语言处理中的基本任务。通过句子分类可以有效支撑情感分类、关系抽取、新闻主题分类等任务。现有句子分类模型采用深度神经网络自动从原始句子中抽取抽象语义特征。在卷积神经网络中,每个输出对应全部输入的抽象表示,输入句子中的某些单词具有更强的分类特征,然而经过卷积操作后容易混淆其它单词的抽象表示,从而弱化单词的分类效果。另外,在深度神经网络中,通过叠加多层神经网络,一方面可以获取句子的高阶语义;另一方面,由于梯度消失的问题,深层次的结构反而会导致性能的下降。为了解决上述问题,本文设计了一种深度渗透网络结构。该模型能使显著特征在更深层的网络结构中传递,并构建较长的语义依赖关系,保留有用的语义特征,从而更好的获取到句子中的高阶语义特征,提升句子分类的性能。本文的主要工作如下:(1)基于上采样的深度渗透网络研究。针对神经网络中深层结构导致的高阶语义特征弱化问题,本文提出了一种基于上采样的深度渗透网络。该网络在卷积操作之前利用上采样强化文本的语义特征,使显著特征能够在深层结构中逐层渗透,并在高层网络中构建显著特征之间的语义依赖关系。渗透网络能有效提取出句子中的高阶语义信息,解决句子分类中由于深层神经网络导致的语义消失。通过实验验证,深度渗透网络的语义特征保持能力以及语义依赖构建能力相较于传统方法都有显著提升。(2)基于深度渗透网络的句子分类模型。在深度渗透网络的基础上,我们设计实现了一个具有两个通道的深度神经网络模型。该模型借鉴了金字塔模型的思想,能够有效利用网络中不同深度的特征,学习句子中不同粒度的语义特征以支持句子分类任务。通过在新闻文本分类、情感分类、关系识别等多个任务上进行验证,该模型在多个任务中均取得了优于其他模型的表现。通过实验分析表明,随着结构的深化,深度渗透网络具有稳定的性能。它在句子分类方面取得了更好的性能,在相关的工作中取得了较好的效果。

关键词：句子分类自然语言处理卷积神经网络语义特征提取

基于深度特征提取的个性化高考志愿推荐系统研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于深度特征提取的个性化高考志愿推荐系统研究

作者：宋小烜西北大学

学位级别：硕士

高考志愿填报是高考中的重要环节,对考生和家长而言意义深远。然而面对复杂多样的院校和专业信息,考生和家长很难在短时间内做出最符合自身需求的选择。个性化推荐能够根据用户特征和偏好推荐感兴趣的信息,已经在在线教育、专家筛选等... 详细信息

高考志愿填报是高考中的重要环节,对考生和家长而言意义深远。然而面对复杂多样的院校和专业信息,考生和家长很难在短时间内做出最符合自身需求的选择。个性化推荐能够根据用户特征和偏好推荐感兴趣的信息,已经在在线教育、专家筛选等教学科研领域得到成功的应用。针对高考志愿填报,本文进行了个性化高考志愿推荐系统研究,结合个人工作内容和多年从事高考招录工作的工作经验,构造高考志愿推荐文本,利用改进的卷积神经网络对文本进行特征提取,对其进行针对性优化,并设计了原型系统及展示,本文的主要工作如下:（1）针对当前高考志愿推荐网站系统仅进行关键词检索,无法理解语义特征进行个性化推荐的现状和问题,本文获取了官方及各大平台的院校信息和教育部院校专业学科评估数据,构建了高考志愿推荐文本以训练词向量。采用改进后的卷积神经网络进行语义特征提取,改善了当前主流网站和系统仅对关键词进行检索而缺乏语义信息的问题,利用该方法训练提取的特征具备更强的语义性和表征能力。（2）针对考生和家长对院校及专业了解较少,所提专业意向偏口语化生活化的问题,本文在提取语义特征的基础上进行了针对性的改进,使用基于内容的推荐算法和融合余弦相似度与共有词的方法对个性化程度以及综合权重进行了综合优化设计,使得个性化推荐效果更完备。最后,本文就所提出优化后的方法,进行了基于特征提取的个性化高考志愿系统研究设计。综上所述,本文针对高考志愿个性化推荐,构建了较为完整的高考志愿文本,设计了基于卷积神经网络的智能算法进行语义特征提取,并进行了针对性的优化,最后,本文进行了对应的个性化高考志愿推荐系统设计和展示。

关键词：高考志愿填报个性化推荐算法卷积神经网络文本相关性语义特征提取

一种融合本体与条件随机场的视频语义提取方法

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

武汉大学学报（理学版） 2020年第3期66卷 268-276页

作者：钟忺黄文心卢炎生刘文璇袁景凌武汉理工大学计算机科学与技术学院湖北武汉430070 武汉理工大学交通物联网技术湖北省重点实验室湖北武汉430070 华中科技大学计算机科学与技术学院湖北武汉430074 武汉大学计算机学院湖北武汉430072

从时空角度结合条件随机场模型及本体概念,提出了一种视频语义特征提取方法,其中包括视频低层特征模型参数估计(model parameter estimation,MPE)算法和高层对象语义模型更新(model update,MU)算法。该方法可以实现视频语义概念本体的... 详细信息

从时空角度结合条件随机场模型及本体概念,提出了一种视频语义特征提取方法,其中包括视频低层特征模型参数估计(model parameter estimation,MPE)算法和高层对象语义模型更新(model update,MU)算法。该方法可以实现视频语义概念本体的自动提取和标注,为语义特征提取及分析提供支持。实验结果表明,该方法提升了视频语义特征提取的精确率和召回率。

关键词：语义特征提取视频语义分析模型参数估计模型更新条件随机场