检索结果-南通市图书馆

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

面向深度半监督学习的伪标签生成算法研究

面向深度半监督学习的伪标签生成算法研究

作者：沈斯娴哈尔滨工业大学

学位级别：硕士

目前,深度学习广泛用于各领域并取得了优异表现,但是这往往需要大量标注数据的支持。大量标注数据的获取意味着高昂的成本与苛刻的应用条件。因此,随着深度学习的发展,如何在实际场景下突破数据限制,成为目前重要的研究目标,而半监督学... 详细信息

目前,深度学习广泛用于各领域并取得了优异表现,但是这往往需要大量标注数据的支持。大量标注数据的获取意味着高昂的成本与苛刻的应用条件。因此,随着深度学习的发展,如何在实际场景下突破数据限制,成为目前重要的研究目标,而半监督学习正是其中一大研究方向,它通过利用大量的未标记数据辅助少量的标记数据进行学习,很好地减轻了深度学习的数据需求压力。伪标签生成方法是当前半监督学习的重要组成部分。所生成的伪标签质量的优劣会很大程度影响半监督学习的最终效果。而本文正是聚焦半监督学习中的伪标签生成方法,针对一般场景设置下的半监督学习以及具有极少标签量情况下的半监督学习场景,提出优质伪标签的生成方法。首先,针对一般半监督学习问题,本文提出了基于最优传输理论的伪标签生成方法。当前的半监督学习的伪标签生成方法多仅考虑模型输出结果且多忽略生成标签的类别分布问题,因此本文考虑在模型输出结果的基础上,引入有标记数据进行辅助并增加类别均衡约束。本文基于最优传输理论在上述约束条件下的标签生成问题统一成一个线性优化问题,通过求解该优化问题得到最终的伪标签。在求解该优化问题过程中,本文引入Sinkhorn-Knopp算法进行近似快速求解,避免了不可计算问题。当然,本文也给出了基于该标签生成方法的完整半监督学习过程。除此之外,本文根据半监督数据设置,在CIFAR-10、SVHN等经典的图像分类数据集上进行实验,验证了该方法的有效性。其次,针对稀疏半监督学习问题,即半监督学习数据中有标记数据量极少的情况,本文提出了基于泊松正则的伪标签生成方法。为解决在该极端情况下,当前大部分半监督学习算法的训练效果会大幅下降的问题,首先,本文在有限标签数据量的情况下,更加充分地挖掘已有信息,提出在利用模型输出结果的基础上,引入语义信息引导伪标签生成。在分析了利用拉普拉斯正则进行语义信息引入在标签量过少情况下的问题后,引入泊松正则项进行替代,结合泊松正则与模型输出结果约束得到了适应极少标签场景的半监督学习优化式。最后,本文使用经典的图像分类数据集并随机挑选极少数据作为有标记数据构成了模型训练数据集,在对比当前其他半监督方法的情况下,有效验证了本文所提出的基于泊松正则的标签生成方法的有效性。

关键词：半监督学习伪标签生成最优传输图学习图像分类

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于伪标签生成策略的半监督立场检测

基于伪标签生成策略的半监督立场检测

作者：高肇泽重庆理工大学

学位级别：硕士

随着自然语言处理技术的快速发展,关于社交平台上文本的研究也越来越受到国内外研究人员的关注。立场检测是研究社交平台文本挖掘的重要方向。社交媒体被视为现代社会情绪状态的晴雨表。数十亿社交媒体用户在推特、Facebook或微博中表... 详细信息

随着自然语言处理技术的快速发展,关于社交平台上文本的研究也越来越受到国内外研究人员的关注。立场检测是研究社交平台文本挖掘的重要方向。社交媒体被视为现代社会情绪状态的晴雨表。数十亿社交媒体用户在推特、Facebook或微博中表达了他们对事件、社会问题和政党的立场。立场检测作为新兴的研究方向,在社交平台上有很多应用,如舆情分析、观点调研、虚假新闻检测和恶意言语检测。由于数据标注成本高昂,本文专注于探讨以文本为基础的半监督立场检测任务。基于有标签数据量稀少,大部分数据为无标签数据,构建了两种基于伪标签生成策略的半监督立场检测模型,并进行了大量实验验证所提模型的有效性,本文研究内容如下:生成伪标签是半监督立场检测的一种有效策略。以往工作SANDS利用同质性网络来改变半监督立场检测的方式,并达到了很好的效果。然而,该方法没有对伪标签质量进行区分,同时要求数据集存在跟随者与被跟随者图,模型的泛化性低。为了解决上述问题,本文提出了一个基于伪标签增强的协同训练的半监督立场检测模型(SDCA)。首先,本研究使用有标签推文对两种不同的分类模型进行预训练。这两个模型随后独立预测无标签数据,生成两组伪标签及其概率分布。接下来,通过比较两个模型生成的伪标签,如果一致,则认为这些伪标签的质量较高,只保留这部分数据。最后,根据伪标签的质量,对数据进行排序,选取质量最高的前k个推文作为下一轮训练的输入。剩余较高质量带伪标签的推文继续优化分类模型。在两个公开数据集上进行充分实验,实验结果表明,提出的方法显著优于最优基线。在现实应用中,生成的伪标签质量存在差异,然而现有的工作将生成伪标签的质量视为是同等的;此外,现有的工作没有充分考虑类别不平衡对伪标签生成质量的影响。为了解决上述两个问题,提出基于类别感知课程学习的半监督立场检测模型(SDCL)。首先,使用预训练分类模型对无标签推文生成伪标签;其次,根据伪标签质量高低对推文按类别排序,并选取每个类别前k个高质量推文;最后,将各个类别选出的推文进行合并后重新排序,排序后带有伪标签的推文再输入分类模型,进一步优化模型参数。实验结果表明,与基线模型中表现最好的SANDS相比,所提模型在3种不同划分(500、1000、1500)情况下,Stance US数据集Mac-F1分别提高了1.5、1.1和2.6个百分点,Stance IN数据集Mac-F1分别提高了1.2、1.1和1.3个百分点,实验结果验证了所提模型的有效性。

关键词：半监督立场检测协同训练伪标签生成课程学习

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

视频场景边界伪标签生成与自监督检测研究

视频场景边界伪标签生成与自监督检测研究

作者：杨平安重庆大学

学位级别：硕士

随着视频处理技术的发展,如何快速、准确地分析和理解海量长视频成为计算机视觉领域近期的研究热点之一。其中,长视频的时序结构分析与场景边界检测是许多长视频理解任务的基础上游任务。然而,电影和电视剧集等长视频往往具有复杂的情节... 详细信息

随着视频处理技术的发展,如何快速、准确地分析和理解海量长视频成为计算机视觉领域近期的研究热点之一。其中,长视频的时序结构分析与场景边界检测是许多长视频理解任务的基础上游任务。然而,电影和电视剧集等长视频往往具有复杂的情节,这使得建模镜头间关系面临挑战。此外,大量标注视频场景边界是耗时费力的,使得视频场景边界检测任务存在标注量受限的挑战。因此,如何从大量无标注的视频数据中挖掘镜头间关系以提升检测效果是目前视频场景边界检测任务的一大研究难点。本文以设计伪边界生成算法为切入点,研究基于伪标签生成的自监督视频场景边界检测方法。先分析并探讨镜头间可能存在的语义关系并设计伪边界生成算法,再以伪边界预测为代理任务训练视频场景边界检测模型,然后通过实验验证这些镜头间关系对视频场景边界检测任务的重要性。本文的主要工作包括两个部分:(1)设计语义转变检测算法作为伪边界生成算法,并基于该算法提出自监督视频场景边界检测方法。语义转变检测算法以场景间语义的强不一致性关系和场景内镜头间语义的弱不一致性关系为理论基础,为无标注的视频数据赋予伪标签,从而支撑视频场景边界检测模型的预训练过程。在微调时引入镜头时长信息,帮助模型进一步理解每个镜头在场景中的作用。实验结果表明语义转变检测算法生成的伪标签更准确,使模型获得明显的性能提升。该结果也验证了场景间语义的强不一致性关系和场景内镜头间语义的弱不一致性关系在视频场景边界检测任务中扮演重要角色。(2)设计视频场景蒙太奇算法作为伪边界生成算法,支撑视频场景边界检测模型的预训练。视频场景蒙太奇算法通过模拟真实视频场景之间的语义关系来生成大量可靠的伪标签。该算法不仅模拟了场景间语义的强不一致性关系和场景内镜头间语义的弱不一致性关系,还考虑了场景间语义的弱一致性关系和场景内镜头间语义的强一致性关系。此外,为了方便镜头间关系建模,该方法还将每个镜头的视觉语义解耦为前景和背景以提供更丰富的视觉表征。实验表明视频场景蒙太奇算法训练的模型能高效建模镜头间关系并大幅超越其他先进模型,从而完整地验证了镜头间语义关系在视频场景边界检测任务中起到的重要作用。

关键词：深度学习长视频理解视频场景边界检测自监督学习伪标签生成

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于类别感知课程学习的半监督立场检测

计算机应用 2024年第10期44卷 3281-3287页

作者：高肇泽朱小飞项能强重庆理工大学计算机科学与工程学院重庆400054

生成伪标签是半监督立场检测的一种有效策略。在现实应用中,生成的伪标签质量存在差异,然而现有的工作将生成伪标签的质量视为是同等的,且没有充分考虑类别不平衡对伪标签生成质量的影响。为了解决上述2个问题,提出基于类别感知课程学... 详细信息

生成伪标签是半监督立场检测的一种有效策略。在现实应用中,生成的伪标签质量存在差异,然而现有的工作将生成伪标签的质量视为是同等的,且没有充分考虑类别不平衡对伪标签生成质量的影响。为了解决上述2个问题,提出基于类别感知课程学习的半监督立场检测模型(SDCL)。首先,使用预训练分类模型对无标签推文生成伪标签;其次,根据伪标签质量的高低对推文按类别排序,并选取每个类别前k个高质量推文;最后,将各个类别选出的推文合并后重新排序,并把排序后带有伪标签的推文再输入分类模型,从而进一步优化模型参数。实验结果表明,与基线模型中表现最好的SANDS(Stance Analysis via Network Distant Supervision)相比,所提模型在3种不同划分(有标签推文总数为500、1000和1500)情况下,在StanceUS数据集上的宏平均(Mac-F1)分数分别提高了2、1和3个百分点,在StanceIN数据集上的Mac-F1分数均提高了1个百分点,验证了所提模型的有效性。

关键词：半监督立场检测类别不平衡课程学习伪标签生成

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

基于可迭代学习的弱监督语义分割研究

基于可迭代学习的弱监督语义分割研究

作者：谢超豪哈尔滨工业大学

学位级别：硕士

随着深度学习模型的不断推陈出新以及并行计算能力的不断提升,基于深度神经网络的图像语义分割方法取得了巨大的进步,分割性能得到了极大的提升。然而,这些方法都需要大量有标注的像素级别图像分割标签,耗费大量的人力资源来进行这样逐... 详细信息

随着深度学习模型的不断推陈出新以及并行计算能力的不断提升,基于深度神经网络的图像语义分割方法取得了巨大的进步,分割性能得到了极大的提升。然而,这些方法都需要大量有标注的像素级别图像分割标签,耗费大量的人力资源来进行这样逐个像素标签的标注工作。因此,设计良好的弱监督语义分割方法,使用边界框标签或者图像类别标签,是缓解这个问题非常重要的手段。近年来,针对弱监督标签的如边界框标签设计的语义分割方法,往往都采用了一些人为设定的方法如MCG或者Dense CRF方法生成伪标签,然后用这些伪标签来训练语义分割网络。然而,这些方法并没有专门针对这些弱标签生成足够准确的伪标签,也往往无法迭代式地结合分割网络逐步提升分割性能。因此,弱监督语义分割仍然有很大进步空间。在本文中,我们针对弱监督语义分割任务提出一种可迭代学习的伪标签生成框架,提出了基于EM算法的两层优化训练架构,其中上层优化函数用来优化伪标签生成网络,底层优化函数用来优化语义分割网络。我们使用一部分有像素级别标签的辅助数据集来迭代训练一组类别无关的伪标签生成网络,目的是为了将语义分割网络经过弱标签学到的粗糙分割预测结果映射到一个较为准确的物体轮廓伪标签,然后再使用这个伪标签重新训练分割网路,进一步提升其分割性能。一旦伪标签生成网络训练完成,伪标签生成网络即可应用在新的只有边界框或者图像类别标签的数据集上,迭代的为语义分割网络提供更好的伪标签,从而提供分割性能的增强。本文针对基于边界框标签和基于图像类别弱标签的语义分割任务,都提出了对应的可迭代学习的伪标签生成网络结构,进行了实验验证。在边界框弱监督语义分割任务中,相比于传统方法利用人为设计的算法而生成的伪标签,我们的伪标签生成网络能够给出更加准确的伪标签,训练的语义分割网络性能也能够超过主流对比方法。而在图像类别弱标签的语义分割任务中,我们修改了伪标签生成网络的输入结构,使得其能够很多的嵌入到目前基于图像类别标签学习的语义分割网络方法中,进一步提升其性能,也超过了目前最好的一些方法。

关键词：图像语义分割弱监督学习伪标签生成深度学习

基于领域规则与子阶段分数预测的跳水运动质量评估方法研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于领域规则与子阶段分数预测的跳水运动质量评估方法研究

作者：董力嘉华侨大学

学位级别：硕士

动作质量评估任务旨在以不同方式量化动作质量,从而对视频中人物对象执行的动作进行评价。其中,体育运动可以使用真实赛事中的大量视频作为数据,而跳水运动以其速度快、时间短的特点,成为该领域最热门的研究对象。在现有的跳水运动质量... 详细信息

动作质量评估任务旨在以不同方式量化动作质量,从而对视频中人物对象执行的动作进行评价。其中,体育运动可以使用真实赛事中的大量视频作为数据,而跳水运动以其速度快、时间短的特点,成为该领域最热门的研究对象。在现有的跳水运动质量评估(Diving Quality Assessment,DQA)任务中,大部分工作使用深度学习方法建立输入视频到总得分之间的回归模型,但是这些工作忽略了跳水运动的真实评分规则。其次,在回归模型中,大部分工作缺少对于跳水过程不同子阶段的划分及分析,导致输入评估网络的视频样本语义信息不够丰富,生成的动作评价不够准确和详细。本文针对上述问题,在现有数据集缺失子阶段分数标签的前提下对有效的多阶段跳水质量评估问题进行研究,提出学习并融合多个隐藏子阶段的DQA方法以及基于标签重构和伪子分数学习的DQA方法,主要工作具体如下:(1)针对现有方法忽略了客观评价规则的问题,提出结合跳水运动中动作质量评分规则的网络训练方法,跳水比赛过程中的评价方式是运动员最终得分为裁判给出的执行分数与动作的难度系数之乘积。本文利用“执行分数”和“难度系数”标签,构建三个符合评分规则的DQA训练场景,以此进一步提升DQA任务的预测精度。(2)在三个符合真实评分规则的训练场景下,本文设计了学习并融合多个隐藏子阶段的回归网络,以输入语义信息丰富的视频样本,实现更准确、全面的DQA任务。该方法使用时序分割网络将跳水阶段在语义上分为五个阶段,即设计五个评分子网络,以得到每个子阶段的隐藏特征,从而预测子阶段得分,并融合生成总得分。(3)针对现有跳水运动数据集缺乏对子阶段的划分及分数标注的问题,本文提出基于标签重构的伪子分数生成方法,生成训练数据中每个视频子阶段的得分标签。进而,使用生成的子阶段伪标签,分阶段对DQA模型进行训练,实现对预测参赛运动员各个子阶段的动作质量得分和总得分的预测。本文将提出的DQA方法与现有研究方法进行比较,并在奥运会真实数据集UNLV-Diving上进行验证。实验结果表明,多子阶段方法比单阶段方法预测效果更准确,伪子分数的生成也进一步地在其基础上使DQA网络预测得到更精准的分数。

关键词：动作质量评估回归网络隐藏子阶段伪标签生成

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

结构和语义导向的弱监督语言时刻定位

结构和语义导向的弱监督语言时刻定位

作者：邱考电子科技大学

学位级别：硕士

随着移动互联网技术的发展,快速理解视频内容的需求日趋膨胀,因此视频理解类任务得到了研究者们的更多关注。在视频理解类任务中,语言时刻定位任务属于跨模态高层语义,旨在根据自然语言描述定位视频中相关活动的具体时间帧。该任务的研... 详细信息

随着移动互联网技术的发展,快速理解视频内容的需求日趋膨胀,因此视频理解类任务得到了研究者们的更多关注。在视频理解类任务中,语言时刻定位任务属于跨模态高层语义,旨在根据自然语言描述定位视频中相关活动的具体时间帧。该任务的研究主要分为全监督方法和弱监督方法,前者需要对视频数据进行细致的标注,代价过于高昂,因此,本文聚焦于弱监督的语言时刻定位任务。以往的弱监督模型往往基于多实例学习的方法,采用候选段筛选的流程。然而,由于缺乏全局真值片段的标注,这类模型常面临优化问题的困扰,在训练中容易陷入局部最小值,主要表现为事件时间边界的不确定性和与查询语句的不完全语义匹配。本文拟提出结构和语义导向下的伪标签监督定位的流程来缓解弱监督方法所面临的问题。具体地,本文首先基于视频结构信息提出视频帧(本文中默认视频帧表示超帧,即视频中的一系列连续帧)和查询语句之间的匹配得分曲线学习算法,而不是直接学习片段-查询语句的匹配得分,该曲线用于生成伪标签以监督定位网络。由于得分曲线包含视频序列的全部范围,因此在其时序内容结构信息的指导下,模型可以减少学习中的不确定性并定位到包含更完整事件过程的片段。其次,为了实现与查询语句的完全语义匹配,本文提出了一种语义对比训练策略和一个语义预测模块,分别指导模型从不匹配和匹配的视频-查询语句对中学习。在语义对比训练策略中,本文构建了一系列同时具有相似和不同语义的对比样本,来促使模型准确学习不同语义并实现完全的语义匹配;而语义预测模块通过限制匹配视频中视觉内容的激活输出来实现精确的视觉-句子对齐。本文在Charades-STA数据集和Activity Net-Captions数据集上进行了广泛实验,并在Rank n@Io U=m的多个指标下取得了相较于近年最先进方法最优或次优的结果。本文的代码目前可以在https://***/yetokun/WLML公开获取。

关键词：弱监督的语言时刻定位局部最小值问题伪标签生成语义对比训练语义预测

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于单目深度估计的道路障碍检测与尺寸估计

基于单目深度估计的道路障碍检测与尺寸估计

作者：肖滢华东师范大学

学位级别：硕士

环境感知是工程车辆智能化的基础,检测路面的障碍并进行尺寸估计有助于规避潜在的危险,降低事故的风险。基于激光雷达的三维目标检测技术已日渐成熟,然而激光雷达昂贵的价格限制了相关技术在实际工业生产、生活中的落地。针对此问题,论... 详细信息

环境感知是工程车辆智能化的基础,检测路面的障碍并进行尺寸估计有助于规避潜在的危险,降低事故的风险。基于激光雷达的三维目标检测技术已日渐成熟,然而激光雷达昂贵的价格限制了相关技术在实际工业生产、生活中的落地。针对此问题,论文提出使用常见的单目摄像机替代昂贵的激光雷达。首先通过构建自监督的单目深度估计模型预测深度图,然后将其转换为伪点云,最后基于伪点云实现道路障碍的检测与尺寸估计。针对深度估计和伪点云数据转换过程中存在的问题,论文提出了相应的改进方法,主要的贡献点如下:第一,针对自监督单目深度估计中缺少全局监督信息的问题,提出了一种基于特征点匹配和几何视图关系的伪标签自动生成方法。该方法可同时生成伪采样网格标签和伪位姿标签。其中,伪采样网格标签可用于直接计算与采样网格的损失;而通过论文设计的双流位姿估计网络,可将伪位姿标签和网络生成的位姿一起用于训练,使模型同时学习到基于网络的信息和基于几何的信息。论文提出的伪标签自动生成方法能够为自监督单目深度估计模型提供全局的监督信息,使模型学习到更多全局的结构和几何信息。第二,针对自监督的单目深度估计方法中低纹理区域内存在深度位置偏移的问题,提出了一种基于采样网格引导的深度正则方法。利用采样网格理想情况下在低纹理区域内呈均匀分布、错误的深度估计会打破这种理想分布的特点,使用采样网格放大深度位置偏移问题,从而对深度进行正则。论文提出的深度正则方法能够有效缓解低纹理区域内的深度位置偏移问题。第三,在将深度图转换为伪点云数据的基础上,提出了基于V视差图的地平面提取方法,用于辅助高度特征的计算。论文从稠密的深度图生成伪点云数据。在降低传感设备成本的同时获得了更多的点云信息。同时,论文提出的基于V视差图的地平面提取方法能够自适应地提取地平面区域,解决固定范围的地平面区域不适用的问题。该方法能够有效过滤噪声数据,提高地平面拟合的准确性。

关键词：单目深度估计自监督学习伪标签生成三维目标检测 V视差图

基于对抗学习的无监督域适应图像分类方法研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于对抗学习的无监督域适应图像分类方法研究

作者：范博文北京建筑大学

学位级别：硕士

在实际的图像分类应用中,由于天气条件、照明和图像采集设备的不同,具有相同语义内容的图像存在着分布上的差异,这极大地限制了图像分类算法的应用。而采集大量的标记数据耗时耗力,这推动了无监督域适应算法的研究。无监督域适应(UDA)... 详细信息

在实际的图像分类应用中,由于天气条件、照明和图像采集设备的不同,具有相同语义内容的图像存在着分布上的差异,这极大地限制了图像分类算法的应用。而采集大量的标记数据耗时耗力,这推动了无监督域适应算法的研究。无监督域适应(UDA)旨在将知识从带有大量标签的源域迁移到没有标签的目标域。目前的研究主要集中在统一两个域的特征分布上。然而,目标域通常具有更为复杂的背景信息,源域和目标域的全局特征分布并不相同,在源域和目标域之间直接共享整个网络强制全局分布对齐会导致性能的下降。此外,基于全局特征分布对齐的方法往往忽略了目标数据的固有判别信息,导致分类错误。基于类别对齐的方法通过为目标域样本生成伪标签,增强目标的判别特征,然而这些伪标签通常过于嘈杂,因此不可避免地会影响UDA的性能。本文针对以上问题开展研究,提出两种新的基于对抗学习的UDA框架。主要研究工作和成果如下:(1)提出了一种新的基于域特定批量归一化的对抗域适应模型。首先,采用对抗性学习损失模块,综合考虑域对齐和类别对齐,从对抗学习获得的混淆矩阵中自动构建一个新的损失函数来矫正自训练中的伪标签;其次,在卷积神经网络(CNN)的编码器架构中引入域特定批量归一化模块(DSBN),通过分离批量归一化层来分别适应源域和目标域。将域特定信息与域不变信息分离,更好地学习域不变特征表示,来获得更好的泛化性能。最后,本文的方法在Office-Home数据集和Office-31数据集的准确率分别达到67.4%和89.4%,验证了模型的有效性。(2)提出了一种基于特征空间约束的对抗域适应模型(SwinUDA)。首先,对于域对齐,将Swin Transformer与对抗性自适应相结合,提高模型对噪声输入的鲁棒性,同时实验结果表明采用transformer作为特征提取器具有更高的可迁移性。其次,对于类别对齐,使用正交投影损失(OPL)直接在特征空间中实施约束,来自相同类别的样本(无论来自源域或目标域)被拉近,而来自不同类别的样本被推开。此外,正交投影损失对标签噪声干扰的影响更有鲁棒性。为了保留目标域的判别信息,引入了互信息最大化损失(IML)来保留目标域的可区分特征。本文提出的SwinUDA模型可以同时学习可迁移和可区分的特征。在Office-Home、Office-31和Vis DA-2017三个公开数据集上进行实验,SwinUDA都展现了最佳的性能。

关键词：对抗学习无监督域适应图像分类类别对齐伪标签生成