检索结果-南通市图书馆

同方期刊数据库评论

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于伪标签生成策略的半监督立场检测

基于伪标签生成策略的半监督立场检测

作者：高肇泽重庆理工大学

学位级别：硕士

随着自然语言处理技术的快速发展,关于社交平台上文本的研究也越来越受到国内外研究人员的关注。立场检测是研究社交平台文本挖掘的重要方向。社交媒体被视为现代社会情绪状态的晴雨表。数十亿社交媒体用户在推特、Facebook或微博中表... 详细信息

随着自然语言处理技术的快速发展,关于社交平台上文本的研究也越来越受到国内外研究人员的关注。立场检测是研究社交平台文本挖掘的重要方向。社交媒体被视为现代社会情绪状态的晴雨表。数十亿社交媒体用户在推特、Facebook或微博中表达了他们对事件、社会问题和政党的立场。立场检测作为新兴的研究方向,在社交平台上有很多应用,如舆情分析、观点调研、虚假新闻检测和恶意言语检测。由于数据标注成本高昂,本文专注于探讨以文本为基础的半监督立场检测任务。基于有标签数据量稀少,大部分数据为无标签数据,构建了两种基于伪标签生成策略的半监督立场检测模型,并进行了大量实验验证所提模型的有效性,本文研究内容如下:生成伪标签是半监督立场检测的一种有效策略。以往工作SANDS利用同质性网络来改变半监督立场检测的方式,并达到了很好的效果。然而,该方法没有对伪标签质量进行区分,同时要求数据集存在跟随者与被跟随者图,模型的泛化性低。为了解决上述问题,本文提出了一个基于伪标签增强的协同训练的半监督立场检测模型(SDCA)。首先,本研究使用有标签推文对两种不同的分类模型进行预训练。这两个模型随后独立预测无标签数据,生成两组伪标签及其概率分布。接下来,通过比较两个模型生成的伪标签,如果一致,则认为这些伪标签的质量较高,只保留这部分数据。最后,根据伪标签的质量,对数据进行排序,选取质量最高的前k个推文作为下一轮训练的输入。剩余较高质量带伪标签的推文继续优化分类模型。在两个公开数据集上进行充分实验,实验结果表明,提出的方法显著优于最优基线。在现实应用中,生成的伪标签质量存在差异,然而现有的工作将生成伪标签的质量视为是同等的;此外,现有的工作没有充分考虑类别不平衡对伪标签生成质量的影响。为了解决上述两个问题,提出基于类别感知课程学习的半监督立场检测模型(SDCL)。首先,使用预训练分类模型对无标签推文生成伪标签;其次,根据伪标签质量高低对推文按类别排序,并选取每个类别前k个高质量推文;最后,将各个类别选出的推文进行合并后重新排序,排序后带有伪标签的推文再输入分类模型,进一步优化模型参数。实验结果表明,与基线模型中表现最好的SANDS相比,所提模型在3种不同划分(500、1000、1500)情况下,Stance US数据集Mac-F1分别提高了1.5、1.1和2.6个百分点,Stance IN数据集Mac-F1分别提高了1.2、1.1和1.3个百分点,实验结果验证了所提模型的有效性。

关键词：半监督立场检测协同训练伪标签生成课程学习

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向深度半监督学习的伪标签生成算法研究

面向深度半监督学习的伪标签生成算法研究

作者：沈斯娴哈尔滨工业大学

学位级别：硕士

目前,深度学习广泛用于各领域并取得了优异表现,但是这往往需要大量标注数据的支持。大量标注数据的获取意味着高昂的成本与苛刻的应用条件。因此,随着深度学习的发展,如何在实际场景下突破数据限制,成为目前重要的研究目标,而半监督学... 详细信息

目前,深度学习广泛用于各领域并取得了优异表现,但是这往往需要大量标注数据的支持。大量标注数据的获取意味着高昂的成本与苛刻的应用条件。因此,随着深度学习的发展,如何在实际场景下突破数据限制,成为目前重要的研究目标,而半监督学习正是其中一大研究方向,它通过利用大量的未标记数据辅助少量的标记数据进行学习,很好地减轻了深度学习的数据需求压力。伪标签生成方法是当前半监督学习的重要组成部分。所生成的伪标签质量的优劣会很大程度影响半监督学习的最终效果。而本文正是聚焦半监督学习中的伪标签生成方法,针对一般场景设置下的半监督学习以及具有极少标签量情况下的半监督学习场景,提出优质伪标签的生成方法。首先,针对一般半监督学习问题,本文提出了基于最优传输理论的伪标签生成方法。当前的半监督学习的伪标签生成方法多仅考虑模型输出结果且多忽略生成标签的类别分布问题,因此本文考虑在模型输出结果的基础上,引入有标记数据进行辅助并增加类别均衡约束。本文基于最优传输理论在上述约束条件下的标签生成问题统一成一个线性优化问题,通过求解该优化问题得到最终的伪标签。在求解该优化问题过程中,本文引入Sinkhorn-Knopp算法进行近似快速求解,避免了不可计算问题。当然,本文也给出了基于该标签生成方法的完整半监督学习过程。除此之外,本文根据半监督数据设置,在CIFAR-10、SVHN等经典的图像分类数据集上进行实验,验证了该方法的有效性。其次,针对稀疏半监督学习问题,即半监督学习数据中有标记数据量极少的情况,本文提出了基于泊松正则的伪标签生成方法。为解决在该极端情况下,当前大部分半监督学习算法的训练效果会大幅下降的问题,首先,本文在有限标签数据量的情况下,更加充分地挖掘已有信息,提出在利用模型输出结果的基础上,引入语义信息引导伪标签生成。在分析了利用拉普拉斯正则进行语义信息引入在标签量过少情况下的问题后,引入泊松正则项进行替代,结合泊松正则与模型输出结果约束得到了适应极少标签场景的半监督学习优化式。最后,本文使用经典的图像分类数据集并随机挑选极少数据作为有标记数据构成了模型训练数据集,在对比当前其他半监督方法的情况下,有效验证了本文所提出的基于泊松正则的标签生成方法的有效性。

关键词：半监督学习伪标签生成最优传输图学习图像分类

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于类别感知课程学习的半监督立场检测

计算机应用 2024年

作者：高肇泽朱小飞项能强重庆理工大学计算机科学与工程学院

生成伪标签是半监督立场检测的一种有效策略。在现实应用中，生成的伪标签质量存在差异，然而现有的工作将生成伪标签的质量视为是同等的;此外，现有的工作没有充分考虑类别不平衡对伪标签生成质量的影响。为了解决上述两个问题，提出... 详细信息

生成伪标签是半监督立场检测的一种有效策略。在现实应用中，生成的伪标签质量存在差异，然而现有的工作将生成伪标签的质量视为是同等的;此外，现有的工作没有充分考虑类别不平衡对伪标签生成质量的影响。为了解决上述两个问题，提出基于类别感知课程学习的半监督立场检测模型（SDCL）。首先使用预训练分类模型对无标签推文生成伪标签，其次根据伪标签质量高低对推文按类别排序，并选取每个类别前k个高质量推文；最后，将各个类别选出的推文进行合并后重新排序，排序后带有伪标签的推文再输入分类模型，进一步优化模型参数。实验结果表明，与基线模型中表现最好的SANDS(Stance Analysis via Network Distant Supervision)相比，所提模型在3种不同划分（500、1000和1500）情况下，StanceUS数据集Mac-F1分别提高了1.5、1.1和2.6个百分点，StanceIN数据集Mac-F1分别提高了1.2、1.1和1.3个百分点，实验结果验证了所提模型的有效性。

关键词：半监督立场检测类别不平衡课程学习伪标签生成

基于深度学习的眼底图像糖网病变分割方法研究

同方期刊数据库评论

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于深度学习的眼底图像糖网病变分割方法研究

作者：黄椿程重庆理工大学

学位级别：硕士

糖尿病性视网膜病变是糖尿病最为常见的微血管并发症之一简称糖网病变,初期症状隐匿而严重时可能导致永久性视力损伤或致盲的风险。因此,对于该病变的早期筛查与干预至关重要。然而,由于眼底摄片设备匮乏、患者增多、专业摄片人员稀缺... 详细信息

糖尿病性视网膜病变是糖尿病最为常见的微血管并发症之一简称糖网病变,初期症状隐匿而严重时可能导致永久性视力损伤或致盲的风险。因此,对于该病变的早期筛查与干预至关重要。然而,由于眼底摄片设备匮乏、患者增多、专业摄片人员稀缺、患者筛查依从性差等因素,该病变的筛查普及率低。为此,现有的眼底图像糖网病变分割任务中存在可训练数据集较小、人工标注难度大、样本分布不均、计算资源成本高等问题,且目前使用深度学习算法对已标注的眼底图像的资源利用率不足,像素级分割的精度仍然有待提高。因此,本文针对眼底图像的糖网病变分割的分割任务为研究对象,在U-Net和多任务学习的基础上展开研究并针对上述问题提出解决方案,为眼底图像分割临床使用奠定基础。本文主要工作包括:(1)提出了一种高质量伪标签生成方法,目的在于最大化利用现有数据集,提供数据集多标签,获得图像更多信息。通过集成学习的方法训练初始伪标签生成的模型,而后将初始伪标签联合Grad-CAM方法的热力图对标签进行修正,使标签准确率在一定的置信度区间范围内,从而得到最终的高质量伪标签。(2)设计了一个标签更新网络,主要为缓解多任务学习过程中任务间梯度不平衡的问题。同时改进多任务U-Net模型,在模型的编码器部分增加设计的标签更新网络模块。在学习过程中不断调整任务间的权重比例,以学习更为通用的特征表示,并在多个开源眼底图像数据集上验证该方法的有效性和普适性。此外,眼底图像数据集所拥有的两个标签分别是像素级标注的分割掩码图像,另一个则是有无病变的二分类标签。(3)提出了一种基于像素级分割的两阶段算法,为进一步提升糖网病变分割的准确度,同时增加高分辨图像训练模型的计算资源利用率。引入糖网病变分级的辅助任务,辅助任务的伪标签由(1)所提出的方法获得,且作为该算法的第一阶段,在第二阶段中主要基于多任务U-Net模型,使用了(2)中设计的标签更新网络进行多标签的特征学习,并调整任务间权重。最后通过模型的对比实验、消融实验和分割结果可视化验证了分割效果至少1.89%以上的有效提升。

关键词：糖网病变分割伪标签生成热力图多任务学习

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于弱监督表示学习的热红外目标跟踪

计算机技术与发展 2024年第4期34卷 35-41页

作者：袁笛西安电子科技大学广州研究院广东广州510555

由于热红外成像技术具有更强的穿透雾、霾、雨、雪的能力,在恶劣天气条件下的成像效果几乎不受影响,使得基于热红外图像的目标跟踪任务越来越被研究者重视。针对基于卷积神经网络的热红外目标跟踪算法在模型训练过程中需要的带有标签的... 详细信息

由于热红外成像技术具有更强的穿透雾、霾、雨、雪的能力,在恶劣天气条件下的成像效果几乎不受影响,使得基于热红外图像的目标跟踪任务越来越被研究者重视。针对基于卷积神经网络的热红外目标跟踪算法在模型训练过程中需要的带有标签的数据不足的问题,提出了一种基于弱监督表示学习的方法,利用少量的标签数据及大量的无标签数据进行模型训练,从而用于热红外目标跟踪任务。首先,利用主动学习的指导在大量无标签的数据中挑选最具有代表性的训练样本;然后,给定每个样本序列的首帧目标的真实标签,利用基础跟踪器生成该序列中其他图像帧中目标的伪标签;之后,利用带有真实标签和伪标签的训练数据进行模型训练;最后,利用训练好的模型在热红外目标跟踪算法测试数据集上进行模型测试。实验结果表明:该方法可以在减少模型训练对标签数据需求的同时保证跟踪器的准确性。

关键词：弱监督表示学习主动学习训练样本挑选伪标签生成热红外目标跟踪

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

结构和语义导向的弱监督语言时刻定位

结构和语义导向的弱监督语言时刻定位

作者：邱考电子科技大学

学位级别：硕士

随着移动互联网技术的发展,快速理解视频内容的需求日趋膨胀,因此视频理解类任务得到了研究者们的更多关注。在视频理解类任务中,语言时刻定位任务属于跨模态高层语义,旨在根据自然语言描述定位视频中相关活动的具体时间帧。该任务的研... 详细信息

随着移动互联网技术的发展,快速理解视频内容的需求日趋膨胀,因此视频理解类任务得到了研究者们的更多关注。在视频理解类任务中,语言时刻定位任务属于跨模态高层语义,旨在根据自然语言描述定位视频中相关活动的具体时间帧。该任务的研究主要分为全监督方法和弱监督方法,前者需要对视频数据进行细致的标注,代价过于高昂,因此,本文聚焦于弱监督的语言时刻定位任务。以往的弱监督模型往往基于多实例学习的方法,采用候选段筛选的流程。然而,由于缺乏全局真值片段的标注,这类模型常面临优化问题的困扰,在训练中容易陷入局部最小值,主要表现为事件时间边界的不确定性和与查询语句的不完全语义匹配。本文拟提出结构和语义导向下的伪标签监督定位的流程来缓解弱监督方法所面临的问题。具体地,本文首先基于视频结构信息提出视频帧(本文中默认视频帧表示超帧,即视频中的一系列连续帧)和查询语句之间的匹配得分曲线学习算法,而不是直接学习片段-查询语句的匹配得分,该曲线用于生成伪标签以监督定位网络。由于得分曲线包含视频序列的全部范围,因此在其时序内容结构信息的指导下,模型可以减少学习中的不确定性并定位到包含更完整事件过程的片段。其次,为了实现与查询语句的完全语义匹配,本文提出了一种语义对比训练策略和一个语义预测模块,分别指导模型从不匹配和匹配的视频-查询语句对中学习。在语义对比训练策略中,本文构建了一系列同时具有相似和不同语义的对比样本,来促使模型准确学习不同语义并实现完全的语义匹配;而语义预测模块通过限制匹配视频中视觉内容的激活输出来实现精确的视觉-句子对齐。本文在Charades-STA数据集和Activity Net-Captions数据集上进行了广泛实验,并在Rank n@Io U=m的多个指标下取得了相较于近年最先进方法最优或次优的结果。本文的代码目前可以在https://***/yetokun/WLML公开获取。

关键词：弱监督的语言时刻定位局部最小值问题伪标签生成语义对比训练语义预测

基于对抗学习的无监督域适应图像分类方法研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于对抗学习的无监督域适应图像分类方法研究

作者：范博文北京建筑大学

学位级别：硕士

在实际的图像分类应用中,由于天气条件、照明和图像采集设备的不同,具有相同语义内容的图像存在着分布上的差异,这极大地限制了图像分类算法的应用。而采集大量的标记数据耗时耗力,这推动了无监督域适应算法的研究。无监督域适应(UDA)... 详细信息

在实际的图像分类应用中,由于天气条件、照明和图像采集设备的不同,具有相同语义内容的图像存在着分布上的差异,这极大地限制了图像分类算法的应用。而采集大量的标记数据耗时耗力,这推动了无监督域适应算法的研究。无监督域适应(UDA)旨在将知识从带有大量标签的源域迁移到没有标签的目标域。目前的研究主要集中在统一两个域的特征分布上。然而,目标域通常具有更为复杂的背景信息,源域和目标域的全局特征分布并不相同,在源域和目标域之间直接共享整个网络强制全局分布对齐会导致性能的下降。此外,基于全局特征分布对齐的方法往往忽略了目标数据的固有判别信息,导致分类错误。基于类别对齐的方法通过为目标域样本生成伪标签,增强目标的判别特征,然而这些伪标签通常过于嘈杂,因此不可避免地会影响UDA的性能。本文针对以上问题开展研究,提出两种新的基于对抗学习的UDA框架。主要研究工作和成果如下:(1)提出了一种新的基于域特定批量归一化的对抗域适应模型。首先,采用对抗性学习损失模块,综合考虑域对齐和类别对齐,从对抗学习获得的混淆矩阵中自动构建一个新的损失函数来矫正自训练中的伪标签;其次,在卷积神经网络(CNN)的编码器架构中引入域特定批量归一化模块(DSBN),通过分离批量归一化层来分别适应源域和目标域。将域特定信息与域不变信息分离,更好地学习域不变特征表示,来获得更好的泛化性能。最后,本文的方法在Office-Home数据集和Office-31数据集的准确率分别达到67.4%和89.4%,验证了模型的有效性。(2)提出了一种基于特征空间约束的对抗域适应模型(SwinUDA)。首先,对于域对齐,将Swin Transformer与对抗性自适应相结合,提高模型对噪声输入的鲁棒性,同时实验结果表明采用transformer作为特征提取器具有更高的可迁移性。其次,对于类别对齐,使用正交投影损失(OPL)直接在特征空间中实施约束,来自相同类别的样本(无论来自源域或目标域)被拉近,而来自不同类别的样本被推开。此外,正交投影损失对标签噪声干扰的影响更有鲁棒性。为了保留目标域的判别信息,引入了互信息最大化损失(IML)来保留目标域的可区分特征。本文提出的SwinUDA模型可以同时学习可迁移和可区分的特征。在Office-Home、Office-31和Vis DA-2017三个公开数据集上进行实验,SwinUDA都展现了最佳的性能。

关键词：对抗学习无监督域适应图像分类类别对齐伪标签生成

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于单目深度估计的道路障碍检测与尺寸估计

基于单目深度估计的道路障碍检测与尺寸估计

作者：肖滢华东师范大学

学位级别：硕士

环境感知是工程车辆智能化的基础,检测路面的障碍并进行尺寸估计有助于规避潜在的危险,降低事故的风险。基于激光雷达的三维目标检测技术已日渐成熟,然而激光雷达昂贵的价格限制了相关技术在实际工业生产、生活中的落地。针对此问题,论... 详细信息

环境感知是工程车辆智能化的基础,检测路面的障碍并进行尺寸估计有助于规避潜在的危险,降低事故的风险。基于激光雷达的三维目标检测技术已日渐成熟,然而激光雷达昂贵的价格限制了相关技术在实际工业生产、生活中的落地。针对此问题,论文提出使用常见的单目摄像机替代昂贵的激光雷达。首先通过构建自监督的单目深度估计模型预测深度图,然后将其转换为伪点云,最后基于伪点云实现道路障碍的检测与尺寸估计。针对深度估计和伪点云数据转换过程中存在的问题,论文提出了相应的改进方法,主要的贡献点如下:第一,针对自监督单目深度估计中缺少全局监督信息的问题,提出了一种基于特征点匹配和几何视图关系的伪标签自动生成方法。该方法可同时生成伪采样网格标签和伪位姿标签。其中,伪采样网格标签可用于直接计算与采样网格的损失;而通过论文设计的双流位姿估计网络,可将伪位姿标签和网络生成的位姿一起用于训练,使模型同时学习到基于网络的信息和基于几何的信息。论文提出的伪标签自动生成方法能够为自监督单目深度估计模型提供全局的监督信息,使模型学习到更多全局的结构和几何信息。第二,针对自监督的单目深度估计方法中低纹理区域内存在深度位置偏移的问题,提出了一种基于采样网格引导的深度正则方法。利用采样网格理想情况下在低纹理区域内呈均匀分布、错误的深度估计会打破这种理想分布的特点,使用采样网格放大深度位置偏移问题,从而对深度进行正则。论文提出的深度正则方法能够有效缓解低纹理区域内的深度位置偏移问题。第三,在将深度图转换为伪点云数据的基础上,提出了基于V视差图的地平面提取方法,用于辅助高度特征的计算。论文从稠密的深度图生成伪点云数据。在降低传感设备成本的同时获得了更多的点云信息。同时,论文提出的基于V视差图的地平面提取方法能够自适应地提取地平面区域,解决固定范围的地平面区域不适用的问题。该方法能够有效过滤噪声数据,提高地平面拟合的准确性。

关键词：单目深度估计自监督学习伪标签生成三维目标检测 V视差图

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于半监督学习的密集人群检测算法研发

基于半监督学习的密集人群检测算法研发

作者：孙睿浙江大学

学位级别：硕士

密集场景下的人群检测是计算机视觉领域的重要任务之一,它要求预测头部外接矩形框。在目前的研究中,通过对大量数据进行完全标注提高检测算法性能,其较高的标注成本难以应用于实际场景,同时图像中重叠目标和小目标的少量信息导致检测过... 详细信息

密集场景下的人群检测是计算机视觉领域的重要任务之一,它要求预测头部外接矩形框。在目前的研究中,通过对大量数据进行完全标注提高检测算法性能,其较高的标注成本难以应用于实际场景,同时图像中重叠目标和小目标的少量信息导致检测过程中误检和漏检增加。针对上述问题,本文基于半监督学习在伪标签生成算法和密集人群检测算法上进行了研究。本文研发了一种密集人群数据集伪标签生成算法,采用半监督目标检测中的自学习方法离线生成伪标签,并使用人群数据中已有的点标签来筛选框标签,校正定位信息;针对未匹配到框标签的点标签,采用KNN算法近似伪标签,校正计数信息,并根据头部远近关系和重叠程度缩放伪标签的尺寸,有效降低较高的标注成本。针对重叠目标和小目标容易漏检误检问题,本文研发了一种密集人群检测算法,在特征金字塔中增加高分辨率特征层用于检测,补充小目标信息,减少小目标漏检;基于特征金字塔生成注意力掩模,根据各层的标签分配结果在全部特征层中融合有用特征,消除特征层间的不一致冲突,提高特征层质量;在训练过程中,使用全局标签分配方法,减少重叠区域目标监督预测框冲突的问题,减少小目标缺失监督预测框的问题,对预测框进行合理分配,减少误检框。本文提出的算法分别在ZJU-Crowd、NWPU-Crowd和JHU-CROWD++三个数据集上训练和测试,密集人群数据集伪标签生成算法相比STAC算法,检测指标m AP@0.5平均提升0.8%,定位指标F1 Large平均提升1.3%,计数指标NAE平均下降2.2%;密集人群检测算法相比同类型方法在三类指标上均有提升,检测指标m AP@0.5均值达44.8%,定位指标F1 Large均值达61.8%,计数指标NAE均值达50.1%。

关键词：半监督学习密集人群检测伪标签生成特征金字塔