检索结果-南通市图书馆

作者：张浩健华南理工大学

学位级别：硕士

无监督域适应(UDA)旨在通过从数据有标签的源数据域迁移知识来学习数据无标签的目标数据域的模型。在传统的UDA设置中,假定有标签的源数据可用于域适应。随着人们对数据隐私的关注日益增加,无源域数据的无监督域适应作为一种新的UDA设... 详细信息

无监督域适应(UDA)旨在通过从数据有标签的源数据域迁移知识来学习数据无标签的目标数据域的模型。在传统的UDA设置中,假定有标签的源数据可用于域适应。随着人们对数据隐私的关注日益增加,无源域数据的无监督域适应作为一种新的UDA设定逐渐受到研究者的关注,该设定假定只有经过事先训练好的源域模型可供使用,而源域的数据仍然是私有的,不再参与域适应。然而,不是所有的场景都能提供一个事先训练好的源域模型,比如源域模型可能具有商业价值,其结构和参数是保密的;另外,暴露源模型会给源数据域带来潜在的风险,如果模型被滥用或者遭受白盒攻击,将危及使用同一模型的其他应用。在本文中,我们研究了一个略微不同的UDA设定——黑盒无监督域适应(BUDA)。在这个设定下,在源域上事先训练好的模型对外只开放出一个输入输出接口以访问目标域上的数据,而外界无法知晓其结构和参数,也即源域模型对外相当于一个黑盒模型。这个设定目前少有人研究,但其具有较高的应用价值,既可以避免使用涉及隐私的源域数据,又可以保护模型的参数结构,还可以利用参数量超大的模型。为了解决黑盒无监督域适应问题,我们提出了一种简单而有效的方法,称为迭代式带噪声标签学习(Iter LNL),它将黑盒模型作为有噪声的数据标注工具,迭代式地进行有噪声的数据标注和带噪声标签学习两个过程。为了在BUDA的设定使用带噪声标签学习方法,我们从模型对无标签目标域数据的预测中估计出噪声率,并提出按类别采样方法来解决带噪声标签在不同类别上数量不平衡的问题。基准数据集上的实验结果证明了Iter LNL是有效的。在既没有源域数据也没有源模型结构和参数的情况下,本文提出的方法的性能与充分利用有标签源域数据的传统无监督域适应方法相当。

关键词：域适应无监督学习无源域数据

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于伪标签不确定性估计的无源域自适应方法

引用

计算机科学 2024年

作者：黄超程春玲王有康南京邮电大学计算机学院软件学院网络空间安全学院

无源域自适应大多采用基于伪标签的自监督学习方法来解决无源的问题，然而这些方法忽视了伪标签生成过程中，目标样本特征分布的聚类结构和分类决策边界处样本的不确定性对伪标签噪声的影响，降低了模型性能。为此，提出一种基于伪标签... 详细信息

无源域自适应大多采用基于伪标签的自监督学习方法来解决无源的问题，然而这些方法忽视了伪标签生成过程中，目标样本特征分布的聚类结构和分类决策边界处样本的不确定性对伪标签噪声的影响，降低了模型性能。为此，提出一种基于伪标签不确定性估计的无源域自适应方法。首先，对模型特征提取器参数进行多次扰动来模拟源知识被数据微调后的变化，并利用样本在不同扰动模型下的特征分布相似性来评估源知识的泛化不确定性。并提出极值信息熵来衡量目标域内部的隐含信息不确定性，该信息熵根据预测概率中最大值与次最大值的数值差异采用不同的熵计算方法。其次，根据两种不确定性将目标样本分为可靠样本和不可靠样本，对可靠样本采用自监督学习，并以其预测概率结果为权重将样本特征更新至类原型中，同时，引入历史类原型以增强类原型的稳定性。对不可靠样本采用对比学习，使其靠近相似的类原型。在Office-31，Office-Home和VisDA-C三个公开基准数据集上与多个基线模型相比，在分类准确度上得到提升，验证了方法的有效性。

关键词：域自适应无源域数据不确定性估计信息熵对比学习

来源：

同方期刊数据库评论

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

基于不确定性加权混合训练的无源域自适应

引用

计算机技术与发展 2023年第11期33卷 135-142页

作者：关新宇孙涵南京航空航天大学计算机科学与技术学院/人工智能学院江苏南京211106

针对无源域数据的域自适应问题中源模型中的源知识得不到充分利用以及目标数据内在结构信息会被忽略的问题,提出了一种基于不确定性指导的加权混合训练的无源域数据的域自适应框架。首先在通道级对源模型预测的不确定性进行量化,将目标... 详细信息

针对无源域数据的域自适应问题中源模型中的源知识得不到充分利用以及目标数据内在结构信息会被忽略的问题,提出了一种基于不确定性指导的加权混合训练的无源域数据的域自适应框架。首先在通道级对源模型预测的不确定性进行量化,将目标数据同时输入到源特征提取器和目标特征提取器,在通道级计算目标特征与源模型之间的不确定性距离,衡量源知识对目标模型的可迁移的不确定性,并利用它来指导对目标数据的适应过程。同时考虑到目标数据的内在结构信息,从源知识和目标数据两个方面考虑伪标签的置信度,以降低噪声伪标签的影响。最后对目标样本进行混合训练,并根据置信度得分对目标样本进行加权,以提高目标模型的鲁棒性。在Office-31,Office-Home和VisDA-C 3个域自适应基准数据集上分别取得了90.5%,72.8%,85.9%的分类效果,大量的对比实验及消融分析都证明了所提出的基于不确定性指导加权混合训练的框架具备良好的迁移能力。

关键词：域自适应无源域数据不确定性伪标签混合训练

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：