检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

基于流形学习的多示例回归算法

计算机学报 2006年第11期29卷 1948-1955页

作者：詹德川周志华南京大学软件新技术国家重点实验室南京210093

多示例学习是一种新型机器学习框架,以往的研究主要集中在多示例分类上,最近多示例回归受到了国际机器学习界的关注.流形学习旨在获得非线性分布数据的内在结构,可以用于非线性降维.文中基于流形学习技术,提出了用于解决多示例回归问题... 详细信息

多示例学习是一种新型机器学习框架,以往的研究主要集中在多示例分类上,最近多示例回归受到了国际机器学习界的关注.流形学习旨在获得非线性分布数据的内在结构,可以用于非线性降维.文中基于流形学习技术,提出了用于解决多示例回归问题的ManiMIL算法.该算法首先对训练包中的示例降维,利用降维结果出现坍缩的特性对多示例包进行预测.实验表明,ManiMIL算法比现有的多示例算法例如Citation-kNN等有更好的性能.

关键词：机器学习多示例学习多示例回归流形学习

在线全文

学校读者我要写书评

暂无评论

一种保持语义关系的词向量复用方法

中国科学：信息科学 2020年第6期50卷 813-823页

作者：李新春詹德川计算机软件新技术国家重点实验室(南京大学) 南京210023

在基于深度网络的自然语言处理任务中,嵌入表示层用词向量刻画词的语义信息,可以有效地提升模型性能.词向量可以和当前任务一起端到端地进行学习,但是从模型参数数量的角度来看,词向量的训练很容易在小语料库上过拟合.为了解决这个问题... 详细信息

在基于深度网络的自然语言处理任务中,嵌入表示层用词向量刻画词的语义信息,可以有效地提升模型性能.词向量可以和当前任务一起端到端地进行学习,但是从模型参数数量的角度来看,词向量的训练很容易在小语料库上过拟合.为了解决这个问题,通常会使用在大语料库上预训练得到的词向量.首先,本文总结了几种常见的复用预训练词向量的方法.其次,由于当前任务的变化,会有一些新词出现,这些新词的词向量不能通过预训练的词向量获得,因此本文提出了一种保持语义关系的词向量复用算法(SrpWer). SrpWer首先对当前数据集中词语之间的关系进行建模,然后结合预训练的词向量生成新词对应的词向量.实验结果验证了SrpWer的有效性.

关键词：自然语言处理词向量模型复用新词深度学习

在线全文

学校读者我要写书评

暂无评论

使用多分类器的分布式模型重用技术

计算机科学与探索 2022年第10期16卷 2310-2319页

作者：李新春詹德川南京大学计算机科学与技术系南京210023 南京大学人工智能学院南京210023 南京大学计算机软件新技术国家重点实验室南京210023

传统的机器学习经常采用数据中心化的方式进行训练,然而由于实际应用中的传输开销或者隐私保护限制,数据越来越呈现分散化、隔离化的趋势。分布式训练学习技术为分散在信息孤岛上的数据融合提供了一种解决方案。然而,由于分散化数据本... 详细信息

传统的机器学习经常采用数据中心化的方式进行训练,然而由于实际应用中的传输开销或者隐私保护限制,数据越来越呈现分散化、隔离化的趋势。分布式训练学习技术为分散在信息孤岛上的数据融合提供了一种解决方案。然而,由于分散化数据本身具有天然异质性,本地数据分布经常是非独立同分布的(Non-IID),这给分布式训练带来了挑战。首先,为了应对单一模型难以适配所有异质客户端的难题,在分布式训练的基础上引入了模型重用技术,提出了分布式模型重用框架(DMR)。然后,通过理论分析指出集成学习可以为异构数据提供有效的解决方案,并在此基础之上提出了使用多分类器的分布式模型重用技术(McDMR)。最后,为了减少实际应用过程中的存储、计算和传输开销,继而提出了两种具体的优化方案:使用多头分类器的分布式模型重用(McDMR-MH)和使用随机分类器采样的分布式模型重用(McDMR-SC)。在多个公开数据集上进行实验,实验结果验证了所提方法的有效性。

关键词：学件模型重用多分类器分布式学习集成效率隐私保护

在线全文

学校读者我要写书评

暂无评论

基于模型分解的小样本学习

中国科学：信息科学 2020年第5期50卷 662-674页

作者：叶翰嘉詹德川计算机软件新技术国家重点实验室(南京大学) 南京210023

机器学习依赖大量样本的统计信息进行模型的训练,从而能对未知样本进行精准的预测.搜集样本及标记需要耗费大量的资源,因而如何基于少量样本(few-shot learning)进行模型的训练至关重要.有效的模型先验(prior)能够降低模型训练对样本的... 详细信息

机器学习依赖大量样本的统计信息进行模型的训练,从而能对未知样本进行精准的预测.搜集样本及标记需要耗费大量的资源,因而如何基于少量样本(few-shot learning)进行模型的训练至关重要.有效的模型先验(prior)能够降低模型训练对样本的需求.本文基于元学习(meta learning)框架,从相关的、类别不同的数据中学习模型先验,并将这种先验应用于新类别的少样本任务.与此同时,本文提出"模型组合先验"(MCP,model composition prior)方法,通过目标函数的最优条件对模型结构进行分解,并分别估计模型的各个组成部分,得到有效的分类器.这种分解方式具有较高的可解释性,能够指导在不同小样本任务中"共享"与"独立"的成分,从而指导元学习的具体实现.在人造数据中,本文方法能够恢复出小样本任务之间的关联性;在图像数据上,MCP方法能取得比当前主流方法更优异的效果.

关键词：小样本学习元学习模型先验模型分解

在线全文

学校读者我要写书评

暂无评论

可靠多模态学习综述

软件学报 2021年第4期32卷 1067-1081页

作者：杨杨詹德川姜远熊辉南京理工大学计算机科学与工程学院江苏南京210094 计算机软件新技术国家重点实验室(南京大学) 江苏南京210023 Rutgers Business School NewarkNJ 07012USA

近年来,多模态学习逐步成为机器学习、数据挖掘领域的研究热点之一,并成功地应用于诸多现实场景中,如跨媒介搜索、多语言处理、辅助信息点击率预估等.传统多模态学习方法通常利用模态间的一致性或互补性设计相应的损失函数或正则化项进... 详细信息

近年来,多模态学习逐步成为机器学习、数据挖掘领域的研究热点之一,并成功地应用于诸多现实场景中,如跨媒介搜索、多语言处理、辅助信息点击率预估等.传统多模态学习方法通常利用模态间的一致性或互补性设计相应的损失函数或正则化项进行联合训练,进而提升单模态及集成的性能.而在开放环境下,受数据缺失及噪声等因素的影响,多模态数据呈现不均衡性.具体表现为单模态信息不充分或缺失,从而导致"模态表示强弱不一致""模态对齐关联不一致"两大挑战,而针对不均衡多模态数据直接利用传统的多模态方法甚至会退化单模态和集成的性能.针对这类问题,可靠多模态学习被提出并进行了广泛研究,系统地总结和分析了目前国内外学者针对可靠多模态学习取得的进展,并对未来研究可能面临的挑战进行展望.

关键词：不均衡多模态数据模态表示强弱不一致模态对齐关联不一致可靠多模态学习

在线全文

学校读者我要写书评

暂无评论

基于结构相似性和压缩变换的聚类方法

模式识别与人工智能 2011年第5期24卷 637-644页

作者：牟廉明詹德川黎铭周志华内江师范学院四川省高等学校数值仿真重点实验室内江641112 南京大学计算机软件新技术国家重点实验室南京210093

针对聚类分析在处理任意形状、任意密度和具有一定结构特征的数据集时存在的不足,首先在数据空间中建立离散拓扑流形,通过在此结构上定义邻域密度相似性和邻域密度变化光滑性两个相对性度量标准,并利用可达性给出样本结构相似性和类结... 详细信息

针对聚类分析在处理任意形状、任意密度和具有一定结构特征的数据集时存在的不足,首先在数据空间中建立离散拓扑流形,通过在此结构上定义邻域密度相似性和邻域密度变化光滑性两个相对性度量标准,并利用可达性给出样本结构相似性和类结构的定义,证明类结构关系是一个等价关系.然后将结构相似性当作吸引力,设计基于压缩变换的聚类方法,该方法具备处理任意形状、任意密度和解释性好等许多优点.最后在人工数据集和标准数据集上的比较实验结果表明,该方法在聚类效率和有效性上都明显优于其它聚类算法.

关键词：聚类分析离散拓扑流形结构相似性类结构压缩变换

在线全文

学校读者我要写书评

暂无评论

基于深度学习的类别增量学习算法综述

计算机学报 2023年第8期46卷 1577-1605页

作者：周大蔚汪福运叶翰嘉詹德川计算机软件新技术国家重点实验室(南京大学) 南京210023

近年来,深度学习模型在众多领域取得了广泛成功.现有的深度学习模型大多部署在静态环境下,依赖提前收集好的数据集进行离线训练,模型一经确定,便无法进一步更新.然而,现实中开放动态的环境往往存在以流形式不断到来的数据,包括随时间演... 详细信息

近年来,深度学习模型在众多领域取得了广泛成功.现有的深度学习模型大多部署在静态环境下,依赖提前收集好的数据集进行离线训练,模型一经确定,便无法进一步更新.然而,现实中开放动态的环境往往存在以流形式不断到来的数据,包括随时间演进不断产生的新类别数据.因此,理想的机器学习模型应能够从流式数据中不断学习新类,从而增强自身的判别能力.这样的学习范式被称作“类别增量学习”(class-incremental learning),且近年来已成为机器学习领域的研究热点.面对流式数据,直接使用新类别样本训练模型会使其遗忘旧类别的数据,造成整体性能的下降.因此,设计增量学习模型时,需确保模型在学习新类的同时也能够抵抗灾难性遗忘.本文从机器学习的三个重要方面(数据层面、参数层面、算法层面)着眼,总结和归纳近几年基于深度学习的类别增量学习算法.此外,本文还在基准数据集上对10种典型算法进行了实验验证,并从中总结出适应类别增量学习的一般性规律.最后,本文对基于深度学习的类别增量学习算法目前存在的挑战加以分析,并展望未来的发展趋势.

关键词：类别增量学习持续学习开放动态环境灾难性遗忘模型复用

在线全文

学校读者我要写书评

暂无评论

基于强模态辅助的弱模态图像概念分类及检测

南京大学学报（自然科学版） 2014年第2期50卷 228-234页

作者：邹晓川叶翰嘉詹德川南京大学计算机软件新技术国家重点实验室南京210023

在对图像中的主要描述物体进行检测或者对图像进行分类时需要利用多种不同类型的图像特征,例如HoG、BoW等.从多模态学习的角度来说就是需要对多种不同通道的特征加以利用.虽然将多种特征协同使用可以提升图像中物体检测或者图像分类的性... 详细信息

在对图像中的主要描述物体进行检测或者对图像进行分类时需要利用多种不同类型的图像特征,例如HoG、BoW等.从多模态学习的角度来说就是需要对多种不同通道的特征加以利用.虽然将多种特征协同使用可以提升图像中物体检测或者图像分类的性能,但提取多种模态特征需要使耗费大量时间,难以满足实时性要求较高的环境(移动设备,网络搜索等)的要求.本文提出在训练阶段利用强模态的特征来辅助较弱的模态进行学习,通过让弱模态的分类器能够在大量的未标注样本上取得和强模态一致的效果,从而增强弱模态分类器的泛化性能;同时在测试阶段,只需提取弱模态特征,就可以利用使用弱模态特征的分类器进行预测,并达到较好的效果.在INRIA person和caltech101数据上的实验表明,本文的方法在测试时由于只使用了相对抽取开销小的弱模态特征,从而可以应用在实时性要求较高的环境,同时还带来了泛化性能的提升.

关键词：图像分类物体检测多模态学习

在线全文

学校读者我要写书评

暂无评论

谁的角？

为了孩子（2-7岁）（下） 2011年第6期 52-53页

作者：赵凡谊詹德川（摄影）

鹿、牛和羊的头上都会长角，弯弯、长长、卷卷，模样各不相同，你看得出这些角是谁的吗？

关键词：儿童智力游戏内容介绍游戏规则