检索结果-南通市图书馆

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

一种基于窗口机制的口语理解异构图网络

软件学报 2024年第4期35卷 1885-1898页

作者：张启辰王帅李静梅哈尔滨工程大学计算机科学与技术学院黑龙江哈尔滨150001

口语理解(spoken language understanding,SLU)是面向任务的对话系统的核心组成部分,旨在提取用户查询的语义框架.在对话系统中,口语理解组件(SLU)负责识别用户的请求,并创建总结用户需求的语义框架,SLU通常包括两个子任务:意图检测(int... 详细信息

口语理解(spoken language understanding,SLU)是面向任务的对话系统的核心组成部分,旨在提取用户查询的语义框架.在对话系统中,口语理解组件(SLU)负责识别用户的请求,并创建总结用户需求的语义框架,SLU通常包括两个子任务:意图检测(intent detection,ID)和槽位填充(slot filling,SF).意图检测是一个语义话语分类问题,在句子层面分析话语的语义;槽位填充是一个序列标注任务,在词级层面分析话语的语义.由于意图和槽之间的密切相关性,主流的工作采用联合模型来利用跨任务的共享知识.但是ID和SF是两个具有强相关性的不同任务,它们分别表征了话语的句级语义信息和词级信息,这意味着两个任务的信息是异构的,同时具有不同的粒度.提出一种用于联合意图检测和槽位填充的异构交互结构,采用自注意力和图注意力网络的联合形式充分地捕捉两个相关任务中异构信息的句级语义信息和词级信息之间的关系.不同于普通的同构结构,所提模型是一个包含不同类型节点和连接的异构图架构,因为异构图涉及更全面的信息和丰富的语义,同时可以更好地交互表征不同粒度节点之间的信息.此外,为了更好地适应槽标签的局部连续性,利用窗口机制来准确地表示词级嵌入表示.同时结合预训练模型(BERT),分析所提出模型应用预训练模型的效果.所提模型在两个公共数据集上的实验结果表明,所提模型在意图检测任务上准确率分别达到了97.98%和99.11%,在槽位填充任务上F1分数分别达到96.10%和96.11%,均优于目前主流的方法.

关键词：对话系统口语理解异构图窗口机制意图检测槽位填充

基于多层优选卷积的水声信号样本自动标注方法

在线全文

学校读者我要写书评

暂无评论

哈尔滨工程大学学报 2024年第4期45卷 758-763页

作者：王红滨张帅何鸣陈夏可哈尔滨工程大学计算机科学与技术学院黑龙江哈尔滨150001 黑龙江科技大学计算机科学与信息工程学院黑龙江哈尔滨150022

针对深度学习在水声研究领域的应用中面临大数据量要求和现有样本量限制的问题,本文提出了一种多层优选卷积网络模型。通过基于相似度的优选方法选出最佳卷积核,以提取更具代表性的特征。利用探索层特征融合策略,叠加多层卷积输出,获取... 详细信息

针对深度学习在水声研究领域的应用中面临大数据量要求和现有样本量限制的问题,本文提出了一种多层优选卷积网络模型。通过基于相似度的优选方法选出最佳卷积核,以提取更具代表性的特征。利用探索层特征融合策略,叠加多层卷积输出,获取更全面的特征信息。采用约减策略优化模型,有效缩短运算时间。通过优选、特征融合和注意力机制,有效解决此类问题。实验结果表明,该模型在数据集上取得的最好的标注准确率为高基线模型1.12%;同时运行时间减少了43.5%。因此,该模型的使用提高了水声信号标注的准确率和效率。

关键词：水声信号自动标注声纹识别多层优选卷积模型时间优化注意力机制特征融合

JADE-DB:基于靶向变异的大语言模型安全通用基准测试集

同方期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

计算机研究与发展 2024年第5期61卷 1113-1127页

作者：张谧潘旭东杨珉复旦大学计算机科学技术学院上海200433

提出大语言模型安全通用基准测试集—JADE-DB,该数据集基于靶向变异方法自动化构建,能够将经验丰富的大语言模型安全测试员和多学科专家学者手工撰写的测试问题转化为高危通用问题,保持语言自然性的同时不改变其核心语义,且能够攻破十... 详细信息

提出大语言模型安全通用基准测试集—JADE-DB,该数据集基于靶向变异方法自动化构建,能够将经验丰富的大语言模型安全测试员和多学科专家学者手工撰写的测试问题转化为高危通用问题,保持语言自然性的同时不改变其核心语义,且能够攻破十余款国内外知名大语言模型的安全防护机制.根据语言复杂性差异,JADE-DB包含基础、进阶、高危3个安全测试等级,共计上千条覆盖违法犯罪、侵犯权益、歧视偏见和核心价值观4大类违规主题、30多种违规主题的通用测试问题,其中针对国内开源(中文,8款)、国内商用(中文,6款)和国外商用大语言模型(英文,4款)这3组大语言模型分别构建的3款通用高危测试集,可造成每组模型在高危测试集上的平均违规率均超过70%,测试问题均可同时触发多款模型违规生成.这表明,语言的复杂性导致现有大语言模型难以学习到人类无穷多种表达方式,因此无法识别其中不变的违规本质.

关键词：生成式人工智能安全大语言模型大语言模型安全评测人工智能安全自然语言处理

在线全文

学校读者我要写书评

暂无评论

集成学习结合多源数据预测河南省冬小麦单产

农业工程学报 2024年第4期40卷 177-185页

作者：陈一凡李璇王绍雯杨姗姗张佳华张莎青岛大学计算机科学技术学院青岛266071

为探讨基于多源数据和集成学习算法预测冬小麦单产的可行性并确定冬小麦单产预测的最佳时间窗,该研究在河南省冬小麦生长季内划分28个不同的时间窗,使用8种不同的机器学习算法及基于Stacking的集成学习算法,利用2003—2018年的多种遥感... 详细信息

为探讨基于多源数据和集成学习算法预测冬小麦单产的可行性并确定冬小麦单产预测的最佳时间窗,该研究在河南省冬小麦生长季内划分28个不同的时间窗,使用8种不同的机器学习算法及基于Stacking的集成学习算法,利用2003—2018年的多种遥感指数数据、气象数据进行训练并预测2019—2021年单产。结果表明:引入日光诱导叶绿素荧光(solar-induced chlorophyll fluorescence,SIF)特征可以提升河南省冬小麦单产的预测效果;12月至次年5月为机器学习算法预测冬小麦单产的最佳时间窗;Stacking集成学习算法比其他单机器学习算法更适用于河南省县级尺度冬小麦单产预测,预测结果的决定系数为0.816,均方根误差和平均绝对误差分别为580.36和476.01 kg/hm^(2);河南省冬小麦实际单产的空间分布呈西低东高的趋势,预测的单产分布特征与实际单产分布特征相当。研究结果可为冬小麦单产预测提供一种新的方法,也为农作物单产预测模型构建提供新的思路。

关键词：机器学习遥感冬小麦 Stacking集成学习单产预测最佳时间窗

在线全文

学校读者我要写书评

暂无评论

大型语言模型:原理、实现与发展

计算机研究与发展 2024年第2期61卷 351-361页

作者：舒文韬李睿潇孙天祥黄萱菁邱锡鹏复旦大学计算机科学技术学院上海200433

近年来,大型语言模型的出现和发展对自然语言处理和人工智能领域产生了变革性影响.随着不断增大模型参数量和训练数据量,语言模型的文本建模困惑度以可预测的形式降低,在各类自然语言处理任务上的表现也持续提升.因此,增加语言模型的参... 详细信息

近年来,大型语言模型的出现和发展对自然语言处理和人工智能领域产生了变革性影响.随着不断增大模型参数量和训练数据量,语言模型的文本建模困惑度以可预测的形式降低,在各类自然语言处理任务上的表现也持续提升.因此,增加语言模型的参数和数据规模成为提升系统智能水平富有前景的途径.首先回顾了大型语言模型的基本定义,从模型表现和算力需求的角度给出了“大型”语言模型的界定标准.其次,从数据、算法、模型3个维度梳理了大型语言模型的发展历程及规律,展示了不同阶段各个维度的规模化如何推动语言模型的发展.接着,考察了大型语言模型所表现出的涌现能力,介绍了思维链、情景学习和指令遵循等关键涌现能力的相关研究和应用现状.最后,展望了大型语言模型的未来发展和技术挑战.

关键词：自然语言处理神经网络大型语言模型预训练对齐

在线全文

学校读者我要写书评

暂无评论

基于预训练和多模态融合的假新闻检测

计算机工程 2024年第1期50卷 289-295页

作者：周昊玮刘勇玄萍黑龙江大学计算机科学与技术学院黑龙江哈尔滨150080 汕头大学工学院计算机科学与技术系广东汕头515063

现有的多模态检测模型通常对每个模态的特征进行简单拼接,不能对模态之间的相关性进行有效建模,而且很难迁移到标签稀少的领域。提出一种基于预训练和多模态融合的假新闻检测模型PMFD。提取新闻附带图像不同区域的特征作为图像原始向量... 详细信息

现有的多模态检测模型通常对每个模态的特征进行简单拼接,不能对模态之间的相关性进行有效建模,而且很难迁移到标签稀少的领域。提出一种基于预训练和多模态融合的假新闻检测模型PMFD。提取新闻附带图像不同区域的特征作为图像原始向量,合并图像原始向量作为图像引导向量,设计早期融合、中期融合、后期融合3种不同的多模态融合方式。在早期融合阶段,通过图像引导向量初始化文本特征提取器,获取文本原始向量,合并文本原始向量作为文本引导向量。在中期融合阶段,使用模态的原始向量集合与其他模态的引导向量构造模态的特征表示。在后期融合阶段,融合不同模态的特征表示,构造新闻的特征表示。为提高模型的泛化能力,在标签丰富的数据上对PMFD进行预训练,然后再在标签稀少的数据上对PMFD进行微调。在公开数据集上的实验结果表明,PMFD能有效检测假新闻结果,相对传统模型CNN、LSTM、BERT等有10%以上的提升,相对EANN、M_model多模态假新闻检测模型有2%~3%的提升。

关键词：假新闻检测预训练多模态融合引导向量跨模态共享特征阶段融合

在线全文

学校读者我要写书评

暂无评论

行为增强的多层次协同Top-N推荐

哈尔滨工程大学学报 2024年第6期45卷 1119-1126页

作者：刘宇鹏吕衍河哈尔滨理工大学计算机科学与技术学院黑龙江哈尔滨150001

传统推荐系统只利用单一用户行为,然而用户行为间是具有关联性,忽视用户行为会丢失辅助行为对目标行为的影响。本文提出了一种行为增强的多层次协同Top-N推荐,在推荐二分图和元路径图上利用注意力机制传播信息,学习多层次高阶和异质协... 详细信息

传统推荐系统只利用单一用户行为,然而用户行为间是具有关联性,忽视用户行为会丢失辅助行为对目标行为的影响。本文提出了一种行为增强的多层次协同Top-N推荐,在推荐二分图和元路径图上利用注意力机制传播信息,学习多层次高阶和异质协同信号(包括用户-项目间的和项目间的)以提高推荐性能,这样可以更好地利用推荐图结构,并充分考虑到推荐图结构上各种行为间的相互影响。在经典数据集上做了全方位实验验证模型有效性,在电商推荐数据上取得了很好效果。

关键词：辅助行为多行为图神经网络元路径图用户-项目传播层目标行为高阶异质信号

维普期刊数据库博看期刊

SL-tgStore:新的时序知识图谱存储模型

在线全文

学校读者我要写书评

暂无评论

浙江大学学报（工学版） 2024年第3期58卷 449-458页

作者：李松王哲张丽平哈尔滨理工大学计算机科学与技术学院黑龙江哈尔滨150080

为了解决时序知识图谱的存储问题,提出结合快照和日志模式的时序知识图谱存储模型SL-tgStore.模型由若干时间桶组成,每个时间桶由一系列的时间窗口组成.在首个时间窗口引入初始快照作为时序知识图谱存储和处理的基本单元,在接下来的时... 详细信息

为了解决时序知识图谱的存储问题,提出结合快照和日志模式的时序知识图谱存储模型SL-tgStore.模型由若干时间桶组成,每个时间桶由一系列的时间窗口组成.在首个时间窗口引入初始快照作为时序知识图谱存储和处理的基本单元,在接下来的时间窗口存储为增量日志.提出相应的阈值来确定初始快照的生成,即生成一个新的时间桶,以达到初始快照数量与增量日志数量的平衡,并提出临时快照生成算法.所提模型能够有效解决快照存储模式消耗内存大,日志存储模式查询效率低的问题.为了对SL-tgStore模型进行高效查询,在此基础上提出4种索引结构.在4个真实数据集上进行实验,理论研究与实验结果表明所提出的SL-tgStore存储模型具有高效性.

关键词：时序知识图谱资源描述框架(RDF) 存储模型日志模式快照模式