检索结果-南通市图书馆

基于知识增强对比学习的长尾用户序列推荐算法

同方期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

通信学报 2024年第6期45卷 210-222页

作者：任永功周平磊张志鹏辽宁师范大学计算机与人工智能学院辽宁大连116029

序列推荐根据目标用户的历史交互序列,预测其可能感兴趣的下一个物品。现有的序列推荐方法虽然可以有效捕获用户的历史交互序列中的长期依赖关系,但是无法为交互序列较短且用户数量庞大的长尾用户提供精确推荐。为了解决此问题,提出了... 详细信息

序列推荐根据目标用户的历史交互序列,预测其可能感兴趣的下一个物品。现有的序列推荐方法虽然可以有效捕获用户的历史交互序列中的长期依赖关系,但是无法为交互序列较短且用户数量庞大的长尾用户提供精确推荐。为了解决此问题,提出了一种基于知识增强对比学习的长尾用户序列推荐算法。首先,基于知识图谱中的丰富实体关系信息,构建一个基于语义的物品相似度度量,分别提取原始序列中物品的协同关联物品。然后,基于不同学习序列提出2种序列增强算子,通过增强自监督信号解决长尾用户序列训练数据不足的问题。最后,通过对比自监督任务和推荐主任务的网络参数共享的联合训练,为长尾用户提供更精确的序列推荐结果。在实际数据集上的实验结果表明,所提算法可以有效提高针对长尾用户的序列推荐精度。

关键词：序列推荐长尾用户知识图谱对比学习

在线全文

学校读者我要写书评

暂无评论

统一全局空间表达的脑电信号跨被试情感识别

电子学报 2023年第5期51卷 1396-1404页

作者：张晶王翌歆任永功辽宁师范大学计算机与信息技术学院辽宁大连116081

脑电信号(ElectroEncephaloGram, EEG)的跨被试情感识别,充分利用EEG信号库中大规模信息,并避免单被试模型训练对被试数据过度依赖产生的模型失效等问题,进一步推广了脑电识别的广泛应用.然而,不同被试生理与心理等客观差异加剧了模型... 详细信息

脑电信号(ElectroEncephaloGram, EEG)的跨被试情感识别,充分利用EEG信号库中大规模信息,并避免单被试模型训练对被试数据过度依赖产生的模型失效等问题,进一步推广了脑电识别的广泛应用.然而,不同被试生理与心理等客观差异加剧了模型建立难度.基于此,本文提出统一全局空间表达(Unified Global Spatial Representation, UGSR)的跨被试识别模型.本文构建自适应在线自编码网络,通过对时序数据增量学习,提取EEG信号潜在统一特征,实现生理偏差校正.进一步,本文利用格拉姆角场(Gramian Angular Fields, GAF)转换局部时序特征为全局连续空间表达,避免相同环境下因被试心理差异产生反应信号时序不一致等问题,并建立全局注意力机制的深度卷积神经网络,获得更具判别性的非线性样本表达,提升识别精度.本文模型被验证在流行的脑电信号数据集上,并获得了更好的跨被试识别精度与泛化性.

关键词：脑电信号情感识别跨被试识别自编码网络卷积神经网络注意力机制

基于双生成器网络的Data-Free知识蒸馏

在线全文

学校读者我要写书评

暂无评论

计算机研究与发展 2023年第7期60卷 1615-1627页

作者：张晶鞠佳良任永功辽宁师范大学计算机与人工智能学院辽宁大连116081

知识蒸馏(knowledge distillation,KD)通过最大化近似输出分布使“教师网络”指导“学生网络”充分训练,成为大规模深度网络近端迁移、部署及应用的重要技术.然而,隐私保护意识增强与传输问题加剧使网络训练数据难以获取.如何在Data-Fre... 详细信息

知识蒸馏(knowledge distillation,KD)通过最大化近似输出分布使“教师网络”指导“学生网络”充分训练,成为大规模深度网络近端迁移、部署及应用的重要技术.然而,隐私保护意识增强与传输问题加剧使网络训练数据难以获取.如何在Data-Free的自由环境下,保证压缩网络准确率成为重要的研究方向.Data-Free学生网络学习(data-free learning of student networks,DAFL)模型,建立“教师”端生成器获得与预训练网络分布近似的伪数据集,通过知识蒸馏训练“学生网络”.然而,该框架中生成器构建及优化仍存在2个问题:1)过度信任“教师网络”对缺失真实标签伪样本的判别结果,同时,“教师网络”与“学生网络”优化目标不同,使“学生网络”难以获得准确、一致的优化信息;2)仅依赖于“教师网络”训练损失,导致数据特征多样性缺失,降低“学生网络”泛化性.针对这2个问题,提出双生成器网络架构DG-DAFL(double generators-DAFL),分别建立“教师”与“学生”端生成器并同时优化,实现网络任务与优化目标一致,提升“学生网络”判别性能.进一步,增加双生成器样本分布差异损失,利用“教师网络”潜在分布先验信息优化生成器,保证“学生网络”识别准确率并提升泛化性.实验结果表明,该方法在Data-Free环境中获得了更为有效且更鲁棒的知识蒸馏效果.DG-DAFL方法代码及模型已开源:https://***/LNNU-computer-research-526/DG-DAFL.git.

关键词：深度神经网络知识蒸馏无数据环境知识蒸馏对抗生成网络生成器

在线全文

学校读者我要写书评

暂无评论

A3C深度强化学习模型压缩及知识抽取

计算机研究与发展 2023年第6期60卷 1373-1384页

作者：张晶王子铭任永功辽宁师范大学计算机与人工智能学院辽宁大连116081

异步优势演员评论家(asynchronous advantage actor-critic,A3C)构建一主多从异步并行深度强化学习框架,其在最优策略探索中存在求解高方差问题,使主智能体难以保证全局最优参数更新及最佳策略学习.同时,利用百万计算资源构建的大规模... 详细信息

异步优势演员评论家(asynchronous advantage actor-critic,A3C)构建一主多从异步并行深度强化学习框架,其在最优策略探索中存在求解高方差问题,使主智能体难以保证全局最优参数更新及最佳策略学习.同时,利用百万计算资源构建的大规模并行网络,难以部署低功耗近端平台.针对上述问题,提出紧凑异步优势演员评论家(Compact_A3C)模型,实现模型压缩及知识抽取.该模型冻结并评价A3C框架中所有子智能体学习效果,将评价结果转化为主智能体更新概率,保证全局最优策略获取,提升大规模网络资源利用率.进一步,模型将优化主智能体作为“教师网络”,监督小规模“学生网络”前期探索与策略引导,并构建线性衰减损失函数鼓励“学生网络”对复杂环境自由探索,强化自主学习能力,实现大规模A3C模型知识抽取及网络压缩.建立不同压缩比“学生网络”,在流行Gym Classic Control与Atari 2600环境中达到了与大规模“教师网络”一致的学习效果.模型代码公布在https://***/meadewaking/Compact_A3C.

关键词：强化学习深度强化学习演员评论家模型异步优势演员评论家模型模型压缩

融合多尺度CNN和CRF的通用细粒度事件检测

在线全文

学校读者我要写书评

暂无评论

小型微型计算机系统 2023年

作者：任永功阎格何馨宇大连永佳电子技术有限公司博士后工作站大连理工大学通信与工程博士后研究站辽宁师范大学计算机与信息技术学院

事件检测是自然语言处理领域中事件抽取的主要任务之一，它旨在从众多非结构化信息中自动提取出结构化的关键信息.现有的方法存在特征提取不全面、特征分布不均等情况.为了提高事件检测的准确率，提出了一种融合BERT预训练模型与多尺度... 详细信息

事件检测是自然语言处理领域中事件抽取的主要任务之一，它旨在从众多非结构化信息中自动提取出结构化的关键信息.现有的方法存在特征提取不全面、特征分布不均等情况.为了提高事件检测的准确率，提出了一种融合BERT预训练模型与多尺度CNN的神经网络模型（BMCC，BERT+ Multi-scale CNN + CRF）.首先通过BERT（Bidirectional Encoder Representations from Transformers）预训练模型来进行词向量的嵌入，并利用其双向训练的Transformer机制来提取序列的状态特征；其次使用不同尺度的卷积核在多个卷积通道中进行卷积训练，以此来提取不同视野的语义信息，丰富其语义表征.最后将BIO机制融入到条件随机场（CRF）来对序列进行标注，实现事件的检测.实验结果表明，所提出的模型在MAVEN数据集上的F1值为65.17%，表现了该模型的良好性能.

关键词：事件检测 BERT 多尺度CNN 条件随机场(CRF) 交叉验证

编程教育促进儿童计算思维发展的内在机理与教学实践研究

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

电化教育研究 2022年第8期43卷 101-108页

作者：多召军刘岩松任永功辽宁师范大学计算机与信息技术学院辽宁大连116081

编程教育是培养儿童计算思维的主要方式,分析儿童编程促进计算思维发展的内在机理,有助于更加高效、精准地开展儿童编程教育。文章将编程问题解决活动作为计算思维的载体,分析了问题探索、问题表征、方案生成、计划执行、反思评价五个... 详细信息

编程教育是培养儿童计算思维的主要方式,分析儿童编程促进计算思维发展的内在机理,有助于更加高效、精准地开展儿童编程教育。文章将编程问题解决活动作为计算思维的载体,分析了问题探索、问题表征、方案生成、计划执行、反思评价五个问题解决活动与分解思维、抽象思维、程序化思维、迭代思维、概括评估思维五种计算思维之间的联系;构建了分阶段、结构化设计儿童编程学习活动的框架,以及支持结构化表征、程序化表征、图形化表征的技术环境,以小学信息技术课程“算法与程序设计模块”为例开展实证研究。研究结果显示:学生计算思维水平显著提升,且分解思维、抽象思维、程序化思维与迭代思维的提升具有相关性,说明基于问题解决过程模型结构化设计编程学习活动与技术环境,能够促进儿童计算思维要素同步发展。

关键词：计算思维儿童编程问题解决学习活动技术环境

在线全文

学校读者我要写书评

暂无评论

融合知识图谱与注意力机制的个性化序列推荐

小型微型计算机系统 2022年第7期43卷 1362-1369页

作者：任永功吕福泽张志鹏辽宁师范大学计算机与信息技术学院辽宁大连116000

序列推荐系统可以根据用户和物品交互的时间序列信息,精确预测用户下一次交互物品.现有的序列推荐算法存在用户兴趣过渡拟合的问题,导致推荐内容同质化严重,从而无法实现个性化推荐.基于此,本文提出一种融合知识图谱与注意力机制的个性... 详细信息

序列推荐系统可以根据用户和物品交互的时间序列信息,精确预测用户下一次交互物品.现有的序列推荐算法存在用户兴趣过渡拟合的问题,导致推荐内容同质化严重,从而无法实现个性化推荐.基于此,本文提出一种融合知识图谱与注意力机制的个性化序列推荐算法(SR-KGA):首先,引入知识图谱,通过图卷积网络对物品进行嵌入表示;其次,通过自注意力机制和多头注意力机制构建序列到序列(seq2seq)模型,最后,在损失函数中加入多样性正则项;实现用交互序列来预测未来可能交互的物品序列,从而进行推荐.通过在真实的数据集上实验,SR-KGA在保证推荐准确度的同时,提升了推荐列表的多样性,实现了用户个性化推荐.

关键词：序列化推荐系统知识图谱注意力机制个性化推荐

在线全文

学校读者我要写书评

暂无评论

批判性思维测评的核心要素与技术演变趋势

现代教育技术 2022年第6期32卷 81-88页

作者：任永功贾佳多召军辽宁师范大学计算机与信息技术学院辽宁大连116081

促进学生批判性思维的发展是21世纪创新人才培养的重要内容,而批判性思维测评对批判性思维发展的教学实践具有重要的导向作用。基于此,文章以批判性思维测评工具为研究对象,对国内外近十年来37篇实验研究涉及的19个批判性思维工具进行... 详细信息

促进学生批判性思维的发展是21世纪创新人才培养的重要内容,而批判性思维测评对批判性思维发展的教学实践具有重要的导向作用。基于此,文章以批判性思维测评工具为研究对象,对国内外近十年来37篇实验研究涉及的19个批判性思维工具进行对比分析,探索了K-12阶段与高等教育阶段批判性思维测评的核心要素与技术特征;同时,文章从评价取向、测评题目形式两个维度,构建四象限空间的批判性思维测评工具分类框架,梳理了结果取向的封闭性测评、结果取向的开放性测评、过程取向的封闭性测评及过程取向的开放性测评四类测评工具的关键技术及发展趋势,以期为推动批判性思维测评工具的本土化研发与规范化实践应用提供一定的参考。

关键词：批判性思维测评要素测评技术测评工具

智能教育下在线问题解决学习研究:内涵、模型与解释

在线全文

学校读者我要写书评

暂无评论

现代远距离教育 2022年第3期 70-77页

作者：多召军张嘉男任永功辽宁师范大学计算机与信息技术学院辽宁大连116081

促进学习者知识建构与能力发展的问题解决学习是智能教育时代的重要教学模式。基于现代认知心理学和建构主义的相关研究,分析了问题解决学习的内涵,梳理了多类别问题之间的联系,提出多类别问题解决学习过程模型,旨在促进问题解决学习设... 详细信息

促进学习者知识建构与能力发展的问题解决学习是智能教育时代的重要教学模式。基于现代认知心理学和建构主义的相关研究,分析了问题解决学习的内涵,梳理了多类别问题之间的联系,提出多类别问题解决学习过程模型,旨在促进问题解决学习设计规范化;基于支持问题解决的可视化技术采集伴随性、半结构化的学习行为数据,构建了问题解决学习活动分析模型以及包括多类别学习对象与技术支架的个性化推荐策略与方法,形成数据驱动问题解决学习过程分析、解释与干预的框架。研究结论可为基于问题解决的学习资源、学习环境及过程评价设计提供借鉴。

关键词：智能教育数据驱动在线学习问题解决学习