检索结果-南通市图书馆

面向多功能张量加速器的细粒度结构化稀疏设计

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

西安交通大学学报 2024年

作者：赵桦筝庞善民赵英海华高晖李晨阳段战胜梅魁志西安交通大学软件学院北京华航无线电测量研究所西安交通大学自动化科学与工程学院西安交通大学人工智能学院

为解决模型压缩算法与多功能张量加速器（VTA）的适配性问题，通过改进经典的YOLObile分块剪枝方法，完成面向该加速器的自适应细粒度结构化稀疏设计及性能评估。针对VTA的多重循环维度展开特性，对模型的权重张量进行32×32大小的分块... 详细信息

为解决模型压缩算法与多功能张量加速器（VTA）的适配性问题，通过改进经典的YOLObile分块剪枝方法，完成面向该加速器的自适应细粒度结构化稀疏设计及性能评估。针对VTA的多重循环维度展开特性，对模型的权重张量进行32×32大小的分块；结合时间维度的自蒸馏与空间维度的教师蒸馏，进行多维度特征对齐；通过一阶段式迭代训练方式，改进原有的ADMM算法计算流程，在提升模型部署精度的同时减少训练成本；提出自适应层剪枝率模块，进行总剪枝率的自适应分配，实现端到端的自动化剪枝。结果表明：改进方法有效减少了约3.4%的浮点计算量，并在图像分类、目标检测等多项任务中提升了压缩模型的精度，最大增益为1.9%。该方法为深度学习模型在VTA上的稀疏化部署提供了一种高效、轻量级的软件解决方案。

关键词：神经网络轻量化模型稀疏化深度学习 VTA 模型部署

基于Transformer结构增强的神经网络架构搜索性能预测器

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

计算机学报 2024年第7期47卷 1469-1484页

作者：王继禾吴颖迟恒喆王党辉梅魁志西北工业大学计算机学院西安710129 嵌入式系统集成教育部工程中心西安710129 空天地海一体化大数据应用技术国家工程实验室西安710129 西安交通大学人工智能与机器人研究所西安710049

神经网络架构搜索(Neural Architecture Search,NAS)作为一种通过搜索算法设计神经网络架构的方法,在计算机视觉和自然语言处理等领域得到广泛应用,相较于人工设计网络,NAS方法可以减少设计成本并提高模型性能.但是NAS的性能评估需要对... 详细信息

神经网络架构搜索(Neural Architecture Search,NAS)作为一种通过搜索算法设计神经网络架构的方法,在计算机视觉和自然语言处理等领域得到广泛应用,相较于人工设计网络,NAS方法可以减少设计成本并提高模型性能.但是NAS的性能评估需要对候选架构进行大量训练,由此带来的计算量占整个NAS的80%以上.为降低计算开销和时间成本,近年来已提出许多基于Transformer的NAS预测器,由于Transformer出色的结构编码能力可以更好地表示拓扑信息,因而得到广泛应用.但是,现有基于Transformer的NAS预测器依然存在三个问题:其一是在预处理阶段,传统的One-hot编码方式描述节点特征的能力较弱,只能区分不同操作节点类型,而难以表达操作的细节特征,如卷积核尺寸等.其二是在编码阶段,Transformer的自注意力机制导致模型结构信息缺失;其三是在评估阶段,现有的Transformer预测器仅使用多层感知机(MultilayerPerceptron,MLP)对前向传播图进行精度预测,忽略了反向传播梯度流对预测精度的影响,因此难以真正拟合NAS评估中的正、反向交替信息流图,导致预测器精度与实际运行精度误差波动极大(10%~90%).为解决上述问题,本文提出了一种基于Transformer结构增强的NAS性能预测方法.首先,在预处理阶段,本文提出了一种超维嵌入方法增加输入数据维度以强化节点操作的参数描述能力,其次,在编码阶段将Transformer编码后的信息与图结构信息共同输人一个图卷积网络(GraphConvolutional Network,GCN),弥补由自注意力机制引起的结构缺失.最后,在性能评估阶段,本文构建了同时包含前向传播和反向传播的全训练图,并将数据集信息、图结构编码与梯度编码共同输入到GCN网络预测器中,使预测结果更贴近模型真实性能.实验结果表明,本方法与目前最先进方法相比,肯德尔相关系数提高了7.45%,训练时间减少了1.55倍。

关键词：预测器 NAS Transformer GCN Embedding

一种面向写穿透Cache的写合并设计及验证

维普期刊数据库评论

在线全文

维普期刊数据库

学校读者我要写书评

暂无评论

西安交通大学学报 2010年第4期44卷 1-4页

作者：梅魁志李国辉张斌西安交通大学人工智能与机器人研究所西安710049

为了利用片上缓冲技术来提高处理器应用性能,提出一种面向写穿透Cache的写合并设计方法.使用同步动态随机存储器(SDRAM)的单个写方式和片上写缓冲器,对SDRAM一行内的局部数据采用写合并策略,由此提高了外部存储的访问效率,同时给出了连... 详细信息

为了利用片上缓冲技术来提高处理器应用性能,提出一种面向写穿透Cache的写合并设计方法.使用同步动态随机存储器(SDRAM)的单个写方式和片上写缓冲器,对SDRAM一行内的局部数据采用写合并策略,由此提高了外部存储的访问效率,同时给出了连续和单个Cache读写的缓存与内存的数据一致性策略.在寄存器传输语言(RTL)仿真环境下使用mp3解码对Leon2处理器进行数据测试,结果表明:在缓冲区优化为3行8列的参数下,SDRAM每次行开启平均进行7.8个字的写入操作,外存的读写效率由12%提高到19%;在TSMC0.18μm工艺下,综合后面积为0.263mm2,流片后工作主频为100MHz.

关键词：写穿透写合并处理器同步读写存储器读写效率

在线全文

学校读者我要写书评

暂无评论

仿生物视觉的非均匀采样方法及其硬件设计

西安交通大学学报 2010年第6期44卷 99-103页

作者：张斌梅魁志郭青西安交通大学人工智能与机器人研究所西安710049

利用生物的选择注意机制可减少计算量的优势,提出了仿生物视觉的非均匀采样方法并实现了硬件设计.利用基于高斯函数的模型模拟了生物视觉的选择性响应特性,由此得到采样层优先和采样密度优先的2种非均匀采样表达式.在视觉处理芯片中,根... 详细信息

利用生物的选择注意机制可减少计算量的优势,提出了仿生物视觉的非均匀采样方法并实现了硬件设计.利用基于高斯函数的模型模拟了生物视觉的选择性响应特性,由此得到采样层优先和采样密度优先的2种非均匀采样表达式.在视觉处理芯片中,根据人眼特性并利用采样密度优先的方法,将图像分为4层进行非均匀采样和数据传送.实验表明:较之已有的非均匀采样方法,所提方法更具生物视觉特性和物理可实现性,并具有较高的压缩率;当注视点为图像中心时,数据压缩率达到了1/28;利用任意选取注视点得到的非均匀采样数据恢复的图像效果符合人眼视觉特性.

关键词：仿生物视觉视觉处理芯片非均匀采样

在线全文

学校读者我要写书评

暂无评论

基于置信度评估的Cache污染过滤技术

高技术通讯 2011年第6期21卷 644-651页

作者：张骏梅魁志赵季中西安交通大学电子与信息工程学院西安710049

对多内核共享L2cache时的cache污染问题进行了研究，认为内核猜测执行预测路径上的访存指令导致的cache污染会严重影响处理器性能。提出了一种基于置信度评估的cache污染过滤技术FCPC，该技术置信度评估机制对条件分支进行动态评估，并... 详细信息

对多内核共享L2cache时的cache污染问题进行了研究，认为内核猜测执行预测路径上的访存指令导致的cache污染会严重影响处理器性能。提出了一种基于置信度评估的cache污染过滤技术FCPC，该技术置信度评估机制对条件分支进行动态评估，并为每个cache数据行新增两个标志位——置信度评估标志（CET）和访问指示标志（AHT），根据评估结果将预测路径上的访存指令及其访存数据分别标识为高置信度和低置信度。在cache替换操作时根据CET和AHT就能优先将污染数据替换出去，增加了cache空间的有效利用率，从而提升IPC和cache命中率。实验结果表明，FCPC策略能够将IPC性能提升0．18％～4．86％，平均提升1．91％；同时能够将降低L2cache缺失率降低0．65％～5．76％．平均降低2．57％。

关键词：片上多核处理器存储系统置信度评估 cache污染

基于Caffe的嵌入式多核处理器深度学习框架并行实现

维普期刊数据库评论

在线全文

维普期刊数据库

学校读者我要写书评

暂无评论

西安交通大学学报 2018年第6期52卷 36-41,113页

作者：高榕张良梅魁志西安交通大学电子与信息工程学院西安710049

针对开源深度学习快速特征嵌入的卷积框架(Caffe)在Android移动端进行前向计算时存在的兼容性和时间性能差的问题,提出了基于Caffe的嵌入式同构、异构并行化改进设计方法。该方法将Caffe及其第三方库通过交叉编译移植到嵌入式移动平台后... 详细信息

针对开源深度学习快速特征嵌入的卷积框架(Caffe)在Android移动端进行前向计算时存在的兼容性和时间性能差的问题,提出了基于Caffe的嵌入式同构、异构并行化改进设计方法。该方法将Caffe及其第三方库通过交叉编译移植到嵌入式移动平台后,利用同构的多核多线程方法分别对卷积层、输入帧之间的部分前向计算过程进行了并行化;实现了采用开放运算语言(OpenCL)的异构图形处理器(GPU)卷积计算,进一步提升了框架的处理速度。对3种经典的深度神经网络模型MNIST、Cifar-10和CaffeNet进行了测试对比,测试结果表明:在没有任何模型精度损失的条件下,并行后的前向计算耗时明显低于并行前,时间性能提升最高达到2倍。所提方法能够将深度学习框架Caffe高效地、并行地部署和应用于嵌入式移动多核芯片上。

关键词：深度学习移动端前向计算并行 OpenCL

在线全文

学校读者我要写书评

暂无评论

机器人持续学习进展与展望

智能科学与技术学报 2022年第3期4卷 308-323页

作者：赵超许杰陈星宇梅魁志兰旭光西安交通大学人工智能与机器人研究所陕西西安710049 西安交通大学人工智能学院陕西西安710049

当前机器人技术面临的较大限制之一是难以适应不断变化的任务,当机器人面对新环境或者学习新任务时,会不可避免地遗忘旧环境或旧任务的经验。为了总结机器人持续学习的研究和发展现状,首先介绍了持续学习的框架和评价基准,然后阐述了持... 详细信息

当前机器人技术面临的较大限制之一是难以适应不断变化的任务,当机器人面对新环境或者学习新任务时,会不可避免地遗忘旧环境或旧任务的经验。为了总结机器人持续学习的研究和发展现状,首先介绍了持续学习的框架和评价基准,然后阐述了持续学习在机器人任务中的必要性和面临的挑战,并对持续学习的发展现状进行了回顾,最后展望了机器人持续学习的发展前景,提出了一些有价值的研究问题。

关键词：持续学习终身学习机器人

基于JPEG2000芯片的小波系数存储器设计

在线全文

学校读者我要写书评

暂无评论

西安交通大学学报 2004年第10期38卷 1072-1075页

作者：梅魁志郑南宁王勇曹非兰旭光西安交通大学人工智能与机器人研究所西安710049

针对JPEG2000芯片设计中的完全小波系数存储占用大量存储器问题,在小波变换总体结构中对小波系数的LH、HL和HH子带采用双缓存的物理存储结构.为了解决由此产生的写覆盖,首先建立小波滤波器的时序模型,得到输入输出延时时钟数,根据此时... 详细信息

针对JPEG2000芯片设计中的完全小波系数存储占用大量存储器问题,在小波变换总体结构中对小波系数的LH、HL和HH子带采用双缓存的物理存储结构.为了解决由此产生的写覆盖,首先建立小波滤波器的时序模型,得到输入输出延时时钟数,根据此时钟数和缓存标志位的状态决定其输入地址发生器的地址产生,以实现可控的小波滤波器输出.在图像大小为256×256像素、码块大小为16×16像素时,与完全系数存储结构相比,该结构可节约片上存储器达576kb.通过对子带内小波系数的分布模型和缓存内的位平面数统计分析表明,该结构对编码并行性的影响较小,仿真实验同时证明了并行效率的降低不会超过2%.

关键词： JPEG2000 离散小波变换小波系数存储双缓存并行效率

在线全文

学校读者我要写书评

暂无评论

一种同步流水算术编码器的设计

西安交通大学学报 2004年第4期38卷 331-334,356页

作者：梅魁志郑南宁兰旭光姚霁西安交通大学人工智能与机器人研究所西安710049

针对JPEG2000标准中的算术编码器实现时,在上下文(CX)表更新、归一化及字节输出过程中具有返回或等待路径问题,提出一种新的同步流水算术编码器设计方案.该方案采用4步流水线设计,通过流水线操作的时序分析,得到了CX表的单步更新方法,... 详细信息

针对JPEG2000标准中的算术编码器实现时,在上下文(CX)表更新、归一化及字节输出过程中具有返回或等待路径问题,提出一种新的同步流水算术编码器设计方案.该方案采用4步流水线设计,通过流水线操作的时序分析,得到了CX表的单步更新方法,并设计了一种树型搜索的寄存器的短延时0位检测电路.引入多路选择器来加速实现任意位左移,在提高主关键路径并行性的同时,采用了多种方法对寄存器传输级代码进行优化.实验表明,在EP1S25B672C7上,最高工作时钟可达107.91MHz.

关键词：算术编码器流水线关键路径