检索结果-南通市图书馆

西安交通大学学报 2018年第6期52卷 36-41,113页

作者：高榕张良梅魁志西安交通大学电子与信息工程学院西安710049

针对开源深度学习快速特征嵌入的卷积框架(Caffe)在Android移动端进行前向计算时存在的兼容性和时间性能差的问题,提出了基于Caffe的嵌入式同构、异构并行化改进设计方法。该方法将Caffe及其第三方库通过交叉编译移植到嵌入式移动平台后... 详细信息

针对开源深度学习快速特征嵌入的卷积框架(Caffe)在Android移动端进行前向计算时存在的兼容性和时间性能差的问题,提出了基于Caffe的嵌入式同构、异构并行化改进设计方法。该方法将Caffe及其第三方库通过交叉编译移植到嵌入式移动平台后,利用同构的多核多线程方法分别对卷积层、输入帧之间的部分前向计算过程进行了并行化;实现了采用开放运算语言(OpenCL)的异构图形处理器(GPU)卷积计算,进一步提升了框架的处理速度。对3种经典的深度神经网络模型MNIST、Cifar-10和CaffeNet进行了测试对比,测试结果表明:在没有任何模型精度损失的条件下,并行后的前向计算耗时明显低于并行前,时间性能提升最高达到2倍。所提方法能够将深度学习框架Caffe高效地、并行地部署和应用于嵌入式移动多核芯片上。

关键词：深度学习移动端前向计算并行 OpenCL

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

基于BWDSP平台的DNN模型计算与部署优化研究

基于BWDSP平台的DNN模型计算与部署优化研究

引用

作者：杨江平中国科学技术大学

学位级别：硕士

近些年来,得益于计算力与数据量的大规模提升,深度神经网络在图像分类、目标检测和语音识别等领域取得了超越人类的表现成果。目前许多研究人员与开发者纷纷将深度学习技术这项技术产业化,移动设备、嵌入式系统和众多加速器等一系列硬... 详细信息

近些年来,得益于计算力与数据量的大规模提升,深度神经网络在图像分类、目标检测和语音识别等领域取得了超越人类的表现成果。目前许多研究人员与开发者纷纷将深度学习技术这项技术产业化,移动设备、嵌入式系统和众多加速器等一系列硬件设施渐渐成为这一技术落地首选平台。然而,这些平台的计算能力与存储空间十分有限,直接将深度神经网络模型部署到这类资源受限的平台会面临诸多困难。为了解决深度学习存储和计算问题,一个方案则是将模型交给云端处理计算任务,因此,终端设备主要任务是只需要关注数据通信,发送图像和接收结果。然而,该方案不仅依赖于网络稳定性能,同时会导致个人隐私的泄露。因此目前许多研究人员从计算效率和模型压缩两个角度出发,以降低深度学习模型在终端设备上计算与部署的成本过高等问题。而在众多嵌入式处理器中,数字信号处理器DSP的计算能力相对较强,和其他处理器相比,更适合处理深度学习这类计算密集型任务。针对这一研究课题,本文基于嵌入式处理器BWDSP提出了DNN模型高效计算与快速部署等一系列优化策略,并开发出一套深度学习计算库bwDNN和将工作负载从上层描述映射到底层BWDSP硬件平台的编译部署框架BWVM。本文的主要研究成果包括:1.实现并优化了基于BWDSP计算平台的深度学习计算库bwDNN,包括前向计算模块、反向计算模块、数学运算模块和内存管理模块等。实验结果表明,卷积计算与反卷积计算在BWDSP平台其最高计算性能可达到11.07GFLOPS,约为BWDSP平台理论计算性能的86.5%;同时bwDNN计算库在等效负载与资源下,其计算性能是Intel深度学习计算库MKL-DNN的1.96到2.30倍。2.设计了一个基于模型大小与硬件资源共同约束下的模型裁剪策略,该策略对上层深度学习框架Tensorflow描述并构建好的预训练模型进行模型压缩,并综合模型自身大小和目标硬件资源,给出模型中每一层的压缩率,使得压缩后得到的轻量级模型可以在资源受限的BWDSP上高效运行。实验发现,本文提出的模型压缩率和其他已有的几种经验策略相比,在计算裁剪量均减少50%后,本文提出的裁剪策略在CIFAR-10数据集上的正确率要优于统一压缩、浅层策略和深层策略这些基于经验的裁剪规则。3.提出了一个从顶层模型描述到后端硬件的自动化编译部署工具,它是一个后端基于BWDPS处理器的编译部署框架BWVM,该框架包括深度学习框架模型计算图的解析与重构、计算图优化以及目标平台代码生成等步骤。通过实验测试,图优化和代码自动生成等优化措施可以有效提升代码质量,相比bwDNN计算库中手写的卷积代码,BWVM框架生成的代码的硬件资源利用率约提升7.3%,访存开销降低了8.4%。综上,本文通过上述三点内容描述了深度神经网络在DSP嵌入式平台上的部署及离线推断等AI相关任务执行。本文主要研究了深度学习模型的运行、微调与优化,以期快速实现实时推断;同时开展了从上层用户接口、神经网络中间表示、优化和到底层代码生成等软件栈的研究。

关键词：深度神经网络前向计算反向计算模型压缩计算图优化编译部署

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于FPGA的高能效比LSTM预测算法加速器的设计与实现

基于FPGA的高能效比LSTM预测算法加速器的设计与实现

引用

作者：张奕玮中国科学技术大学

学位级别：硕士

如今,人工智能已经成为了计算机应用领域最为重要的学科之一。由于其在很多领域表现出强大的学习和处理能力,人工智能技术逐渐在各类实际应用中代替人类完成那些需要人的思维才能完成的工作。作为实现人工智能的重要方法,机器学习如今... 详细信息

如今,人工智能已经成为了计算机应用领域最为重要的学科之一。由于其在很多领域表现出强大的学习和处理能力,人工智能技术逐渐在各类实际应用中代替人类完成那些需要人的思维才能完成的工作。作为实现人工智能的重要方法,机器学习如今也愈来愈受研究者们的重视,并在工业界得到广泛应用,例如人脸识别、语音识别、机器翻译以及内容推荐等等功能都离不开机器学习的参与。人工神经网络模型在实际应用中取得了优异的效果,成为了机器学习领域最为常用的模型。神经网络的种类非常繁多,目前最为主流的神经网络模型包括DNNs,CNNs以及LSTM等,而LSTM由于其固有的时序特性,在语音识别、语义分析、图像识别等领域都有应用。LSTM网络的特点是存在大量连接,参数规模巨大,并且计算过程也较为复杂。如何实现高性能、低功耗的LSTM神经网络是当前学术界和工业界的热点问题之一,其中采用低功耗硬件实现神经网络加速器便是有效的解决办法。作为一种硬件加速手段,FPGA的高性能和低功耗的特点使其被广泛应用。本文基于FPGA设计与实现了一款LSTM神经网络预测算法的硬件加速器,主要工作包括:1.分析LSTM神经网络前向计算部分的运算逻辑,将其分解为不同的运算模块,并分析每个模块的算法特性。2.针对每个运算模块分别设计FPGA硬件运算单元。采用流水线方法对运算过程进行并行加速,以提高加速器的吞吐率。最终实现LSTM神经网络的硬件加速器设计。3.针对较大规模的LSTM网络需要消耗大量存储资源的情况,本文采用剪枝-重训练方法对其进行了压缩处理,并根据剪枝后的LSTM网络设计专门的稀疏神经网络加速器。4.实验验证本文的LSTM硬件加速器设计,基于FPGA的常规/稀疏LSTM网络加速器与CPU平台进行对比,测试运算吞吐率和功耗等性能数据,并对FPGA硬件实现的资源消耗进行分析。此外使用数据集,测试剪枝手段对LSTM神经网络预测精度效果的影响。

关键词： FPGA 加速器低功耗神经网络前向计算 LSTM 稀疏网络

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

一种基于前向计算的动态程序切片方法

引用

计算机科学 2014年第1期41卷 250-253,278页

作者：王兴亚姜淑娟鞠小林邵浩然中国矿业大学计算机科学与技术学院徐州221116 南通大学计算机科学与技术学院南通226019

动态程序切片技术是一种重要的程序分析技术,在软件分析、测试与调试过程中有着广泛的应用。给出一种基于前向计算的动态程序切片方法,该方法首先在对当前执行语句进行定义使用分析的基础上计算该语句定义变量的影响集,其次计算该语句... 详细信息

动态程序切片技术是一种重要的程序分析技术,在软件分析、测试与调试过程中有着广泛的应用。给出一种基于前向计算的动态程序切片方法,该方法首先在对当前执行语句进行定义使用分析的基础上计算该语句定义变量的影响集,其次计算该语句的直接动态依赖关系,最后计算当前执行语句中变量的动态切片。根据该方法设计并实现了一个Java动态程序切片系统,基于一组基准测试程序开展了切片实验,并与已有的切片方法进行了比较。实验结果表明,该方法可以得到比较精确的动态程序切片结果。

关键词：动态切片前向计算程序依赖性三地址码

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：