检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

深度学习算法的异构加速研究

深度学习算法的异构加速研究

作者：陈世兴北京化工大学

学位级别：硕士

本文主要实现了对深度学习算法中的故障诊断任务进行异构加速研究,根据卷积神经网络的结构特点,结合FPGA的计算优势,在ZYNQ-XC7Z020 SOC异构硬件平台上硬化实现了卷积神经网络。系统采用软硬件协同设计的方式,在可编程系统(Programming ... 详细信息

本文主要实现了对深度学习算法中的故障诊断任务进行异构加速研究,根据卷积神经网络的结构特点,结合FPGA的计算优势,在ZYNQ-XC7Z020 SOC异构硬件平台上硬化实现了卷积神经网络。系统采用软硬件协同设计的方式,在可编程系统(Programming System,PS)部分完成轴承振动信号数据的输入、存储和显示,在可编程逻辑(Programmable Logic,PL)部分实现CNN的异构计算加速。通过对网络计算过程的优化与数据存储过程的改进,实现了卷积神经网络在异构硬件平台的加速。实验结果表明,在识别精度上,异构加速系统的识别平均准确率为95.25%,与在CPU平台上采用32bit浮点数实现相比,精度仅损失了 1.03%;在系统功耗上,CPU的功耗是异构加速系统的13倍,GPU的功耗是异构系统的22倍;在加速性能上,异构加速系统实现一组完整数据的处理过程仅需0.37ms,而CPU和GPU分别需要5.78ms和1.19ms,因此异构系统具有很高的加速性能。文章利用FPGA高并行性的特点,在充分考虑片上资源的情况下,合理设计神经网络各层之间的输入输出并行度,实现了网络计算的高效化。硬化卷积神经网络后的系统能快速准确地识别轴承的振动故障信号,与通用的CPU、GPU硬件平台相比,在便携性和能效性上,异构加速系统也有着不可比拟的优势。

关键词：异构加速深度学习卷积神经网络故障诊断可编程门阵列

山东大学体系结构与可信系统团队在隐私计算异构加速领域取得新进展

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

信息网络安全 2024年第4期24卷 625-625页

作者：山东大学山东大学

近日,山东大学网络空间安全学院体系结构与可信系统团队的研究成果被国际会议ASPLOS 2024录用,该会议与ISCA、HPCA、MICRO并称为国际计算机体系结构领域的四大会议,被视作国际前沿体系结构与系统研究的风向标。该论文是山东大学作为第... 详细信息

近日,山东大学网络空间安全学院体系结构与可信系统团队的研究成果被国际会议ASPLOS 2024录用,该会议与ISCA、HPCA、MICRO并称为国际计算机体系结构领域的四大会议,被视作国际前沿体系结构与系统研究的风向标。该论文是山东大学作为第一及通讯作者单位在ASPLOS上发表的首篇论文。

关键词：计算机体系结构网络空间安全隐私计算可信系统 ASP 国际前沿异构加速 LOS

基于FPGA的异构加速卡OpenCL架构研究及性能优化

在线全文

学校读者我要写书评

暂无评论

信息与电脑 2018年第11期30卷 30-32页

作者：赵贺辉高效能服务器和存储技术国家重点实验室(浪潮集团) 北京100085

FPGA异构加速运算成为一个趋势,在人工智能、大数据、深度学习、基因计算等领域得到越来越广泛的应用。传统FPGA开发基于Verilog进行,具有门槛高、开发周期长、部署不灵活等不足。Open CL是一种面向异构系统的并行编程框架和语言。采用O... 详细信息

FPGA异构加速运算成为一个趋势,在人工智能、大数据、深度学习、基因计算等领域得到越来越广泛的应用。传统FPGA开发基于Verilog进行,具有门槛高、开发周期长、部署不灵活等不足。Open CL是一种面向异构系统的并行编程框架和语言。采用Open CL能缩短FPGA异构系统开发周期,加快FPGA程序的部署。但基于FPGA的异构加速卡的Open CL编程框架并不成熟,性能有待进一步提高。

关键词： FPGA 异构加速 OpenCL架构高性能

基于CAPI FPGA的医学超声成像算法异构加速

在线全文

学校读者我要写书评

暂无评论

电子产品世界 2016年第10期23卷 41-44页

作者：陈俊颖周顺风闵华清华南理工大学软件学院广州市机器人软件及复杂信息处理重点实验室广东广州510006

在医学超声成像算法中,最经典和最广泛使用的是延迟叠加算法。延迟叠加算法在超声成像、雷达信号发射、接收以及天线信号波束形成等方面有着广泛的应用。虽然该算法并不是典型的性能需求型算法,但是在医学成像云计算服务的新需求下,需... 详细信息

在医学超声成像算法中,最经典和最广泛使用的是延迟叠加算法。延迟叠加算法在超声成像、雷达信号发射、接收以及天线信号波束形成等方面有着广泛的应用。虽然该算法并不是典型的性能需求型算法,但是在医学成像云计算服务的新需求下,需要提高该算法的计算速度,以克服云计算中网络传输速度相对较慢的约束。然而,以中央处理器作为主要计算资源的传统云计算框架无法满足医学超声图像快速生成的性能需求,因此,本文中使用以现场可编程逻辑门阵列作为异构加速资源的Super Vessel云平台作为并行延迟叠加算法的实现平台。当包括现场可编程逻辑门阵列和中央处理器之间的数据传输时间在内时,Super Vessel云平台上该算法异构实现的运行速度相较于中央处理器中该算法的运行速度提升了约22倍。

关键词：异构加速云计算医学超声成像

基于异构计算的MOND数值模拟加速技术研究

在线全文

学校读者我要写书评

暂无评论

基于异构计算的MOND数值模拟加速技术研究

作者：郑琳琳中国科学技术大学

学位级别：硕士

现代宇宙学中,科学家们提出了许多新理论来解释种种天文现象。他们需要基于观测现象进行精确的数值模拟,依据模拟结果验证新理论的正确性。而天文观测结果表明,基于牛顿力学所建立的宇宙学模型无法解释观测获得的星系旋转曲线等现象。... 详细信息

现代宇宙学中,科学家们提出了许多新理论来解释种种天文现象。他们需要基于观测现象进行精确的数值模拟,依据模拟结果验证新理论的正确性。而天文观测结果表明,基于牛顿力学所建立的宇宙学模型无法解释观测获得的星系旋转曲线等现象。为了解决这些问题,理论物理学家指出牛顿力学在星系大尺度空间下可能不准确,发展出不同于暗物质理论的修正牛顿动力学理论(Modified Newtonian Dynamics,MOND)。但是由于MOND理论的数值模拟包含具有高计算复杂度的N体模拟,受计算能力的制约,MOND数值模拟的规模一直不大。N体模拟是天体动力学模拟中重要的基础运算之一。它不仅在天体物理学中被用来模拟星系的演变、验证新的宇宙学理论,还在等离子体物理、分子动力学、流体动力学等科学、工程领域都有着重要的地位。随着近年来计算机技术的发展带来的计算能力骤增,N体模拟的规模越来越大,在各个领域也发挥着越来越重要的作用。目前对于N体模拟的计算能力需求依旧在不断增大。为了简化计算,研究人员做出了许多假设,提出了多种近似算法,比如粒子网格算法(Particle Mesh,PM),树形算法(Tree),树-粒子网格混合(TreePM)算法以及粒子-粒子网格混合算法(P3M)。其中,TreePM算法,由于可以较好地平衡计算精度和速度的需求,在天文学数值模拟领域获得了广泛的应用。为了进一步提高计算速度,多种计算加速技术也被应用到N体模拟中。利用新的计算加速技术来加速N体模拟也一直是学术界和工业界的研究热点。可编程逻辑门阵列(FPGA)和通用图形处理单元(GPGPU)由于各自的特点,经常被用到N体模拟加速中。本学位论文主要围绕加速MOND数值模拟展开,基于应用的需求选择了合适的TreePMN体模拟算法,剖析了算法的计算瓶颈,依据运算特点将计算任务分配给GPU、FPGA;接着利用包含CPU、GPU、FPGA的异构加速平台实现了对MOND数值模拟的加速。借助FPGA动态可重构的功能,当PM模块空闲时,将其逻辑资源配置成Tree模块,从而提高了资源利用率。实验结果表明,动态可重构功能的加入使得系统性能提升了 24%。本文的异构平台较传统的高性能CPU服务器有更好的计算性能和更低的功耗。当粒子数为3x106、网格大小为1283、Tree算法中计算的张角为0.5时,异构平台相比于CPU服务器的加速比为9.37,能耗比为24.42。本文最后探讨将异构加速平台扩展至多个计算节点的方式,分析了设计的可扩展性。本论文主要研究工作包括:(1)基于MOND数值模拟的特点,对比研究了各种N体模拟算法,针对MOND数值模拟中数据模拟规模大、计算复杂度高、模拟时间长、具有强成团性的特点,选用了经典的TreePM算法,并且对其进行更为深入的研究。首先,以CPU串行实现为基础,分析算法各部分的占用时间,剖析算法的性能瓶颈。针对Tree部分中耗时最多的建立树型数据结构、粒子相互作用势能计算以及多维快速傅里叶变换计算部分在不同平台上的加速,分析加速效果,比较优劣。同时,分析TreePM算法的访存模式,对Tree部分粒子进行预先排序,加速了粒子的势能计算。(2)实现了基于TreePM算法的MOND数值模拟异构加速。主要采用FPGA进行核心计算,利用FPGA动态可重构的特点,为多维快速傅里叶变换计算和粒子间相互作用势能计算合理分配逻辑资源。同时,由GPU完成树型数据结构建立这种具有较高并行度的递归算法。余下的任务调配、粒子位置和速度的更新、以及数据的输入输出等工作则交由CPU完成。该设计充分利用了各平台的特点,提高了 TreePM算法实现的性能及功耗比,首次完成了 TreePM算法在FPGA、CPU和GPU异构平台上的加速,为N体模拟加速提供新的实现方案。(3)进一步地探讨设计的合理性,提出上述算法实现的扩展方案。采用皮亚诺-希尔伯特曲线来划分各节点Tree计算的区域范围,并结合FPGA的动态可重构的特性,更细粒度地分配资源,减小负载不均衡带来的影响,实现良好的可扩展性。

关键词： MOND N体模拟 TreePM算法异构加速 FPGA

面向数据流图的图神经网络高效数据组织策略研究

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向数据流图的图神经网络高效数据组织策略研究

作者：吴锐华中科技大学

学位级别：硕士

图神经网络被广泛应用于推荐系统、知识图谱、社交网络等领域。现有图神经网络系统大多采用基于采样的小批量训练方式来缓解设备的存储和计算压力。其中特征提取阶段往往耗时占比大,成为性能瓶颈。针对此,现有的优化方法主要包括制定高... 详细信息

图神经网络被广泛应用于推荐系统、知识图谱、社交网络等领域。现有图神经网络系统大多采用基于采样的小批量训练方式来缓解设备的存储和计算压力。其中特征提取阶段往往耗时占比大,成为性能瓶颈。针对此,现有的优化方法主要包括制定高效的特征缓存策略以及设计新颖的数据访问模式。但这些方法都未充分挖掘图神经网络节点访问特性以及CPU-GPU异构环境中不同设备的内存访问带宽的差异性,使得训练时仍然存在大量冗余数据访问和GPU资源利用率低等问题。针对现有图神经网络数据组织方法对节点访问特性和内存访问带宽层级关系缺乏进一步挖掘的不足之处,结合小批量图神经网络训练的数据流图特征,提出一种新型的针对图神经网络训练的高效数据组织策略——FCGraph。该策略主要包括利用多跳(k跳)邻居的特征缓存策略和基于缓存以GPU为中心的数据访问方法。首先,通过分析基于采样的k层图神经网络模型在训练过程中数据流图的顶点访问特性,提出了基于多阶邻居的特征缓存策略,大幅减少CPU-GPU数据传输开销。其次,为缓解CPU端资源争用,结合使用上述缓存策略对节点特征进行划分。在此基础上设计了新颖的以GPU为中心的数据访问方法来收集特征。此外,将FCGraph扩展到配备NVLink的多GPU系统,进一步挖掘了单机多卡环境下内存访问带宽的层次关系。在主流的图神经网络训练框架DGL上实现了上述策略,并使用一些具有代表性的数据集(Reddit,OGBN-Products和OGBN-Proteins)在多种图神经网络模型上进行测试评估。实验数据表明,FCGraph能大幅减少训练过程中特征提取阶段的耗时,显著提高图神经网络端到端的训练性能。与现有主流图神经网络框架DGL及先进的Py Torch-Direct系统相比,FCGraph可将端到端训练速度分别平均提高3.1倍及1.7倍以上。

关键词：深度学习图神经网络特征缓存异构加速

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于FPGA的卷积神经网络加速器研究

基于FPGA的卷积神经网络加速器研究

作者：吴沙广西大学

学位级别：硕士

卷积神经网络(Convolution Neural Network,CNN)是在计算机视觉,图像识别和分类等领域应用最成功的人工神经网络数学模型。高性能神经网络结构规模庞大,一次完整推理过程需要进行大量乘法加法计算。训练出一个高性能卷积神经网络模型需... 详细信息

卷积神经网络(Convolution Neural Network,CNN)是在计算机视觉,图像识别和分类等领域应用最成功的人工神经网络数学模型。高性能神经网络结构规模庞大,一次完整推理过程需要进行大量乘法加法计算。训练出一个高性能卷积神经网络模型需要的计算量是推理过程的数十倍至更多。当前的理论和技术水平无法做到一个模型可以普适所有领域,不同的应用场景需要设计特定神经网络结构和采集特定数据集。庞大的算力需求和高质量的数据采集是训练得到高性能卷积神经网络的两个关键内容。如何提高算力是当下企业工程师和科学研究者非常关注的课题。传统处理器的计算性能大幅提升已经变得很困难,除非有颠覆性的技术比如量子计算机等前沿技术得到突破,但短期难以实现。目前主流思路是采用异构算力。这种方法将运算部分实现在外部硬件上再通过总线或其它形式融入计算机体系结构中,使硬件运算部分作为一个传统处理器外部设备,以此来达到提高算力的目的。卷积神经网络异构加速器的实现方式主要有三个方向,分别为GPU(Graphics Process Unit)、FPGA(Field Program Gate Array)、ASIC(Application Specific Integrated Circuit)。FPGA作为可编程逻辑器件由于其灵活性,可重构性,低成本受到研究者的青睐。其不仅可以作为初期研究测试,在部分场景下FPGA也可以直接代替ASIC作为产品发布,可以较大程度缩减产品周期和节约成本。本文从FPGA异构加速这个方向做了相关探索。为寻求一种异构结构以付出较少的软件修改和平台移植工作,能同时充分利用的FPGA的可编程灵活性。为实现这样的一种异构结构,本文提出了一种基于FPGA加速的异构加速接口方案。本接口方案特点在于能使传统计算机或服务器与FPGA加速平台实现融合。能充分利用传统计算机软件生态和工具链。普适性好,高带宽,低延迟。为验证此接口方案的有效性,本文以NVDLA推理硬件框架作为出发点,基于此接口方案在FPGA上实现一个推理器。其乘法累加器规模为8x8,最高计算能力为16GOPs。通过仿真实验卷积神经网络Le Net5推理计算过程,相比于CAFFE框架下相同规模神经网络模型在纯CPU(i7-10510U)计算情况,速度提高了约21.9%,证明了本文提出的方案可以实现较高效率的加速性能。基于上文所述异构接口方案成果,本文进一步提出了一种基于算子模块化设计片上训练异构加速器方案。其特点在于通过对底层运算进行加速,这种方式具更高的普适性,硬件侧不需要考虑不同类型的模型结构。网络功能的构建在系统软件侧完成。为证明此方法的有效性,本文通过对卷积层反向计算过程进行设计构建了一个数据类型为32位浮点型计算模块。其规模结构主要组成为一个8x8的计算乘法矩阵和一个8输入3级加法器,其计算能力为14.22GFOPs。通过系统软件侧配置调度重复迭代使用该模块计算直至完成完整的卷积层反向传播计算过程。实验分析证明该方案的计算能力并对比CPU处理器在大运算量场景下具备较好加速能力。

关键词：卷积神经网络现场可编程门阵列片上训练异构加速

面向ASCRA的循环流水启动间距自动分析及优化

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

计算机学报 2015年第10期38卷 1946-1958页

作者：郭振华吴艳霞张国印戴葵哈尔滨工程大学计算机科学与技术学院哈尔滨150001

在实现循环到流水硬件结构自动映射过程中,迭代间启动间距的自动分析技术是可重构编译器研究的难点.在现有细粒度可重构编译器中,主要采用人工输入制导语句的方法来控制循环并行流水硬件结构自动映射所需启动间距信息的生成,该方法只能... 详细信息

在实现循环到流水硬件结构自动映射过程中,迭代间启动间距的自动分析技术是可重构编译器研究的难点.在现有细粒度可重构编译器中,主要采用人工输入制导语句的方法来控制循环并行流水硬件结构自动映射所需启动间距信息的生成,该方法只能采用固定启动间距方式对流水硬件结构进行控制,不能充分发挥并行流水硬件结构的性能,同时人工确定启动间距的方法降低了可重构计算应用的部署效率.针对细粒度可重构编译器的现状,文中提出了一种面向ASCRA的循环流水启动间距自动分析及优化方法.在细粒度可重构编译器中,建立多层循环流水迭代间启动间距分析模型,提出非固定启动间距控制策略,采用自动生成算法得到迭代间启动间距向量信息,并采用流水线调度技术对迭代间启动间距进行优化.实验结果表明,与现有HLS工具相比,文中方法不仅能够提高可重构计算应用在异构加速平台上的部署效率,同时能够有效改善循环应用在FPGA协处理器中流水执行时的性能,具有一定的可行性.

关键词：可重构编译循环流水自动映射启动间距异构加速

基于FPGA的MobileNet_SSD的高能效比加速器设计

在线全文

学校读者我要写书评

暂无评论

信息技术 2023年第12期47卷 1-7页

作者：王召朋王瑞博江先阳武汉大学物理科学与技术学院物理国家级实验教学示范中心武汉430072

目前,卷积神经网络广泛应用于图像识别领域,其发展过程中网络模型参数量及计算量不断增加,如何部署在资源有限的端侧设备成为难题。提出一种基于FPGA以及百度Paddlelite框架的异构加速系统,主要针对MobileNet_SSD网络模型在资源有限的... 详细信息

目前,卷积神经网络广泛应用于图像识别领域,其发展过程中网络模型参数量及计算量不断增加,如何部署在资源有限的端侧设备成为难题。提出一种基于FPGA以及百度Paddlelite框架的异构加速系统,主要针对MobileNet_SSD网络模型在资源有限的设备上加速部署运行。在HPS端移植Paddlelite框架,采用双DDR SDRAM以及DMA模块优化数据运输,从数据排布及数据量化方面优化设计卷积算子IP,充分利用FPGA高并行性,最终形成软硬件协同加速的系统。在CycloneV器件上对加速器进行部署实验,器件的DSP利用率达86%,芯片整体功耗仅987.91mW,卷积模块消耗42.73mW,整体能效比达9.7GOPS/W。

关键词：卷积神经网络现场可编程门阵列高能效比数据量化异构加速