检索结果-南通市图书馆

作者：戚潘杰华东师范大学

学位级别：硕士

最近,基于Transformer的模型表现出很好的性能。但是由于它所需要的巨大的存储、计算以及资源消耗,使其无法很有效地部署在嵌入式设备上。FPGA因其能量效率高、开发周期快、可重构等优点被广泛应用于加速深度学习算法。然而,FPGA具有非... 详细信息

最近,基于Transformer的模型表现出很好的性能。但是由于它所需要的巨大的存储、计算以及资源消耗,使其无法很有效地部署在嵌入式设备上。FPGA因其能量效率高、开发周期快、可重构等优点被广泛应用于加速深度学习算法。然而,FPGA具有非常有限的片上内存,这给模型的部署带来了很大的挑战。此外,各种类型的FPGA硬件设备逐渐涌现。对于具有不同约束要求的Transformer模型,可以将其部署到具有不同计算能力的设备上。在之前的工作中,研究人员对设备问题考虑较少。因此为了最大化利用设备,选择合适的设备也是值得考虑的问题。为了解决Transformer在FPGA上的部署挑战和最佳设备的选择问题,本文首次尝试提出了一种软硬件协同加速框架,它结合了软件层面的模型剪枝技术和硬件层面的FPGA加速设计。该框架在模型剪枝率和硬件资源之间进行权衡来实现协同优化。本文主要的工作如下:第一,本文提出了一个软硬件协同优化的加速框架。用户可以输入约束（时延约束LC,准确度约束AC）、模型和数据集,此框架可以输出一个压缩后的模型,和部署模型的最佳设备。第二,本文的加速框架中提出了一种新颖的对硬件友好的权重剪枝方法,命名为HP（Hierarchical Pruning）。它能够在保证模型准确度的情况下,大幅度降低Transformer模型冗余的参数,从而降低计算量和存储开销。第三,本文的加速框架对稀疏矩阵存储格式进行了优化,新的存储格式为WMark。这种方法结合了剪枝方法HP的矩阵稀疏模式,是由现有的稀疏矩阵存储格式MBR优化而来的。优化之后的格式可以显著减少内存使用量,并且比常用的格式性能更好。第四,本文设计了一个针对稀疏模型的FPGA加速器。这个加速器的设计是基于剪枝方法HP和稀疏矩阵存储格式WMark,解决了稀疏矩阵并行的内存访问冲突问题。实验结果表明,本文提出的权重剪枝方法HP比别人的工作表现出更好的性能。本文优化的稀疏矩阵存储格式WMark可以实现1.5 ×-2.5×的内存使用量降低。本文的FPGA加速器设计比CPU相比可以实现高达37×的加速,与GPU相比可以实现1.9×的加速。本文的加速系统也可以在不同的约束下找到最佳设备。

关键词：自然语言处理 Transformer FPGA 模型压缩软硬件协同优化

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

谈黄廖本教材如何体现语言文字规范化

引用

中国大学教学 2023年第4期 92-96页

作者：戚晓杰钟鼎青岛大学文学与新闻传播学院不详

黄廖本教材自其出版发行以来,影响广泛而深远,历经四十余载长盛不衰,创造了汉语教材编写的神话。本文着力探究黄廖本教材如何体现语言文字规范化。此研究对充分了解黄廖本教材编写精髓、推动汉语教材建设纵向深入具有价值与意义。

关键词：黄廖本教材语言文字规范化特点贡献

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

32 nm CMOS工艺单粒子三点翻转自恢复锁存器设计

引用

计算机辅助设计与图形学学报 2020年第12期32卷 2013-2020页

作者：黄正峰郭阳潘尚杰鲁迎春梁华国戚昊琛欧阳一鸣倪天明徐奇合肥工业大学电子科学与应用物理学院合肥230009 合肥工业大学计算机与信息学院合肥230009 安徽工程大学电气工程学院芜湖241000

纳米尺度CMOS工艺的电荷共享效应日益显著,粒子入射导致电路内部多个节点同时翻转的概率急剧升高.为了提高时序单元的可靠性,提出了一种三点翻转(triple node upsets,TNUs)自恢复的加固锁存器结构,利用双输入反相器的阻塞能力,将24个双... 详细信息

纳米尺度CMOS工艺的电荷共享效应日益显著,粒子入射导致电路内部多个节点同时翻转的概率急剧升高.为了提高时序单元的可靠性,提出了一种三点翻转(triple node upsets,TNUs)自恢复的加固锁存器结构,利用双输入反相器的阻塞能力,将24个双输入反相器级联成6级,经反馈将发生翻转的节点恢复正确;内部采用不对称的连线方式,有效地消除了共模故障,优化了双输入反相器内部NMOS/PMOS的驱动能力,消除了节点逻辑值翻转造成的亚稳态.采用Hspice进行实验表明,相比已有容忍TNUs的4种加固锁存器,仅有所提结构和TNURL可以从TNUs中自行恢复,其他3种加固锁存器均无法从TNUs中自行恢复,而且会在输出端产生高阻态;和TNURL结构相比,所提结构的功耗减小了35.3%,延迟减小了48.3%,功耗延迟积(power delay product,PDP)减少了67.6%.

关键词：单粒子翻转抗辐射加固设计双输入反相器翻转自恢复

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

我市园林绿化“一街一景” 001

引用

德州日报

作者：潘洪杰戚立强马永峰

本报讯今年以来，我市大力实施城市绿化建设，投入资金近3亿元，新增绿化面积400余万平方米，新植乔灌木1000余万株，城市绿量有了明显提高，初步达到了“一街一景、三季有花、四季常绿”的绿化效果。 我市各级对园林绿化工作高度...

本报讯今年以来，我市大力实施城市绿化建设，投入资金近3亿元，新增绿化面积400余万平方米，新植乔灌木1000余万株，城市绿量有了明显提高，初步达到了“一街一景、三季有花、四季常绿”的绿化效果。 我市各级对园林绿化工作高度重视，财政投入不断加大。今年上半年

关键词：

来源： cnki报纸评论

在线全文

cnki报纸

学校读者我要写书评

暂无评论

基于温度传感器的硬件木马检测方法

引用

微电子学 2020年第6期50卷 920-925,931页

作者：黄正峰孙芳潘尚杰欧阳一鸣倪天明戚昊琛徐奇合肥工业大学电子科学与应用物理学院合肥230009 合肥工业大学计算机与信息学院合肥230009 安徽工程大学电气工程学院安徽芜湖241000

针对硬件木马检测的旁路信号分析法中需要黄金模型、受工艺扰动影响大的问题,提出了一种基于温度传感器的硬件木马检测方法。采用抗工艺扰动设计使温度传感器受工艺扰动的影响程度低。将温度传感器植入芯片内部相似结构(存储单元、功能... 详细信息

针对硬件木马检测的旁路信号分析法中需要黄金模型、受工艺扰动影响大的问题,提出了一种基于温度传感器的硬件木马检测方法。采用抗工艺扰动设计使温度传感器受工艺扰动的影响程度低。将温度传感器植入芯片内部相似结构(存储单元、功能相同的模块等),读取温度传感器的频率信息,通过简单异常值分析法与差值分析法比对相似结构的频率差异,实现了硬件木马的检测。该方法既有效克服了工艺扰动的影响,又不需要黄金模型。温度传感器输出频率在最极端工艺角下的工艺扰动仅为9%。在SMIC 180 nm CMOS工艺下对高级加密标准(AES)电路的木马检测进行了验证,结果验证了该方法的有效性。

关键词：硬件木马温度传感器相似结构工艺扰动

来源：

维普期刊数据库

同方期刊数据库评论