检索结果-南通市图书馆

面向深度学习编译器的多粒度量化框架支持与优化

在线全文

学校读者我要写书评

暂无评论

计算机工程 2024年

作者：魏铭康李嘉楠韩林高伟赵荣彩王洪生郑州大学计算机与人工智能学院国家超级计算郑州中心(郑州大学)

随着各大厂商对大模型应用部署需求的激增，深度学习编译器TVM的单一量化方式存在精度下降问题，已无法满足部署需求。因此设计并构建了一种可选粒度的模型量化框架，具体包括逐层与逐通道量化流程的支持，以及阈值搜索与自适应舍入优... 详细信息

随着各大厂商对大模型应用部署需求的激增，深度学习编译器TVM的单一量化方式存在精度下降问题，已无法满足部署需求。因此设计并构建了一种可选粒度的模型量化框架，具体包括逐层与逐通道量化流程的支持，以及阈值搜索与自适应舍入优化算法的实现。首先，基于量化模块***构建信息标注、阈值校准与量化图实现的框架流程，并添加粒度属性以显式识别量化方式。其次，针对预定义校准方法无法确定有效量化信息的问题，对量化中的阈值校准、权重舍入进行调优，提高量化后的模型精度。实验采用ImageNet数据集对视觉网络进行测试，针对MobileNet V1新量化方案将8bit量化后模型精度损失降低到2.3%，调优后该损失降低到0.7%，实验表明多粒度量化框架可有效降低量化误差。

关键词：模型量化模型部署模型压缩推理加速深度学习编译

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

IA-64代码翻译中的跳转表恢复技术

计算机工程 2006年第23期32卷 49-51页

作者：齐宁赵荣彩解放军信息工程大学计算机系郑州450002

在对IA-64二进制代码进行翻译的过程中,一个重要的问题就是识别和恢复通过跳转表实现的switch语句。分析了编译器生成跳转表时采用的策略,提出了前向预取同反向切片及表达式置换相结合以识别和恢复switch语句的技术,归纳了用于获取跳转... 详细信息

在对IA-64二进制代码进行翻译的过程中,一个重要的问题就是识别和恢复通过跳转表实现的switch语句。分析了编译器生成跳转表时采用的策略,提出了前向预取同反向切片及表达式置换相结合以识别和恢复switch语句的技术,归纳了用于获取跳转表地址的规格化形式,给出了跳转表分支目标地址恢复方法,从而可将包含跳转表的IA-64二进制代码恢复为高级switch语句。该技术已经在二进制翻译框架I2A上进行了测试,可以处理编译器gcc 2.96及gcc 3.2.3在多种优化级别下生成的IA-64代码。

关键词： IA-64 跳转表切片表达式置换

在线全文

学校读者我要写书评

暂无评论

基于指向更新的优先权指针分析算法

软件学报 2014年第11期25卷 2486-2498页

作者：刘鹏赵荣彩庞建民姚远解放军信息工程大学河南郑州450002

指针分析是数据流分析中的关键性技术,其分析结果是编译优化和程序变换的基础.在基于包含的指针分析算法研究的基础上,对Narse优先权约束评估算法中存在的冗余约束评估和优先权评估模型计算开销较大的问题进行分析,以指针的指向集更新... 详细信息

指针分析是数据流分析中的关键性技术,其分析结果是编译优化和程序变换的基础.在基于包含的指针分析算法研究的基础上,对Narse优先权约束评估算法中存在的冗余约束评估和优先权评估模型计算开销较大的问题进行分析,以指针的指向集更新信息确定约束评估的候选集,提出了基于指向更新的约束评估算法.采用约束语句间的解,引用依赖和标量依赖构建约束依赖图,通过依赖关系确定约束评估的优先权,提出了基于约束依赖图的优先权算法,简化了既有算法中复杂的优先权评估模型,进一步给出了优化后算法的整体框架.在基准测试集SPEC2000/SPEC 2006上进行实验,其结果表明,该算法与Narse优先权算法相比,在时间开销和存储开销上都有明显的性能提升.

关键词：指针分析数据流分析指向集流不敏感

反编译中用户函数与库函数同名的区分技术研究

在线全文

学校读者我要写书评

暂无评论

计算机学报 2011年第4期34卷 738-747页

作者：吴伟峰赵荣彩信息工程大学信息工程学院郑州450002

ITC反编译系统应用了基于动态链接信息的库函数快速识别技术,对于绝大部分待翻译IA-64二进制可执行程序中的库函数它都能正确识别,但是当二进制可执行程序包含有与库函数同名的用户函数时,就可能会出现问题.作者在深入分析基于动态链接... 详细信息

ITC反编译系统应用了基于动态链接信息的库函数快速识别技术,对于绝大部分待翻译IA-64二进制可执行程序中的库函数它都能正确识别,但是当二进制可执行程序包含有与库函数同名的用户函数时,就可能会出现问题.作者在深入分析基于动态链接信息的库函数快速识别技术所导致的问题原因的基础上,充分研究了ELF64格式二进制文件的具体组织及编译链接策略,针对反编译及二进制翻译在此方面的问题,给出了准确区分用户函数和库函数的区分算法.

关键词：反编译 IA-64 ELF64 动态链接用户函数,库函数,同名

在线全文

学校读者我要写书评

暂无评论

面向SLP的多重循环向量化

软件学报 2012年第7期23卷 1717-1728页

作者：魏帅赵荣彩姚远解放军信息工程大学信息工程学院河南郑州450002

如今,越来越多的处理器集成了SIMD(single instruction multiple data)扩展,现有的编译器大多也实现了自动向量化的功能,但是一般都只针对最内层循环进行向量化,对于多重循环缺少一种通用、易行的向量化方法.为此,提出了一种面向SLP(sup... 详细信息

如今,越来越多的处理器集成了SIMD(single instruction multiple data)扩展,现有的编译器大多也实现了自动向量化的功能,但是一般都只针对最内层循环进行向量化,对于多重循环缺少一种通用、易行的向量化方法.为此,提出了一种面向SLP(superword level parallelism)的多重循环向量化方法,从外至内依次对各个循环层次进行分析,收集各层循环对应的一些影响向量化效果的属性值,主要包括能否对该循环进行直接循环展开和压紧、有多少数组引用相对于该循环索引连续以及该循环所包含的区域等,然后根据这些属性值决定在哪些循环层次进行直接循环展开和压紧,最后通过SLP对循环中的语句进行向量化.实验结果表明,该算法相对于内层循环向量化和简单的外层循环向量化平均加速比提升了2.13和1.41,对于一些常用的核心循环可以得到高达5.3的加速比.

关键词： SIMD 向量化依赖关系分析多重循环超字并行

在线全文

学校读者我要写书评

暂无评论

基于网络处理器应用设计的4条准则

计算机工程 2006年第12期32卷 107-108,132页

作者：单征赵荣彩谢康敏中国人民解放军信息工程大学信息工程学院计算机与科学系郑州450002

针对benchmark工具在网络处理器应用设计中应用的局限性,该文提出了网络处理器应用设计需要遵循的系统、功能、任务和硬件等层面的4条准则,介绍了适用于IntelIXP系列处理器应用设计的5个公式。给出了应用这4条准则和这些公式进行网络处... 详细信息

针对benchmark工具在网络处理器应用设计中应用的局限性,该文提出了网络处理器应用设计需要遵循的系统、功能、任务和硬件等层面的4条准则,介绍了适用于IntelIXP系列处理器应用设计的5个公式。给出了应用这4条准则和这些公式进行网络处理器应用方案设计的一个实例和测试结论。论述了所给准则和公式的适用范围。

关键词：网络处理器应用设计 Workbench IXP

在线全文

学校读者我要写书评

暂无评论

一种基于数组生命期的数据分解算法

软件学报 2013年第12期24卷 2843-2858页

作者：丁锐赵荣彩韩林解放军信息工程大学河南郑州450002 数学工程与先进计算国家重点实验室河南郑州450001

划分是一种自动分配计算和数据到各个处理器的编译技术,是分布存储结构下并行编译的核心问题.以往的划分研究较少从生命期的角度考虑数据分解问题,分解在数组的不同生命期中不一致时会产生冗余通信.为解决上述问题,提出了一种数据分解算... 详细信息

划分是一种自动分配计算和数据到各个处理器的编译技术,是分布存储结构下并行编译的核心问题.以往的划分研究较少从生命期的角度考虑数据分解问题,分解在数组的不同生命期中不一致时会产生冗余通信.为解决上述问题,提出了一种数据分解算法,通过定义-引用图来表示数组的数据流信息,并使用分解映射表为数组不同的生命期建立各自的数据分解.对矩阵求逆等9个实际用例的实验结果表明,与以往不区分生命期的划分研究相比,使用所提算法能够在寻找数据分解时对并行收益做出更准确的评估,减少了通信冗余,从而提升了自动生成的并行代码的加速比.

关键词：数据分解数组生命期自动并行化分布存储

TCP Server的动态线程POOL技术研究

在线全文

学校读者我要写书评

暂无评论

计算机科学 2002年第8期29卷 137-138,111页

作者：赵荣彩中国科学院计算技术研究所北京100080

一、引言在传统的Unix系统下,当一进程需要另一实体去完成某一子任务时,它就创建一个子进程进行处理.多年来,在U-nix系统下的大多数支持并行访问的网络Server都是按这种模式设计和运行的,当父进程接受到来自网络的一个Client的连接时,它... 详细信息

一、引言在传统的Unix系统下,当一进程需要另一实体去完成某一子任务时,它就创建一个子进程进行处理.多年来,在U-nix系统下的大多数支持并行访问的网络Server都是按这种模式设计和运行的,当父进程接受到来自网络的一个Client的连接时,它就fork一个子进程,并由该子进程去处理这个Client的请求.这种方法存在两个问题:

关键词： TCPServer 动态线程 POOL 线程进程 Internet 计算机网络 Unix

在线全文

学校读者我要写书评

暂无评论

一种基于分区域优先级的寄存器分配算法

电子与信息学报 2013年第12期35卷 3005-3010页

作者：岳峰庞建民赵荣彩解放军信息工程大学郑州450002

编译器速度和生成代码质量是衡量寄存器分配阶段性能的两个关键因素,现代的即时编译器要求在尽可能短的时间内编译出高质量的代码。传统的基于图着色的算法和线性扫描算法均不能很好地满足这个要求,该文提出一种基于矩阵填充的区域优先... 详细信息

编译器速度和生成代码质量是衡量寄存器分配阶段性能的两个关键因素,现代的即时编译器要求在尽可能短的时间内编译出高质量的代码。传统的基于图着色的算法和线性扫描算法均不能很好地满足这个要求,该文提出一种基于矩阵填充的区域优先级寄存器分配算法,不追求理论上完美的寄存器分配,而采用贪婪式的方法,对程序循环区域进行分割,按区域内生命域的长度和溢出权重两种优先级排序方法进行物理寄存器分配,再扩展到整个程序段。算法在保留线性分配时间的同时产生了高质量的代码,应用于编译SSA形式的PTX指令到多核平台的过程中,基于该编译平台的实验证明了该文改进算法的有效性。

关键词：编译器寄存器分配循环区域分割贪婪法生命域长度优先级溢出权重优先级