检索结果-南通市图书馆

在线全文

学校读者我要写书评

暂无评论

适用于申威众核架构的稀疏矩阵-矩阵乘法

计算物理 2024年第1期41卷 22-32页

作者：刘侃杨磊薛巍陈文光清华大学计算机科学与技术系北京100084 国家超级计算无锡中心江苏无锡214000

本文提出新一代申威众核架构上稀疏通用矩阵-矩阵乘法(SpGEMM)的并行算法swSpGEMM。设计轻量级并行任务划分有效地应对了矩阵非零元分布引起的负载不均衡问题;针对累加过程中的不规则访存和指令流水低效问题,设计了分层稀疏累加器,在不... 详细信息

本文提出新一代申威众核架构上稀疏通用矩阵-矩阵乘法(SpGEMM)的并行算法swSpGEMM。设计轻量级并行任务划分有效地应对了矩阵非零元分布引起的负载不均衡问题;针对累加过程中的不规则访存和指令流水低效问题,设计了分层稀疏累加器,在不同输入特征下高效利用申威从核层次化内存,且减少了整数查找中的指令间依赖,更有效地发挥硬件的计算能力。SuiteSparse稀疏矩阵测试集中较大规模输入矩阵上,swSpGEMM的性能相比Intel Skylake双CPU上的MKL和NVIDIA A100上的cuSPARSE分别加速了21.1%和95.3%。

关键词：申威众核架构稀疏矩阵计算矩阵-矩阵乘法

在线全文

学校读者我要写书评

暂无评论

分布式高性能自组网节点技术研究

现代电子技术 2024年第5期47卷 1-7页

作者：于哲周舜民王彬孙艺铭陈方赵子龙李贝贝郑州大学国家超级计算郑州中心河南郑州450001

针对当前主流Mesh自组网技术节点传输带宽不足百兆,级跳数小于10的问题,提出采用多处理器构建实现分布式多跳、高带宽低时延的无线跳频的高性能自组网节点,对节点自动化组网连接、多信道选择避让、漫游切换及低时延高带宽网络多跳实现... 详细信息

针对当前主流Mesh自组网技术节点传输带宽不足百兆,级跳数小于10的问题,提出采用多处理器构建实现分布式多跳、高带宽低时延的无线跳频的高性能自组网节点,对节点自动化组网连接、多信道选择避让、漫游切换及低时延高带宽网络多跳实现等关键技术进行研究实现。由测试结果分析可知,在20级跳内,文中节点组网带宽损失在30%以内且带宽保持在200 Mb/s以上,时延控制在100 ms内,可以满足现实应急场景下多终端智能硬件实时进行图像、视频等大数据量信息交互对高带宽低时延网络通信的需求。

关键词：多处理器自组网连接多级跳高带宽低时延信息交互

“放管服”改革视域下科研经费管理与内控风险机制研究

在线全文

学校读者我要写书评

暂无评论

首席财务官 2024年第9期20卷 84-86页

作者：徐青国家超级计算深圳中心广东深圳518000

科技是促进社会经济发展的重要力量,也是增强我国综合国力与国际竞争优势的关键因素。当前,如何促进科技创新是社会各界关注的重点。其中,科研经费发挥着重要作用。“放管服”改革视域下,事业单位应提高对科研经费内控的重视程度,做到... 详细信息

科技是促进社会经济发展的重要力量,也是增强我国综合国力与国际竞争优势的关键因素。当前,如何促进科技创新是社会各界关注的重点。其中,科研经费发挥着重要作用。“放管服”改革视域下,事业单位应提高对科研经费内控的重视程度,做到适当放权,健全内控管理体系;辨识风险,建设内控风险机制;优化环境,建立高效的协调机制;加强预算,积极推进全面预算管理;加强核算,加大科研经费监督力度;业财融合,搭建信息化内控管理平台,这样才能确保科研经费安全,提升科研经费利用率。

关键词： “放管服”改革科研经费管理内控风险机制

面向FT-M6678的对称矩阵特征值求解算法实现与优化

维普期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

计算机工程 2024年第2期50卷 51-58页

作者：于立韩林罗有才商建东郑州大学计算机与人工智能学院河南郑州450001 国家超级计算郑州中心河南郑州450001

目前国产自主可控FT-M6678平台上没有对称矩阵特征值求解相关的实现,且平台上现有数学计算库不能很好地满足类似问题求解的需求。面向国产FT-M6678处理器,对对称矩阵特征值求解(SYEV)算法进行实现与优化,完善FT-M6678平台的线性代数计... 详细信息

目前国产自主可控FT-M6678平台上没有对称矩阵特征值求解相关的实现,且平台上现有数学计算库不能很好地满足类似问题求解的需求。面向国产FT-M6678处理器,对对称矩阵特征值求解(SYEV)算法进行实现与优化,完善FT-M6678平台的线性代数计算库。通过对SYEV算法的实现过程以及运行热点的分析,基于FT-M6678平台进行编译优化、访存优化以及向量并行化优化,其中:编译优化是根据不同的编译选项指导编译器对程序优化以达到加速效果;访存优化包括缓存优化以及数据段与程序段的分配优化,用于提高矩阵数据的访存效率;向量并行化优化包括循环展开以及适配FT-M6678平台的单指令多数据流(SIMD)指令并行优化,用于提升程序的计算效率。在FT-M6678平台上对所实现并优化的算法进行正确性验证与优化性能分析,结果表明,算法能够正确通过LAPACK官方测试集测试,并且在FT-M6678平台上的加速效果可达到58.346倍,对比TMS320C6678平台速度可提升2.053倍。

关键词：对称矩阵特征值 FT-M6678平台热点分析缓存优化向量并行

面向深度学习编译器的多粒度量化框架支持与优化

在线全文

学校读者我要写书评

暂无评论

计算机工程 2024年

作者：魏铭康李嘉楠韩林高伟赵荣彩王洪生郑州大学计算机与人工智能学院国家超级计算郑州中心(郑州大学)

随着各大厂商对大模型应用部署需求的激增，深度学习编译器TVM的单一量化方式存在精度下降问题，已无法满足部署需求。因此设计并构建了一种可选粒度的模型量化框架，具体包括逐层与逐通道量化流程的支持，以及阈值搜索与自适应舍入优... 详细信息

随着各大厂商对大模型应用部署需求的激增，深度学习编译器TVM的单一量化方式存在精度下降问题，已无法满足部署需求。因此设计并构建了一种可选粒度的模型量化框架，具体包括逐层与逐通道量化流程的支持，以及阈值搜索与自适应舍入优化算法的实现。首先，基于量化模块relay.quantize构建信息标注、阈值校准与量化图实现的框架流程，并添加粒度属性以显式识别量化方式。其次，针对预定义校准方法无法确定有效量化信息的问题，对量化中的阈值校准、权重舍入进行调优，提高量化后的模型精度。实验采用ImageNet数据集对视觉网络进行测试，针对MobileNet V1新量化方案将8bit量化后模型精度损失降低到2.3%，调优后该损失降低到0.7%，实验表明多粒度量化框架可有效降低量化误差。

关键词：模型量化模型部署模型压缩推理加速深度学习编译

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

面向DCU的LDS访存向量化优化

计算机工程 2024年第2期50卷 206-213页

作者：杨思驰赵荣彩韩林王洪生郑州大学计算机与人工智能学院河南郑州450000 国家超级计算郑州中心河南郑州450000

在深度计算器(DCU)中,本地数据共享(LDS)是相较于全局内存延迟更低、带宽更高的关键存储部件。随着异构程序对LDS的使用越来越频繁,LDS访存效率低下成为限制异构程序性能的重要因素。此外,LDS访问过程中存在bank冲突的特性,使LDS的访问... 详细信息

在深度计算器(DCU)中,本地数据共享(LDS)是相较于全局内存延迟更低、带宽更高的关键存储部件。随着异构程序对LDS的使用越来越频繁,LDS访存效率低下成为限制异构程序性能的重要因素。此外,LDS访问过程中存在bank冲突的特性,使LDS的访问应遵循一定原则才能高效利用,当线程间的数据访问呈现重叠的访存特征时,访问向量化指令会因此产生延迟。针对此问题,提出面向DCU的LDS访存向量化优化方法。通过实现连续数据访问的向量化,减少LDS的访问次数,降低访存耗时,由此提高程序访存效率。在此基础上,通过设计访存特征的判断方法,提出能够有效解决数据重叠的LDS访存向量化方法,实现一种面向国产通用加速器的LDS高效访存技术,确保向量化方法对访存效率的有效提升。实验结果表明:在使用LDS的异构程序中,LDS访存向量化实现后程序性能平均提升了22.6%,验证了所提方法的有效性;同时,向量化方法能够实现LDS线程间访存数据重叠问题的优化,使异构程序得到平均30%的性能提升。

关键词：深度计算器本地数据共享访存向量化访存特征 bank冲突

在线全文

学校读者我要写书评

暂无评论

一种基于TVM的自动调度搜索优化方法

计算机科学 2024年

作者：韩林王一帆李嘉楠高伟郑州大学国家超级计算郑州中心郑州大学计算机与人工智能学院

随着人工智能的迅猛发展，新型算子与硬件的不断涌现，算子库的开发和维护面临了巨大的挑战，仅仅依靠手工优化已无法满足AI模型性能提升的需求。Ansor是基于TVM的一种算子自动调度技术，可以针对不同的后端搜索深度学习模型或算子的最... 详细信息

随着人工智能的迅猛发展，新型算子与硬件的不断涌现，算子库的开发和维护面临了巨大的挑战，仅仅依靠手工优化已无法满足AI模型性能提升的需求。Ansor是基于TVM的一种算子自动调度技术，可以针对不同的后端搜索深度学习模型或算子的最佳调度方案，生成高性能代码而无需用户手动定义模板，但巨大的搜索空间造成了搜索效率低下的问题。因此提出两种优化方案：一种是基于强化学习的算法实现最佳性能草图的选择，另一种是基于机器学习模型的突变规则预测。两种优化方案旨在减少最佳调度方案的搜索时间，快速生成高性能的算子。为评估优化方案的有效性，对Resnet-50等三种模型和conv2d等三种算子进行测试与评估，结果显示，优化后的Ansor只用70%-75%的搜索时间就可以生成性能与之前相同甚至更优的目标程序，并且在最佳迭代次数下，目标程序的推理速度最高可提升5%。

关键词：自动调度 TVM编译器搜索速度优化机器学习强化学习深度学习模型

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

面向深度学习编译器TVM的算子融合优化

计算机科学 2024年

作者：高伟王磊李嘉楠李帅龙韩林国家超级计算郑州中心(郑州大学) 郑州大学计算机与人工智能学院

算子融合是深度学习编译器中的一种编译优化技术，能够将多个算子合并为一个大的算子，有效降低计算和访存的成本。深度学习编译器TVM的算子融合方案中将算子按照功能特性进行分类，并设计融合规则，最后采用贪心算法进行融合。这种融... 详细信息

算子融合是深度学习编译器中的一种编译优化技术，能够将多个算子合并为一个大的算子，有效降低计算和访存的成本。深度学习编译器TVM的算子融合方案中将算子按照功能特性进行分类，并设计融合规则，最后采用贪心算法进行融合。这种融合方案存在以下问题：首先，功能特性的算子分类方式下的融合规则不够通用，会错失算子融合机会，无法实现更大粒度的融合；其次，贪心的融合算法也无法实现算子融合的最优解。针对上述问题对TVM进行改进，提出按照算子输入输出映射类型的算子分类方式，并设计通用的算子融合规则以扩大算子融合的粒度；提出基于动态规划的融合方案搜索算法和算子融合代价评估模型，并对搜索空间进行剪枝，使得算法能够在合理时间内搜索得到优化的融合方案。为评测融合方案的有效性，在CPU、DCU等平台上对VGG-16、Efficient-B0、MobileNet-V1、YOLO-V4等深度学习模型的融合比和推理时延进行测试，实验结果表明，相较TVM原有融合方案，融合比平均提升了27个百分点，推理时延平均获得了1.75的加速比。

关键词：深度学习编译器 TVM 算子融合融合规则动态规划

基于重复数据删除的分层存储优化技术研究进展

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

计算机科学 2024年

作者：姚子路付印金肖侬国防科技大学计算机学院中山大学国家超级计算广州中心

随着全球数据量的爆炸式增长以及数据多样性的日益丰富，单一介质层的存储系统逐渐满足不了用户多样化的应用需求，分层存储技术可依据数据的重要性、访问频率、安全性需求等特征将数据分类存放到具有不同访问延迟、存储容量、容错能力... 详细信息

随着全球数据量的爆炸式增长以及数据多样性的日益丰富，单一介质层的存储系统逐渐满足不了用户多样化的应用需求，分层存储技术可依据数据的重要性、访问频率、安全性需求等特征将数据分类存放到具有不同访问延迟、存储容量、容错能力的存储层中，已经在各个领域广泛应用。重复数据删除是一种面向大数据的缩减技术，可高效去除掉存储系统中的重复数据，最大化存储空间利用率。不同于单存储层场景，将重复数据删除技术运用于分层存储中，不仅能减少跨层数据冗余，进一步节省存储空间、降低存储成本，还能更好地提升数据I/O性能和存储设备的耐久性。在简要分析基于重复数据删除的分层存储技术的原理、流程和分类之后，从存储位置选择、重复内容识别和数据迁移操作三个关键步骤入手，深入总结了诸多优化方法的研究进展，并针对基于重复数据删除的分层存储技术潜在的技术挑战进行了深入探讨。最后展望了基于重复数据删除的分层存储技术未来的发展趋势。

关键词：重复数据删除分层存储存储位置选择重复内容识别数据迁移