检索结果-南通市图书馆

民营科技 2016年第2期 92-92页

作者：马艳歌上海联影医疗科技有限责任公司

提出了一种适用于医疗成像软件的显存管理方法。该方法在系统启动时,预先申请需要使用的总显存空间,直到软件退出时释放所有显存空间。软件运行过程中,各功能模块从预先申请的总显存空间中分配局部显存空间。功能模块执行完成时,将局部... 详细信息

提出了一种适用于医疗成像软件的显存管理方法。该方法在系统启动时,预先申请需要使用的总显存空间,直到软件退出时释放所有显存空间。软件运行过程中,各功能模块从预先申请的总显存空间中分配局部显存空间。功能模块执行完成时,将局部显存空间,释放回预先申请的总显存空间中。

关键词： GPU显存显存管理显存分配

来源：

同方期刊数据库评论

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

大语言模型推理中的存储优化技术综述

引用

计算机研究与发展 2025年第3期62卷 545-562页

作者：葛旭冉欧洋王博赵宇吴利舟王子聪陈志广肖侬国防科技大学计算机学院长沙410073 中山大学计算机学院广州510006 爱丁堡大学信息学院爱丁堡EH89AB

近年来,大语言模型在多个领域展现出卓越的性能,显著改变了人类的生活方式.然而,随着模型规模的不断增长和用户对长上下文推理需求的增加,大语言模型推理系统在存储方面面临诸多问题.首先,庞大的模型参数和键值缓存导致GPU显存资源不足... 详细信息

近年来,大语言模型在多个领域展现出卓越的性能,显著改变了人类的生活方式.然而,随着模型规模的不断增长和用户对长上下文推理需求的增加,大语言模型推理系统在存储方面面临诸多问题.首先,庞大的模型参数和键值缓存导致GPU显存资源不足;其次,分布式大语言模型推理系统难以充分利用GPU集群的存储资源,存在资源过度配置和存储容错的问题.因此,从显存优化、异构存储和分布式存储3方面入手,归纳总结了现有研究在解决GPU显存容量不足和资源利用率低下方面的努力.基于显存优化的大语言模型推理系统通过高效的键值缓存管理、压缩以及注意力算子优化,提高了GPU显存利用率,降低了显存占用.基于异构存储的大语言模型推理系统利用多种类别的存储资源扩展存储容量,通过张量放置策略、异步数据传输以及智能显存分配与预取技术,降低了异构存储带来的I/O开销.基于分布式存储的大语言模型推理系统通过批处理、多级调度、冗余复制等策略,优化了多机存储和计算资源的利用,提高了大语言模型推理任务的执行效率和容错能力.最后,总结了现有研究,并对未来的研究方向进行了展望.

关键词：大语言模型推理系统显存管理异构存储分布式存储故障恢复无服务大语言模型推理

来源：

维普期刊数据库

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

支持国产飞腾1500A处理器的计算机图形显示系统优化与实现

支持国产飞腾1500A处理器的计算机图形显示系统优化与实现

引用

作者：孙立明国防科学技术大学

学位级别：硕士

由于国家信息安全及经济发展的需要,自主可控计算机系统的发展近年来受到广泛重视。飞腾1500A处理器是国产自主可控通用计算机处理器的重要一员,也是国际上首款采用ARMv8架构的通用计算机处理器。ARMv8架构之前主要用于智能手机等移动领... 详细信息

由于国家信息安全及经济发展的需要,自主可控计算机系统的发展近年来受到广泛重视。飞腾1500A处理器是国产自主可控通用计算机处理器的重要一员,也是国际上首款采用ARMv8架构的通用计算机处理器。ARMv8架构之前主要用于智能手机等移动领域,它在用于通用PC领域时,存在对PC生态的软硬件支持不足的问题,特别表现为对通用计算机的图形显示的支持不足。具体的,与x86架构CPU相比,它不能提供访问显卡或GPU的高速数据通道,导致GPU的图形计算能力不能充分发挥以及图形显示系统的图形处理性能低下,极大的影响了飞腾1500A通用计算机的使用体验。本文针对ARMv8架构处理器用于通用PC领域时,图形显示系统中CPU与GPU之间数据传输通道带宽低的问题,在对基于飞腾1500A处理器的计算机图形显示系统进行研究的基础上,提出了两种优化方法:一,本文提出一种基于飞腾1500A处理器特征的显存管理优化方法PBVMMO(Phytium 1500A Based Video Memory Management Optimization)。首先,PBVMMO把图形系统的软件划分为核心组件和外围组件两类。对核心组件,用飞腾1500A处理器能够访问设备地址空间的指令替换内存拷贝指令,使核心组件能够直接访问显卡VRAM显存;对外围组件,则继续使用系统主存作为显存。其次,根据飞腾1500A处理器的设备内存模型,修改VRAM显存映射到CPU虚拟地址空间的页表的访问权限控制域,使CPU访问VRAM显存时指令能够重排序,提升访问效率。PBVMMO能够提升CPU与GPU之间数据传输通道的效率,实验测试表明,采用该方法后,图形显示系统性能会有2到4倍的提升。二,在PBVMMO的基础上,本文提出一种基于数据拷贝的3D图形渲染请求并行提交方法DCBPRF3D(Data Copy Based Parallel Rendering For 3D)。DCBPRF3D把数据规模较大的图形渲染请求分成较小的块由几个线程并行提交。其中主线程负责共享资源的维护、线程间的同步及像素缓冲区的切换。该方法对线程间的调度进行控制,使整个渲染请求提交过程与GPU的图形渲染处理过程形成一条流水线,从而提升传输管道的利用率和图形显示系统的性能。实验测试表明,该方法在PBVMMO的基础上,能够使3D应用程序的性能再提升20%左右。通过以上两种方法,本文首次初步解决了ARMv8架构处理器应用于通用PC领域时图形显示系统中存在的CPU与GPU之间数据传输通道带宽低,导致图形显示性能低下的问题。

关键词：图形技术显存管理 Mesa VRAM显存

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

国产飞腾处理器的视频解码技术研究

国产飞腾处理器的视频解码技术研究

引用

作者：刘敏国防科学技术大学

学位级别：硕士

近年来,随着人们对高清视频产品需求的日益增加,视频编码技术得到了飞速的发展,视频的压缩比率越来越高,画质越来越清晰,但解码所需的数学和逻辑运算量也越来越大。如果使用电脑上的视频播放器直接利用CPU进行解码,那么CPU的占用率将会... 详细信息

近年来,随着人们对高清视频产品需求的日益增加,视频编码技术得到了飞速的发展,视频的压缩比率越来越高,画质越来越清晰,但解码所需的数学和逻辑运算量也越来越大。如果使用电脑上的视频播放器直接利用CPU进行解码,那么CPU的占用率将会非常高,播放高清视频的时候画面不流畅,甚至无法播放,系统的也无法进行任何其他操作。为了解决这一问题,人们将CPU的一部分解码工作负载到GPU中去,由GPU来完成解码任务,以此减少CPU的占用率,提高系统性能并降低能耗。本文主要是基于国产化飞腾处理器平台上的高清视频解码播放的相关研究工作。飞腾处理器具有多任务并发处理能力强、单核处理性能偏弱,且无多媒体指令支持的特性。传统的软件视频解码技术并不适用于国产飞腾处理器的计算机平台,解决国产飞腾处理器计算机平台上的高清视频播放问题,有助于国产化飞腾平台应用的推广和提高飞腾视频解码的性能。首先,本文采用软件多线程并行解码方案,针对高码率的高清视频解码,结合FT 1000A系统芯片异构多和特性,将视频串行解码优化为并行解码处理,依据不同的划分方式,将解码过程划分为功能并行和数据并行,实现了国产化飞腾平台上的多线程并行解码优化方案。其次,本文结合UVD视频硬解码通用引擎新技术与VDPAU视频硬解码接口技术,设计出国产化飞腾平台上的GPU高清视频硬件解码方案,通过该方案实现对多格式高清视频硬件解码加速的支持。并基于上述框架设计,以及飞腾平台上视频硬件解码的实现面临的大小端字节序转换与页表长度对齐等问题,实现了飞腾平台上高清视频的低成本、低功耗硬件解码播放。最后,本文基于FT 1000A软硬件环境,对实现的高清视频解码方案的功能和性能进行了评测。实验结果表明:在飞腾平台上采用多线程技术的解码方案,与基于单核处理器的软件解码相比,性能可提升20%以上,但解码23fps的1080P高清视频的CPU占用率仍处于50%以上,性能优化不理想。而采用基于VDPAU的GPU硬件视频解码方案解码1080P高清视频,其CPU占用率可以控制在30%以下,性能大幅提升。

关键词：硬件解码 VDPAU 并行解码飞腾处理器显存管理 GPU硬件加速

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

GPU上列数据库关键原语的设计与优化

GPU上列数据库关键原语的设计与优化

引用

作者：李观钊华南理工大学

学位级别：硕士

伴随着互联网的广泛应用，信息需求逐步增大，作为信息分析和处理的主要手段，数据库复杂查询越显重要。由于数据查询效率高、存储空间少以及读磁盘次数少的特点，列数据库更适用于处理海量数据、分析数据、构建数据仓库等。另一方面，... 详细信息

伴随着互联网的广泛应用，信息需求逐步增大，作为信息分析和处理的主要手段，数据库复杂查询越显重要。由于数据查询效率高、存储空间少以及读磁盘次数少的特点，列数据库更适用于处理海量数据、分析数据、构建数据仓库等。另一方面，图形处理器GPU作为新兴的高性能计算核心，在处理能力和存储器带宽上相对CPU有明显优势，其可编程性和功能都得到很大扩展。如何挖掘GPU的潜在硬件性能，并与列数据库的先天优势相结合，提高复杂数据查询的性能，是当前数据库研究领域的重点方向之一。本论文基于列数据库复杂查询的原型系统，根据GPU体系架构的特点，设计并优化一套使用大量线程并行计算的GPU原语集合。该集合包括连接、分组、聚合和排序等数据库关键操作，采用NVIDIA公司推出的CUDA编程模型和Thrust库实现。为了提高各原语的执行速度，本项目充分利用GPU的全局存储器、共享内存、纹理存储器和Fermi架构新增的二级缓存等计算资源，使用数据分段和合并访问策略，对原语操作进一步优化。并且，使用CUDAstream技术，可以使原语的内核和数据传输同时进行，隐藏带宽延迟，提高GPU中资源的利用率。此外，本论文还提出了基于伙伴算法的GPU显存管理模型，减少内存和显存之间的数据传输次数，从而降低系统的开销。实验测试表明，作为数据库的核心操作，基于GPU的连接原语在单独测试的时候执行速度最大能达到217兆元组每秒，性能全面优于在Intel Core i7990x上充分优化的连接算法，最大加速2.4倍。其他关键复杂原语原语（如分组、排序操作）相比基于多核CPU的实现方法也获得2倍左右的加速。而计算较简单的原语（如条件判断、向量算术逻辑操作等）的性能相比于多核CPU的实现方法则较差，这是内存和显存之间的数据传输时间比例过高所导致的。尽管如此，合并GPU原语后的系统整体性能均优于未使用GPU的系统，相比MySQL则提升一个数量级。通过GPU显存管理机制，节省拷贝的字节总数比例达到40%~50%，有效地减少数据传输的时间。这些结果验证了利用GPU强大的计算能力，可以减轻CPU的负载，提升列数据库的查询性能。同时，本文也指出了原语粒度过小会导致GPU执行效率低，为后续更深入的研究奠定基础。

关键词： GPU 列数据库原语 CUDA stream 显存管理

来源：

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

山雨欲来风满楼—四款AGP8X显卡推介

引用

电脑知识与技术（过刊） 2002年第12期9卷 37-39页

AGP8X作为新一代AGP并行接口总线,在数据传输位宽上和AGP4x一样都是32bit,但总线传输速率则为AGP4x的两倍,从而使数据传输带宽达到2.1GB/s,由此看来AGP8X是目前最为强悍的AGP接口。由于支持最新的AGP8X(AGP3.0)标准,目前的主流显卡厂商... 详细信息

AGP8X作为新一代AGP并行接口总线,在数据传输位宽上和AGP4x一样都是32bit,但总线传输速率则为AGP4x的两倍,从而使数据传输带宽达到2.1GB/s,由此看来AGP8X是目前最为强悍的AGP接口。由于支持最新的AGP8X(AGP3.0)标准,目前的主流显卡厂商越来越多的将NV18图形处理器定位于中档主打显卡。AGP8X还可向下兼容AGP4X及2X。AGP总线在显卡与计算机主机之间的高频宽资料传送的速度,是影响3D效能及显示品质的重要因素,AGP8X相对于AGP4X的频宽倍增,应用于对硬件要求较高的3D游戏以及高阶绘图工作站等,在需要传送大量数据到绘图处理器的环境中,它拥有极快数据传输速度的优势,并且能够使用更高分辨率的贴图模式,以呈现更细致的3D模型以及更复杂的其他3D特效。因此,AGP8X已经逐渐成为显卡新一代的标准。本文就给大家介绍目前市场上几款比较优秀的AGP8X显卡。

关键词： AGP8X显卡显存管理多媒体显卡接口

来源：

维普期刊数据库评论

在线全文

维普期刊数据库

学校读者我要写书评

暂无评论

欢迎您,

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

在线全文

在线全文

在线全文

请选择保存的检索档案：

请选择收藏分类：

通借通还

欢迎您,

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

在线全文

在线全文

在线全文

在线全文

在线全文

在线全文

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：