多GPU系统非一致存储访问优化:研究进展与展望

作     者：李晨 刘畅 葛一漩 郭阳 LI Chen;LIU Chang;GE Yi-xuan;GUO Yang

作者机构：国防科技大学计算机学院湖南长沙410073 

出 版 物：《电子学报》 (Acta Electronica Sinica)

年 卷 期：2024年第52卷第5期

页      面：1783-1800页

核心收录：

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 08[工学] 081201[工学-计算机系统结构] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家自然科学基金(No.62202478) 国防科技大学自主创新科学基金(No.23-ZZCX-JDZ-12) 

主　　题：多GPU系统 非一致存储访问 GPU访存 

摘      要：随着晶体管缩小速度的减缓,单GPU(Graphics Processing Units)的性能提升已经变得越来越具有挑战性,因此,多GPU系统成为了提高GPU系统性能的主要手段.然而,由于片外物理设计的制约,多GPU系统中处理器间的带宽不均衡导致了非一致存储访问(Non-Uniform Memory Access,NUMA)问题,严重影响多GPU系统的性能.为了减少非一致存储访问所导致的性能损失,本文首先分析了非一致存储访问出现的原因,并对现有的非一致存储访问解决方案进行了对比.针对不同维度的非一致存储访问,本文从减少远程访问流量和提升远程访问性能两个方向出发,对非一致存储访问的优化方案进行了总结.最后,结合这些方案的优缺点,提出了未来多GPU系统非一致存储访问优化的发展方向.