异构网络中基于强化学习的通信-计算资源联合分配算法

作     者：李丽妍 李学华 陈硕 孙立新 LI Liyan;LI Xuehua;CHEN Shuo;SUN Lixin

作者机构：北京信息科技大学现代测控技术教育部重点实验室北京102206 北京信息科技大学佰才邦技术智慧物联联合实验室北京102206 

出 版 物：《电讯技术》 (Telecommunication Engineering)

年 卷 期：2024年第64卷第8期

页      面：1266-1274页

学科分类：080904[工学-电磁场与微波技术] 0810[工学-信息与通信工程] 0809[工学-电子科学与技术（可授工学、理学学位）] 08[工学] 080402[工学-测试计量技术及仪器] 0804[工学-仪器科学与技术] 081001[工学-通信与信息系统] 

基　　金：国家自然科学基金资助项目(61901043) 北京市教育委员会科学研究计划项目(KM202211232010) 北京信息科技大学勤信人才培养计划(QXTCPB202101) 

主　　题：异构网络 人机物混合接入 资源分配 分布式Q学习 多无人机通信 

摘      要：基于强化学习(Reinforcement Learning,RL),在保证用户服务质量(Quality of Service,QoS)的前提下,研究了人机物混合接入的异构网络中通信-计算资源联合分配算法。建立了一种新型人机物混合接入的异构网络拓扑结构。在最小服务质量需求、无人机(Unmanned Aerial Vehicle,UAV)传输功率等限制条件下,将信道分配、功率分配和计算资源联合分配问题建模为最小化系统时延和能耗的多目标优化问题。基于强化学习理论和多智能体马尔可夫决策过程,提出一种分布式Q学习通信-计算资源联合分配(Distributed Q-learning Communication and Computing joint Resources Allocation,DQ-CCRA)算法。该算法与现有算法相比,不仅能够降低人类型设备对物类型设备的干扰,还能有效减小系统时延和能耗,将系统总开销降低7.4%。