考虑多样性的深度神经网络结构搜索方法研究
Research on Structure Search Method for Deep Neural Network Considering Diversity作者机构:新疆财经大学信息管理学院乌鲁木齐830012
出 版 物:《计算机工程》 (Computer Engineering)
年 卷 期:2020年第46卷第12期
页 面:105-112,133页
学科分类:12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术(可授工学、理学学位)]
基 金:新疆维吾尔自治区自然科学基金(2019D01A27) 新疆维吾尔自治区社会科学基金(19BXW085) 教育部人文社会科学研究规划基金项目(17XJJAZH001)
主 题:深度神经网络 结构搜索 多样性 网络对准 节点相似性
摘 要:为提升网络结构的寻优能力,提出一种改进的深度神经网络结构搜索方法。针对网络结构间距难以度量的问题,结合神经网络的结构搜索方案,设计基于图的深度神经网络结构间距度量方式。对少量步数训练和充分训练2种情况下的网络结构性能进行分析,基于多样性解的优势,给出一种多样性最优网络结构搜索方法。实验结果表明,该方法能够有效提高解的质量,有助于寻找到更优的网络结构。