机器学习算法的安全外包计算的研究

作     者：刘海洋 

作者单位：青岛大学 

学位级别：硕士

导师姓名：张翰林

授予年度：2022年

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 08[工学] 0839[工学-网络空间安全] 081104[工学-模式识别与智能系统] 0835[工学-软件工程] 081201[工学-计算机系统结构] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主      题：机器学习 云计算 外包计算 宽度学习 极限学习机 隐私保护 

摘      要：近年来,机器学习已经成为人工智能和大数据分析领域的研究热点,其在故障检测、人脸识别和垃圾邮件检测等方面表现出了令人印象深刻的性能。由于机器学习算法结构的特点,机器学习模型的训练过程往往需要消耗大量的计算资源,这使得一些用户可能无法负担如此繁重的计算任务。外包计算的出现为上述问题提供了解决方案。用户可以将繁重的机器学习训练任务外包给计算资源充足的云服务器,从而减轻自身的计算负担。尽管外包计算有很多优势,但其独特的服务外包等特点也给用户带来了前所未有的安全挑战。首先,云服务器是不可以完全信任的,在外包计算的过程中,用户的隐私信息可能存在泄露风险。其次,软件错误和恶意的攻击可能使得用户所接收到的外包计算结果是错误的。因此越来越多的研究者开始思考如何为机器学习算法设计一个安全实用的外包方案。现有的机器学习外包方案都是针对特定的算法所设计的,这是因为各个机器学习算法之间的结构存在差异,所以很难为机器学习算法设计一个通用的安全外包方案。本文基于机器学习算法中的宽度学习算法和极限学习机算法,针对单个恶意云服务器进行了隐私保护外包方案设计,具体包括:(1)提出了首个用于宽度学习的隐私保护外包算法。该算法允许用户将宽度学习算法的训练过程外包给云服务器,从而使得宽度学习算法可以被应用于一些资源受限的设备中。在该算法中,云服务器获得的所有输入和输出都是经过盲化处理后的数据,因此云服务器无法从中获取任何有用的信息。此外,在计算完成之后,用户可以有效地验证云服务器返回的计算结果是否正确。该算法可以大大减少宽度学习的训练时间,同时为用户节省大量的计算资源。理论分析和实验证明了算法的正确性、隐私性、可靠性和有效性。(2)提出了首个用于极限学习机算法的隐私保护方案。该方案设计了一种新的矩阵转换方法来保护算法中的隐私数据,该方法极大的节省了保护用户的输入隐私和输出隐私所需的计算成本。同时,该方案使得资源受限的物联网设备也能够完成极限学习机模型的训练过程。实验表明,该方案在用户端所需的计算成本远远小于原始极限学习机算法所需要的计算成本。详细的理论分析和实验结果证明了该算法的安全性、正确性和可验证性。