检索结果-南通市图书馆

同方期刊数据库博看期刊评论

在线全文

学校读者我要写书评

暂无评论

大规模数据下回归模型的子抽样算法研究

大规模数据下回归模型的子抽样算法研究

作者：张美红长春工业大学

学位级别：硕士

随着科技的飞速发展,数据规模呈现指数式的增长,这些数据不仅规模极其庞大,数据维度也越来越高,而且数据结构也变得复杂,将这些数据统称为大规模数据。大规模数据虽然包含了更多的信息,但大规模数据不仅使存储和计算的成本提高,而且由... 详细信息

随着科技的飞速发展,数据规模呈现指数式的增长,这些数据不仅规模极其庞大,数据维度也越来越高,而且数据结构也变得复杂,将这些数据统称为大规模数据。大规模数据虽然包含了更多的信息,但大规模数据不仅使存储和计算的成本提高,而且由于数据的结构更加复杂,导致很多经典的处理方法失效,这些都为统计分析带来了挑战。基于以上背景,本文结合大规模数据的特征,在如下两个问题上展开讨论和研究,问题一是当大规模数据中的样本量很大时,如何在不损失过多估计精度的前提下,通过子抽样方法节约计算成本。问题二是当大规模数据中样本量很大且数据维度较高时,如何在有限的计算资源下进行变量选择和参数估计。基于该研究思路,下面介绍本文的主要内容。第一部分针对问题一研究了大规模数据下秩回归的最优子抽样。秩回归是一种无分布、稳健且高效的估计方法,并且在处理重尾数据时的优势更加显著。基于此,本文首先介绍秩回归模型,对有助于建立估计量渐近性质的假设进行说明,并推导出一般子抽样估计量的渐近性质。其次,基于秩回归估计量的A-最优准则和L-最优准则的最优子抽样策略,提出了两步子抽样方法,并且为了在不估计误差密度的情况下获得秩估计的标准误差,提出一种基于L-最优子抽样概率的迭代子抽样过程。最后,在多种不同分布的情况下进行数值模拟研究,通过比较发现所提出的方法对于处理呈现重尾分布的数据具有良好的效果。实证分析表明,将所提出的方法应用在实际数据时的结果优于传统的均匀子抽样方法。第二部分针对问题二研究了大规模数据下分位数回归的子抽样及变量选择。当数据样本量很大且真实系数存在稀疏解时,同时考虑数据降维和变量选择可以达到良好的分析效果。基于此,本文首先介绍了带有惩罚的线性分位数回归模型,并进一步推导出基于子抽样的估计。其次,依据子抽样方法和稳定性选择过程,提出了基于稳定性选择的BIC优化(BIC-OSS)算法。最后,在多种不同分布的情况下进行数值模拟研究,对比发现,在变量选择和参数估计方面,所提出的方法效果更好。实证分析也表明,所提出的方法在实际数据分析时的表现依然出色,且与使用全样本进行估计相比,使用该方法可以节约大量的计算时间。

关键词：大规模数据秩回归分位数回归子抽样 L-最优准则

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

基于正交表的最优传输大数据子抽样方法

基于正交表的最优传输大数据子抽样方法

作者：孔琪曲阜师范大学

学位级别：硕士

随着科学技术的飞速发展,大规模数据集的统计分析给传统的统计和机器学习算法提出了巨大的挑战,因为它们在计算时间和内存方面面临着巨大的计算负担.为了实现快速且准确的大数据统计分析,我们需要设计更快速和更高效的创新统计方法.其中... 详细信息

随着科学技术的飞速发展,大规模数据集的统计分析给传统的统计和机器学习算法提出了巨大的挑战,因为它们在计算时间和内存方面面临着巨大的计算负担.为了实现快速且准确的大数据统计分析,我们需要设计更快速和更高效的创新统计方法.其中,从数据集中抽取包含有用信息的子样本以减小数据集规模,是重要方法之一,有助于降低统计分析过程中的计算负担,从而节省时间.在此基础上,研究者们提出了子抽样方法,旨在从原始数据集中选择有代表性的子样本,以替代完整观测样本,从而显著减小数据集的规模,同时最小化统计效率的损失.子抽样方法在多个领域有着丰富的研究成果,并得到了广泛应用.为了确保子样本能够有效代表整体样本,文献[35]提出了正交表抽样方法（OSS）.该方法生成了一个与子样本大小相匹配的正交表,将样本放缩到[0,1]p的区间内,然后选择与正交表距离最近的样本作为子样本,并应用最小二乘估计进行参数估计以构建线性模型.然而,将样本直接放缩到[0,1]p得到的估计结果不够精确,并且由于正交表是随机生成的,可能导致估计结果不是最优的.针对上述问题,本文提出了一种适用于大规模数据线性回归模型的最优传输同构正交表子抽样方法（OTIOS）.该方法结合了最优传输映射方法与正交表抽样方法.先将原始样本映射为均匀分布,然后生成m个相互同构的正交表来选取子样本,并将得到的m个估计参数取平均值作为最终的估计结果.OTIOS方法不仅继承了正交表子抽样方法的优点,还能够提供更为精确的估计参数,因为它融合了 m个正交表选择子样本的信息.除此之外,最优传输映射还有助于实现更均匀的子样本分布,进一步提高了信息的代表性.理论研究和大量数值实验结果都表明,OTIOS方法在最小化估计参数的均方误差方面表现出色,提供了更为精确的参数估计.通过对真实数据的分析,也验证了该方法的优越性.

关键词：大数据子抽样正交表同构最优传输映射

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

面向多类别分类问题的子抽样主动学习方法

系统工程与电子技术 2021年第3期43卷 700-708页

作者：施伟黄红蓝冯旸赫刘忠国防科技大学系统工程学院湖南长沙410073

由于传统主动学习方法的计算量随着问题规模的增大呈指数增长,因此很难应用于大规模多类数据分类任务中。为解决该问题,设计了一种基于子抽样的主动学习(subsampling-based active learning,SBAL)算法。该算法将无监督聚类算法与传统主... 详细信息

由于传统主动学习方法的计算量随着问题规模的增大呈指数增长,因此很难应用于大规模多类数据分类任务中。为解决该问题,设计了一种基于子抽样的主动学习(subsampling-based active learning,SBAL)算法。该算法将无监督聚类算法与传统主动学习方法整合,在二者之间增加了子抽样操作,该操作能够显著降低算法的时间复杂度,在保证实验准确率的基础上减少实验耗时,从而更加高效地处理大规模数据集的分类问题。实验结果显示,采用SBAL算法的实验性能优于传统主动学习算法,证明了所提算法可以突破传统主动学习方法不能处理大规模数据集多类别分类问题的局限性。

关键词：子抽样主动学习无监督聚类多类别分类问题

在线全文

学校读者我要写书评

暂无评论

非参数局部多项式回归估计的最优子抽样算法

系统科学与数学 2022年第1期42卷 72-84页

作者：牛晓阳邹家辉仲恺农业工程学院广州510225 首都经济贸易大学北京100070

随着科学技术的发展,虽然人们提高了收集和处理数据的能力,但仍存在一些大数据集超出了现有计算机的计算能力.目前,抽取一部分样本来替代全样本进行建模计算是减轻计算负担的一种方法.大数据背景下线性模型的子抽样方法已经得到了相对... 详细信息

随着科学技术的发展,虽然人们提高了收集和处理数据的能力,但仍存在一些大数据集超出了现有计算机的计算能力.目前,抽取一部分样本来替代全样本进行建模计算是减轻计算负担的一种方法.大数据背景下线性模型的子抽样方法已经得到了相对成熟的研究,在减轻计算量方面获得了很大的优势.文章将线性模型下的子抽样方法推广到非参数回归模型,并推导出了基于子样本的加权最小二乘参数估计对全样本加权最小二乘参数估计的收敛速度,以及子样本参数估计的条件渐近正态性.通过最小化渐近方差的准则,提出了非参数局部多项式回归模型下的OPT和PL两种抽样方案,最后在均方误差、计算成本和拟合效果等方面进行数值模拟,比较了OPT子抽样和PL子抽样相对于均匀子抽样和杠杆子抽样的差别,其结果表明于OPT准则和PL准则的子抽样方法在提高估计精确性和减少计算负担方面具有很大优势.

关键词：局部多项式回归估计子抽样加权最小二乘

在线全文

学校读者我要写书评

暂无评论

多源大数据的子抽样融合方法研究

统计与决策 2021年第12期37卷 29-32页

作者：刘曦蕊徐礼文北方工业大学理学院北京100144

文章结合子抽样方法考虑了多源大数据融合方法的构造问题。已有文献大多是将多源小规模数据进行融合,不适用于多源大数据背景下的很多实际问题。文章考虑到大规模数据分析的高昂计算成本和存储代价,基于均匀抽样和杠杆得分(Leverage Sco... 详细信息

文章结合子抽样方法考虑了多源大数据融合方法的构造问题。已有文献大多是将多源小规模数据进行融合,不适用于多源大数据背景下的很多实际问题。文章考虑到大规模数据分析的高昂计算成本和存储代价,基于均匀抽样和杠杆得分(Leverage Score)重要性抽样等方法,提出一种多源大数据的子抽样融合方法,并借助Monte Carlo方法与单来源推断方法进行比较研究,验证了所提方法的优越性。

关键词：大数据多源数据融合子抽样

大样本线性混合效应模型的子抽样方法及其应用研究

在线全文

学校读者我要写书评

暂无评论

大样本线性混合效应模型的子抽样方法及其应用研究

作者：李媛北方工业大学

学位级别：硕士

科学技术在过去十年的迅速发展带来了非常多的数据,一个主要挑战是计算资源的进步仍然远远落后于数据集的指数级增长。处理大规模数据集的一个普遍方法是子抽样。例如,在线性回归模型中利用经验的统计杠杆得分作为重要性抽样分布,能提... 详细信息

科学技术在过去十年的迅速发展带来了非常多的数据,一个主要挑战是计算资源的进步仍然远远落后于数据集的指数级增长。处理大规模数据集的一个普遍方法是子抽样。例如,在线性回归模型中利用经验的统计杠杆得分作为重要性抽样分布,能提高计算最小二乘估计的效率。本文考虑对面板数据构造新的杠杆抽样方法,然后应用于混合效应模型中,并通过随机模拟来研究新方法的优良性质。本文主要考虑大样本情形下一类混合效应模型的子抽样,混合效应模型的一类所谓误差分量回归模型中,对每个个体会有重复观测,当个体数规模很大时,重复观测更加剧了数据的规模,所以在该模型下提出了使用子抽样算法降低计算复杂度。首先根据面板数据具有组内相关性的性质,构造了一种成组数据杠杆得分权重确定方法,然后利用其作为子样本的抽样概率。进一步,我们将新方法和均匀抽样方法进行了随机模拟比较研究,将抽样方法应用于多元正态分布,自由度为1的T分布,自由度为3的T分布中并验证了新方法的有效性。杠杆抽样是在子抽样框架下进行设计,其中从全部数据中抽取一小部分数据(子样本),然后使用子样本替代全样本执行预期的计算。对于用不同方法抽出来的面板数据进行混合效应模型的不同参数估计,包括均匀抽样估计(UNIF),杠杆抽样估计(LEV),不加权杠杆抽样估计(LEVUW)。杠杆方法利用杠杆得分构造非均匀抽样概率,能够得到可解释性的子抽样方法。最后对抽样估算方法进行偏差及方差的对比分析,并给出不同子抽样方法的应用范围。

关键词：混合效应模型子抽样杠杆抽样

同方学位论文库评论

在线全文

同方学位论文库

学校读者我要写书评

暂无评论

大样本线性回归的子抽样方法比较研究

信息技术与信息化 2021年第1期 124-126页

作者：张新扬赵桂梅刘喜波北方工业大学理学院北京100144

本文主要探究大样本线性回归的子抽样方法,采用均匀抽样和杠杆值抽样的子抽样方法,对数据进行线性回归模型的拟合,使用均方误差来评价抽样方法的优良性。借助随机模拟方式,通过改变子样本量的大小以及增加抽样次数,观察均匀抽样和杠杆... 详细信息

本文主要探究大样本线性回归的子抽样方法,采用均匀抽样和杠杆值抽样的子抽样方法,对数据进行线性回归模型的拟合,使用均方误差来评价抽样方法的优良性。借助随机模拟方式,通过改变子样本量的大小以及增加抽样次数,观察均匀抽样和杠杆值抽样两种抽样方法均方误差的变化。模拟结果表明,无论是改变子样本量大小还是增加抽样次数,杠杆值抽样的均方误差总是小于均匀抽样的均方误差。

关键词：线性回归模型子抽样均匀抽样杠杆值抽样