基于机器学习算法的客户存款行为预测

作     者：杜贤贤 

作者单位：山东大学 

学位级别：硕士

导师姓名：嵇少林

授予年度：2022年

学科分类：02[经济学] 0202[经济学-应用经济学] 020204[经济学-金融学（含∶保险学）] 08[工学] 081104[工学-模式识别与智能系统] 0811[工学-控制科学与工程] 

主      题：随机森林 XGBoost 决策树 分类间隔 加权集成投票 精准营销 

摘      要：随着金融科技的快速发展,传统银行业都在积极寻求智能化转型。存款业务是商业银行的主要负债业务,借助机器学习算法准确预测客户存款行为,进而确定潜在目标客户并进行精准营销,可有效提升银行存款营销活动中的客户转化率,对其成功转型至关重要。本文以葡萄牙商业银行在存款营销活动中产生的信息作为数据集,通过构建随机森林和XGBoost模型,对客户是否会订购存款产品进行预测,可以为我国商业银行的存款营销管理提供一定的参考价值。文章首先通过参数优化和特征选择操作,构建了传统的随机森林模型和XGBoost模型,并从特征重要性、混淆矩阵等角度对建模结果进行评估。其次,对随机森林进行了改进。传统随机森林算法在实现集成投票功能时默认各棵决策树的权重一样,事实上,其分类性能并非完全相同,通过为各棵决策树赋予相应的权重,可以强化那些性能优异的决策树的贡献度,从而提升整个随机森林的分类精度。本文从这一角度出发对其进行优化:对传统随机森林首先进行修剪操作,剔除准确率较低的决策树以降低模型冗余;再对保留下来的准确率较高的树木,基于各自的分类间隔改变量赋予相应的权重,得到加权集成的随机森林。之后,借助联合ROC曲线与联合PR曲线对比三个模型的分类性能,借助召回率与精确率曲线交点确定阈值的最佳范围,借助混淆矩阵比较三个模型的客户分类结果,实验结果表明,相较于传统的随机森林和XGBoost模型,改进的随机森林分类器更能准确预测客户存款行为,有效提升客户分类精度,对商业银行开展存款营销活动具有一定的借鉴意义。最后,针对最能影响客户存款决策的九个变量,文章对其分布规律进行逐一分析,为银行的存款电销活动提出精准营销策略。