Python数据建模及模型优化实战
Ian Fu 查看讲师
百林哲咨询(北京)有限公司专家团队成员
曾任华为技术专家,五篇技术专利,工作期间获得华为数项奖项,曾在英国、日本、荷兰等国家做项目,对大数据有深入的研究。
浏览:370次
详情 DETAILS

课程简介

数据建模作为连接数据与洞察的桥梁,其核心价值在于能够揭示数据背后的隐藏规律,预测未来趋势,优化决策过程,从而为企业和社会带来显著的竞争优势和经济效益。通过构建精确的数据模型,企业可以更有效地识别市场机会、控制风险、提升运营效率,并在竞争中占据先机。

Python,凭借其强大的数据处理能力、丰富的数据分析库以及灵活易用的特性,成为了数据建模与模型优化的理想选择。这些特性使得Python能够处理大规模数据集,快速迭代模型,并通过调整模型参数、选择最优特征、应用正则化技术等手段,实现模型性能的显著提升。

本课程专注于金融行业的数据建模,结合金融行业的典型应用特点,从实际问题入手,着重强调数据挖掘的实际应用。通过引入相关知识,包括客户行为预测模型,风控识别与风控预测模型等,培养学员的大数据意识和大数据思维,帮助学员掌握常用的数据分析方法和数据分析模型,并能够用于对客户行为作分析和预测,提升学员的数据分析综合能力。

课程收益

1、掌握数据分析和数据建模的基本过程和步骤

2、掌握数据分析框架的搭建,及常用分析方法

3、掌握业务的影响因素分析常用的方法

4、掌握常用客户行为预测模型,包括逻辑回归、决策树、神经网络等等

5、掌握模型优化的思路及措施,包括特征优化、超参优化、集成优化等

6、掌握金融行业信用评分卡模型,构建信用评分模型

受众人群

风险控制部、金融科技部、IT系统部、数据分析部等对数据建模有较高要求的相关领域人员。

课程周期

  2天(12H)

课程大纲

标题

授课内容

一、数据分析基础—流程步骤篇

1. 数据决策的三个关键环节

(1) 业务数据化:将业务问题转化为数据问题

(2) 数据信息化:提取数据中的业务规律信息

(3) 信息策略化:基于规律形成业务应对策略

2. 数据分析的六步曲

(1) 步骤1:明确目的--理清思路

(2) 步骤2:数据收集—理清思路

(3) 步骤3:数据预处理—寻找答案

(4) 步骤4:数据分析--寻找答案

(5) 步骤5:数据展示--观点表达

(6) 步骤6:报表撰写--观点表达

二、数据分析框架—业务模型篇

1. 数据分析思路来源于业务模型

2. 分析框架来源于业务模型

(1) 商业目标(粗粒度)

(2) 分析维度/关键步骤

(3) 业务问题(细粒度)

(4) 涉及数据/关键指标

3. 常用的业务模型:PEST/5W2H/SWOT/PDCA/AARRR…

案例:搭建精准营销的分析框架(6R)

(1) 如何寻找目标客户群

(2) 如何匹配合适的产品

(3) 如何确定推荐的最佳时机

(4) 如何判断合理的价格

案例:搭建用户购买行为分析框架(5W2H)

三、探索性分析法—统计分析篇

问题:数据分析方法的种类?分析方法的不同应用场景?

1. 业务分析的三个阶段

(1) 现状分析:通过企业运营指标来发现规律及短板

(2) 原因分析:查找数据相关性,探寻目标影响因素

(3) 预测分析:合理配置资源,预判业务未来的趋势

2. 常用的数据分析方法五大种类

3. 统计分析基础(类别指标)

4. 描述性分析法(现状分析)

(1) 对比分析(查看数据差距,发现事物变化)

演练:分析理财产品受欢迎情况及贡献大小

演练:用户消费水平差异分析,提取优质客户特征

(2) 分布分析(查看数据分布,探索业务层次)

案例:银行用户的消费层次/消费档次分析

演练:客户年龄分布/收入分布分析

(3) 结构分析(查看指标构成,评估结构合理性)

案例:收入结构分析/成本结构分析

案例:动态结构分析

(4) 趋势分析(查看变化趋势,了解季节周期性)

案例:营业厅客流量规律与排班

案例:用户活跃时间规律/产品销量的淡旺季分析

演练:产品订单的季节周期性规律

5. 相关性分析(原因分析)

(1) 相关分析(衡量两变量间的相关程度,三种相关系数)

(2) 方差分析(判断影响目标变量的关键要素,适用场景)

(3) 卡方检验(从多个维度的数据指标分析)

演练:不同客户的产品偏好分析

演练:银行用户违约的影响因素分析

四、用户风险识别—异常数据篇

1. 反欺诈识别的重点内容

(1) 如何识别异常数据

(2) 如何查找影响因素

(3) 如何提取欺诈用户的特征

(4) 如何预测用户的欺诈行为

2. 异常数据的定义

3. 异常数据的检测方法

(1) 基于统计法:标准差法、四分位距法、离群点检测算法

(2) 基于机器学习:回归、聚类等

4. 异常数据处理方法

演练:各种异常数据识别

五、影响因素分析—根因分析篇

问题:如何做原因分析?比如价格是否可用于产品销量?影响用户违约的关键因素是什么?

1. 数据预处理vs特征工程

2. 常用特征选择方法

(1) 相关分析、方差分析、卡方检验

3. 相关分析(衡量两数据型变量的线性相关性)

(1) 相关分析简介

(2) 相关分析的应用场景

(3) 相关分析的种类

① 简单相关分析

② 偏相关分析

③ 距离相关分析

(4) 相关系数的三种计算公式

① Pearson相关系数

② Spearman相关系数

③ Kendall相关系数

(5) 相关分析的假设检验

(6) 相关分析的四个基本步骤

演练:营销费用会影响销售额吗?影响程度如何量化?

演练:哪些因素与产品销量有显著的相关性

演练:影响用户消费水平的因素会有哪些

(7) 偏相关分析

① 偏相关原理:排除不可控因素后的两变量的相关性

② 偏相关系数的计算公式

③ 偏相关分析的适用场景

4. 方差分析(衡量类别变量与数值变量间的相关性)

(1) 方差分析的应用场景

(2) 方差分析的三个种类

① 单因素方差分析

② 多因素方差分析

③ 协方差分析

(3) 单因素方差分析的原理

(4) 方差分析的四个步骤

(5) 解读方差分析结果的两个要点

案例:摆放位置与销量有关吗

演练:客户学历对消费水平的影响分析

(6) 多因素方差分析原理

(7) 多因素方差分析的作用

(8) 多因素方差结果的解读

案例:广告形式、地区对销售额的影响因素分析

演练:销售员的性别、技能级别对销量有影响吗

(9) 协方差分析原理

(10) 协方差分析的适用场景

演练:排除用户收入,其余哪些因素对销量有显著影响?

5. 列联分析/卡方检验(两类别变量的相关性分析)

(1) 交叉表与列联表:计数值与期望值

(2) 卡方检验的原理

(3) 卡方检验的几个计算公式

(4) 列联表分析的适用场景

案例:产品类型对客户流失的影响分析

案例:用户学历对产品类型偏好的影响分析

研讨:行业/规模对风控的影响分析

六、数据建模过程—建模步骤篇

1. 预测建模六步法

(1) 选择模型:基于业务选择恰当的数据模型

(2) 特征工程:选择对目标变量有显著影响的属性来建模

(3) 训练模型:采用合适的算法对模型进行训练,寻找到最优参数

(4) 评估模型:进行评估模型的质量,判断模型是否可用

(5) 优化模型:如果评估结果不理想,则需要对模型进行优化

(6) 应用模型:如果评估结果满足要求,则可应用模型于业务场景

2. 数据挖掘常用的模型

(1) 定量预测模型:回归预测、时序预测等

(2) 定性预测模型:逻辑回归、决策树、神经网络、支持向量机等

(3) 市场细分:聚类、RFM、PCA等

(4) 产品推荐:关联分析、协同过滤等

(5) 产品优化:回归、随机效用等

(6) 产品定价:定价策略/最优定价等

3. 特征工程/特征选择/变量降维

(1) 基于变量本身特征

(2) 基于相关性判断

(3) 因子合并(PCA等)

(4) IV值筛选(评分卡使用)

(5) 基于信息增益判断(决策树使用)

4. 模型评估

(1) 模型质量评估指标:R^2、正确率/查全率/查准率/特异性等

(2) 预测值评估指标:MAD、MSE/RMSE、MAPE、概率等

(3) 模型评估方法:留出法、K拆交叉验证、自助法等

(4) 其它评估:过拟合评估、残差检验

5. 模型优化

(1) 优化模型:选择新模型/修改模型

(2) 优化数据:新增显著自变量

(3) 优化公式:采用新的计算公式

(4) 集成思想:Bagging/Boosting/Stacking

6. 常用预测模型介绍:回归、时序、分类


企业服务热线:400-106-2080
电话:18519192882
投诉建议邮箱:venus@bailinzhe.com
合作邮箱:service@bailinzhe.com
总部地址:
北京市-丰台区-汽车博物馆东路6号3号楼1单元902-B73(园区)
全国客户服务中心:
天津市-南开区-桂苑路15号鑫茂集团鑫茂军民园1号楼A座802-803
公众号
百林哲咨询(北京)有限公司 京ICP备2022035414号-1