大数据分析与挖掘工具之Python开发实战

Ian Fu 查看讲师

百林哲咨询（北京）有限公司专家团队成员

曾任华为技术专家，五篇技术专利，工作期间获得华为数项奖项，曾在英国、日本、荷兰等国家做项目，对大数据有深入的研究。

浏览：4041次

详情 DETAILS

简介

Python已经成为数据分析和数据挖掘的首选语言，作为除了Java、C/C++/C#外最受欢迎的语言。

本课程基于Python工具来实现大数据的数据分析和数据挖掘项目。基于业务问题，在数据挖掘标准过程指导下，采用Python分析工具，实现数据挖掘项目的每一步操作，从数据预处理、数据建模、数据可视化，到最终数据挖掘结束，帮助学员掌握Python用于数据挖掘，提升学员的数据化运营及数据挖掘的能力。

课程为实战课程，要求：

1、每个学员自备一台便携机(必须)。

2、便携机中事先安装好Python 3.6版本及以上。

注：讲师现场提供开源的安装程序、扩展库，以及现场分析的数据源。

授课方式：

语言基础+挖掘模型+案例演练+开发实践+可视化呈现

采用互动式教学，围绕业务问题，展开数据分析过程，全过程演练操作，让学员在分析、分享、讲授、总结、自我实践过程中获得能力提升。

目标

1、全面掌握Python语言以及其编程思想。

2、掌握常用扩展库的使用，特别是数据挖掘相关库的使用。

3、学会使用Python完成数据挖掘项目整个过程。

4、掌握利用Python实现可视化呈现。

5、掌握数据挖掘常见算法在Python中的实现。

课程时长

2天（12H）

受众人群

业务支持部、IT系统部、大数据系统开发部、大数据分析中心、网络运维部等相关技术人员。

分享提纲

第一部分： Python语言基础	掌握基本的Python编程思想与编程语句，熟悉常用数据结构的操作	1、Python简介 2、开发环境搭建 Python的安装扩展库的安装 3、掌握Python的简单数据类型字符串的使用及操作整数、浮点数 4、掌握基本语句： if、while、for、print等基本运算：函数定义、参数传递、返回值 5、掌握复杂的数据类型：列表/元组列表操作：访问、添加、修改、删除、排序列表切片、复制等列表相关的函数、方法元组的应用 6、复杂数据类型：字典创建、访问、修改、删除、遍历字典函数和方法 7、复杂数据类型：集合 8、掌握面向对象编程思想创建类、继承类模块 9、函数定义、参数传递、返回值 10、标准库与扩展库的导入 11、异常处理:try-except块演练：基本的Python编程语句
第二部分： Python扩展库	掌握数据集结构及基本处理方法，进一步巩固Python语言	1、数据挖掘常用扩展库介绍 Numpy数组处理支持 Scipy矩阵计算模块 Matplotlib数据可视化工具库 Pandas数据分析和探索工具 StatsModels统计建模库 Scikit-Learn机器学习库 Keras深度学习（神经网络）库 Gensim文本挖掘库 2、数据集读取与操作：读取、写入读写文本文件读写CSV文件读写Excel文件从数据库获取数据集 3、数据集的核心数据结构（Pandas数据结构） DataFrame对象及处理方法 Series对象及处理方法演练：用Python实现数据的基本统计分析功能
第三部分：数据可视化处理	掌握作图扩展库，实现数据可视化	1、常用的Python作图库 Matplotlib库 Pygal库 2、实现分类汇总演练：按性别统计用户人数演练：按产品+日期统计各产品销售金额 3、各种图形的画法直方图饼图折线图散点图 4、绘图的美化技巧演练：用Python库作图来实现产品销量分析，并可视化
第四部分：数据理解和数据准备	掌握数据预处理的基本环节，以及Python的实现	1、数据预处理异常值处理：3σ准则，IQR准则缺失值插补：均值、拉格朗日插补数据筛选/抽样数据的离散化处理变量变换、变量派生 2、数据的基本分析相关分析：原理、公式、应用方差分析：原理、公式、应用卡方分析：原理、公式、应用主成分分析：降维案例：用Python实现数据预处理及数据准备
第五部分：分类预测模型实战		1、常见分类预测的模型与算法 2、如何评估分类预测模型的质量查准率查全率 ROC曲线 3、逻辑回归分析模型逻辑回归的原理逻辑回归建模的步骤逻辑回归结果解读案例：用sklearn库实现银行贷款违约预测 4、决策树模型决策树分类的原理决策树的三个关键问题决策树算法与实现案例：电力窃漏用户自动识别 5、决策树算法最优属性选择算法：ID3、ID4.0、ID5.0 连续变量分割算法树剪枝：预剪枝、后剪枝 6、人工神经网络模型（ANN）神经网络概述神经元工作原理常见神经网络算法（BP、LM、RBF、FNN等）案例：神经网络预测产品销量 7、支持向量机（SVM） SVM基本原理维灾难与核心函数案例：基于水质图像的水质评价 8、贝叶斯分析条件概率常见贝叶斯网络
第六部分：数值预测模型实战		1、常用数值预测的模型通用预测模型：回归模型季节性预测模型：相加、相乘模型新产品预测模型：珀尔曲线与龚铂兹曲线 2、回归分析概念 3、常见回归分析类别 4、回归分析常见算法梯度上升/下降法普通最小二乘法OLS 局部加权线性回归LWLR 岭回归（RR）套索回归Lasso ElasticNet回归
第七部分：聚类分析（客户细分）实战		1、客户细分常用方法 2、聚类分析（Clustering）聚类方法原理介绍及适用场景常用聚类分析算法聚类算法的评价案例：使用SKLearn实现K均值聚类案例：使用TSNE实现聚类可视化 3、RFM模型分析 RFM模型，更深入了解你的客户价值 RFM模型与市场策略案例：航空公司客户价值分析
第八部分：关联规则分析实战		1、关联规则概述 2、常用关联规则算法 Apriori算法发现频繁集生成关联规则 FP-Growth算法构建FP树提取规则 3、时间序列分析案例：使用apriori库实现关联分析案例：中医证型关联规则挖掘
第九部分：案例实战		1、客户流失预测和客户挽留模型 2、银行欠贷风险预测模型
结束：课程总结与问题答疑。