【课程目标】

本课程为中级课程，需要在初级课程之后学习。面向所有应用型人员，包括业务部分，以及数据分析部门，系统开发人员也同样需要学习。

本课程核心内容为数据挖掘，预测模型，以及模型优化，帮助学员构建系统全面的业务分析思维，提升学员在数据分析综合能力。

本课程覆盖了如下内容：

1、 数据挖掘基础知识。

2、 常用数值预测模型。

3、 常用分类预测模型。

4、 数据预处理的基本过程。

本课程从实际的业务需求出发，结合行业的典型应用特点，围绕实际的商业问题，对数据分析及数据挖掘技术进行了全面的介绍（从数据收集与处理，到数据分析与挖掘，再到数据可视化和报告撰写），通过大量的操作演练，帮助学员掌握数据分析和数据挖掘的思路、方法、表达、工具，从大量的企业经营数据中进行分析，挖掘客户行为特点，帮助运营团队深入理解业务运作，以达到提升学员的数据综合分析能力，支撑运营决策的目的。

通过本课程的学习，达到如下目的：

1、 了解数据挖掘基础知识，以及数据挖掘标准过程。

2、 熟悉建模的一般过程，以及评估模型质量的关键指标。

3、 掌握建模前的影响因素分析，学会寻找影响业务的关键因素。

4、 熟练使用数值预测模型，掌握自定义模型以及优化步骤。

5、 熟练使用分类预测模型，掌握模型优化的思路。

6、 熟练掌握预处理的基本过程，并根据业务实际情况进行处理。

【授课时间】

2天时间

【授课对象】

销售部门、营业厅、呼叫中心、业务支撑、经营分析部、网管/网优中心、运营分析部、系统开发部等对业务数据分析有基本要求的相关人员。

【学员要求】

1、 每个学员自备一台便携机(必须)。

2、 便携机中事先安装好IBM SPSS Statistics v19版本及以上。

3、 便携机中事先安装好IBM SPSS Modeler v14版本及以上。

注：讲师可以提供试用版本软件及分析数据源。

【授课方式】

数据分析基础 + 方法讲解 + 实际业务问题分析 + 工具实践操作

采用互动式教学，围绕业务问题，展开数据分析过程，全过程演练操作，让学员在分析、分享、讲授、总结、自我实践过程中获得能力提升。

【课程大纲】

第一部分： 数据挖掘标准流程

1、 数据挖掘概述

2、 数据挖掘的标准流程（CRISP-DM）

 商业理解

 数据准备

 数据理解

 模型建立

 模型评估

 模型应用

案例：客户匹配度建模—找到你的准客户

案例：客户流失预测及客户挽留

3、 数据集概述

4、 数据集的类型

5、 数据集属性的类型

 标称

 序数

 度量

6、 数据质量三要素

 准确性

 完整性

 一致性

第二部分： 影响因素分析篇

问题：如何判断一个因素对另一个因素有影响？比如营销费用是否会影响销售额？产品价格是否会影响销量？产品的陈列位置是否会影响销量？

风险控制的关键因素有哪些？

1、 影响因素分析的常见方法

2、 相关分析（衡量变量间的的相关性）

问题：这两个属性是否会相互影响？影响程度大吗？营销费用会影响销售额吗？ 

 相关系数的三个计算公式

 相关分析的假设检验

 相关分析的基本步骤

演练：体重与腰围的关系

演练：营销费用会影响销售额吗

演练：哪些因素与汽车销量有相关性

演练：通信费用与开通月数的相关分析

案例：酒楼生意好坏与报纸销量的相关分析

 偏相关分析

 偏相关系数的计算公式

 偏相关分析的适用场景

 距离相关分析

3、 方差分析

问题：哪些才是影响销量的关键因素？

 方差分析解决什么问题

 方差分析种类：单因素/双因素可重复/双因素无重复

 方差分析的应用场景

 方差分析的原理与步骤

 如何解决方差分析结果

演练：终端摆放位置与终端销量有关吗？

演练：开通月数对客户流失的影响分析

演练：客户学历对消费水平的影响分析

演练：广告和价格是影响终端销量的关键因素吗

演练：营业员的性别、技能级别产品销量有影响吗？

案例：2015年大学生工资与父母职业的关系

案例：医生洗手与婴儿存活率的关系

演练：寻找影响产品销量的关键因素

 多因素方差分析原理

 多因素方差结果的解读

演练：广告形式、地区对销量的影响因素分析（多因素）

 协方差分析原理

演练：饲料对生猪体重的影响分析（协方差分析）

4、 列联分析（两类别变量的相关性分析）

 交叉表与列联表

 卡方检验的原理

 卡方检验的几个计算公式

 列联表分析的适用场景

案例：套餐类型对客户流失的影响分析

案例：学历对业务套餐偏好的影响分析

案例：行业/规模对风控的影响分析

第三部分： 数值预测模型篇

问题：如何预测产品的销量/销售金额？

1、 销量预测与市场预测——让你看得更远

2、 回归预测/回归分析

问题：如何预测未来的销售量（定量分析）？

 回归分析的基本原理和应用场景

 回归分析的种类（一元/多元、线性/曲线）

 得到回归方程的几种常用方法

 回归分析的五个步骤与结果解读

 回归预测结果评估（如何评估预测质量）

演练：散点图找推广费用与销售额的关系（一元线性回归）

演练：推广费用、办公费用与销售额的关系（多元线性回归）

演练：让你的营销费用预算更准确

演练：如何选择最佳的回归预测模型（曲线回归）

 带分类变量的回归预测

演练：汽车季度销量预测

演练：工龄、性别与终端销量的关系

演练：如何评估销售目标与资源配置（营业厅）

3、 时序预测

问题：随着时间变化，未来的销量变化趋势如何？

 时序分析的应用场景（基于时间的变化规律）

 移动平均MA的预测原理

 指数平滑ES的预测原理

 如何评估预测值的准确性？

案例：销售额的时序预测及评估

演练：汽车销量预测及评估

演练：电视机销量预测分析

演练：上海证券交易所综合指数收益率序列分析

演练：服装销售数据季节性趋势预测分析

4、 季节性预测模型

 季节性回归模型的参数

 常用季节性预测模型（相加、相乘）

 怎样解读模型的含义

案例：美国航空旅客里程的季节性趋势分析

案例：产品销售季节性趋势预测分析

5、 新产品预测模型与S曲线

 如何评估销量增长的拐点

 珀尔曲线与龚铂兹曲线

案例：如何预测产品的销售增长拐点，以及销量上限

演练：预测IPad产品的销量

演练：预测Facebook的用户增长情况

第四部分： 回归模型优化篇

1、 回归模型的基本原理

 三个基本概念：总变差、回归变差、剩余变差

 方程的显著性检验：是否可以做回归分析？

 拟合优度检验：回归模型的质量评估？

 因素的显著性检验：自变量是否可用？

 理解标准误差的含义：预测的准确性？

2、 模型优化思路：寻找最佳回归拟合线

 如何处理异常数据（残差与异常值排除）

 如何剔除非显著因素（因素显著性检验）

 如何进行非线性关系检验

 如何进行相互作用检验

 如何进行多重共线性检验

 如何检验误差项

 如何判断模型过拟合

案例：模型优化案例

演练：预测IPad的季度销量

6、 自定义模型（如何利用规划求解进行自定义模型）

案例：如何对餐厅客流量进行建模及模型优化

第五部分： 分类预测模型篇

问题：如何评估客户购买产品的可能性？或者说，影响客户购买意向的产品关键特性是什么？

1、 分类模型概述

2、 常见分类预测模型

3、 逻辑回归模型

 逻辑回归模型原理及适用场景

 逻辑回归种类：二元/多元逻辑回归

 如何解读逻辑回归方程

案例：如何评估用户是否会购买某产品（二元逻辑）

 消费者品牌选择模型分析

案例：品牌选择模型分析，你的品牌适合哪些人群？（多元逻辑）

4、 分类决策树

问题：如何预测客户行为？如何识别潜在客户？

风控：如何识别欠贷者的特征，以及预测欠贷概率？

客户保有：如何识别流失客户特征，以及预测客户流失概率？

 决策树分类简介

 如何评估分类性能？

案例：美国零售商（Target）如何预测少女怀孕

演练：识别银行欠货风险，提取欠贷者的特征

 构建决策树的三个关键问题

 如何选择最佳属性来构建节点

 如何分裂变量

 修剪决策树

 选择最优属性

 熵、基尼索引、分类错误

 属性划分增益

 如何分裂变量

 多元划分与二元划分

 连续变量离散化（最优划分点）

 修剪决策树

 剪枝原则

 预剪枝与后剪枝

 构建决策树的四个算法

 C5.0、CHAID、CART、QUEST

 各种算法的比较

 如何选择最优分类模型？

 案例：商场酸奶购买用户特征提取

 案例：电信运营商客户流失预警与客户挽留

 案例：识别拖欠银行货款者的特征，避免不良货款

 案例：识别电信诈骗者嘴脸，让通信更安全

5、 人工神经网络（ANN）

 神经网络概述

 神经网络基本原理

 神经网络的结构

 神经网络的建立步骤

 神经网络的关键问题

 BP反向传播网络（MLP）

 径向基网络（RBF）

案例：评估银行用户拖欠货款的概率

6、 判别分析

 判别分析原理

 距离判别法

 典型判别法

 贝叶斯判别法

案例：MBA学生录取判别分析

案例：上市公司类别评估

第六部分： 数据预处理篇（了解你的数据集）

1、 数据预处理的主要任务

 数据集成：多个数据集的合并

 数据清理：异常值的处理

 数据处理：数据筛选、数据精简、数据平衡

 变量处理：变量变换、变量派生、变量精简

 数据归约：实现降维，避免维灾难

2、 数据集成

 外部数据读入：Txt/Excel/SPSS/Database

 数据追加（添加数据）

 变量合并（添加变量）

3、 数据理解（异常数据处理）

 取值范围限定

 重复值处理

 无效值/错误值处理

 缺失值处理

 离群值/极端值处理

 数据质量评估

4、 数据准备：数据处理

 数据筛选：数据抽样/选择（减少样本数量）

 数据精简：数据分段/离散化（减少变量的取值个数）

 数据平衡：正反样本比例均衡

5、 数据准备：变量处理

 变量变换：原变量取值更新，比如标准化

 变量派生：根据旧变量生成新的变量

 变量精简：降维，减少变量个数

6、 数据降维

 常用降维的方法

 如何确定变量个数

 特征选择：选择重要变量，剔除不重要的变量

 从变量本身考虑

 从输入变量与目标变量的相关性考虑

 对输入变量进行合并

 因子分析（主成分分析）

 因子分析的原理

 因子个数如何选择

 如何解读因子含义

案例：提取影响电信客户流失的主成分分析

7、 数据探索性分析

 常用统计指标分析

 单变量：数值变量/分类变量

 双变量：交叉分析/相关性分析

 多变量：特征选择、因子分析

演练：描述性分析（频数、描述、探索、分类汇总）

8、 数据可视化

 数据可视化：柱状图、条形图、饼图、折线图、箱图、散点图等

 图形的表达及适用场景

演练：各种图形绘制

结束：课程总结与问题答疑。