正版 Python预测之美:数据分析与算法实战 游皓麟 电子工业出版

篇预测入门

章认识预测2

1.1什么是预测2

1.1.1占卜术3

1.1.2神秘的地动仪3

1.1.3科学预测5

1.1.4预测的原则7

1.2前沿技术9

1.2.1大数据与预测10

1.2.2大数据预测的特点11

1.2.3人工智能与预测15

1.2.4人工智能预测的特点17

1.2.5典型预测案例18

1.3Python预测初步26

1.3.1数据预处理27

1.3.2建立模型31

1.3.3预测及误差分析34

第2章预测方法论37

2.1预测流程37

2.1.1确定主题38

2.1.2收集数据40

2.1.3选择方法42

2.1.4分析规律43

2.1.5建立模型48

2.1.6评估效果51

2.1.7发布模型52

2.2指导原则53

2.2.1界定问题53

2.2.2判断预测法55

2.2.3外推预测法56

2.2.4因果预测法58

2.3团队构成59

2.3.1成员分类59

2.3.2数据氛围61

2.3.3团队合作63

第3章探索规律65

3.1相关分析.65

3.1.1自相关分析65

3.1.2偏相关分析68

3.1.3简单相关分析69

3.1.4互相关分析80

3.1.5典型相关分析82

3.2因果分析87

3.2.1什么是因果推断87

3.2.2因果推断的方法90

3.2.3时序因果推断93

3.3聚类分析98

3.3.1K-Means算法98

3.3.2系统聚类算法102

3.4关联分析110

3.4.1关联规则挖掘110

3.4.2Apriori算法111

3.4.3Eclat算法120

3.4.4序列模式挖掘123

3.4.5SPADE算法124

第4章特征工程136

4.1特征变换136

4.1.1概念分层137

4.1.2标准化138

4.1.3离散化141

4.1.4函数变换143

4.1.5深入表达144

4.2特征组合145

4.2.1基于经验145

4.2.2二元组合146

4.2.3高阶多项式148

4.3特征评价151

4.3.1特征初选151

4.3.2影响评价152

4.3.3模型法167

4.4特征学习172

4.4.1基本思路173

4.4.2特征表达式174

4.4.3初始种群183

4.4.4适应度185

4.4.5遗传行为187

4.4.6实例分析192

第2篇预测算法

第5章参数优化199

5.1交叉验证199

5.2网格搜索201

5.3遗传算法203

5.3.1基本概念203

5.3.2遗传算法算例204

5.3.3遗传算法实现步骤209

5.3.4遗传算法Python实现210

5.4粒子群优化213

5.4.1基本概念及原理213

5.4.2粒子群算法的实现步骤214

5.4.3用Python实现粒子群算法215

5.5模拟退火220

5.5.1基本概念及原理220

5.5.2模拟退火算法的实现步骤221

5.5.3模拟退火算法Python实现222

第6章线性回归及其优化226

6.1多元线性回归226

6.1.1回归模型与基本假定226

6.1.2最小二乘估计227

6.1.3回归方程和回归系数的显著性检验228

6.1.4多重共线性229

6.2Ridge回归233

6.2.1基本概念233

6.2.2岭迹曲线233

6.2.3基于GCV准则确定岭参数235

6.2.4Ridge回归的Python实现237

6.3Lasso回归237

6.3.1基本概念237

6.3.2使用LAR算法求解Lasso238

6.3.3Lasso算法的Python实现240

6.4分位数回归242

6.4.1基本概念242

6.4.2分位数回归的计算245

6.4.3用单纯形法求解分位数回归及Python实现246

6.5稳健回归248

6.5.1基本概念249

6.5.2M估计法及Python实现250

第7章复杂回归分析254

7.1梯度提升回归树（GBRT）254

7.1.1Boosting方法简介254

7.1.2AdaBoost算法255

7.1.3提升回归树算法257

7.1.4梯度提升259

7.1.5GBRT算法的Python实现261

7.2深度神经网络264

7.2.1基本概念264

7.2.2从线性回归说起269

7.2.3浅层神经网络272

7.2.4深层次拟合问题277

7.2.5DNN的Python实现278

7.3支持向量机回归281

7.3.1基本问题281

7.3.2LS-SVMR算法284

7.3.3LS-SVMR算法的Python实现285

7.4高斯过程回归286

7.4.1GPR算法287

7.4.2GPR算法的Python实现289

第8章时间序列分析292

8.1Box-Jenkins方法292

8.1.1p阶自回归模型293

8.1.2q阶移动平均模型295

8.1.3自回归移动平均模型296

8.1.4ARIMA模型300

8.1.5ARIMA模型的Python实现301

8.2门限自回归模型309

8.2.1TAR模型的基本原理309

8.2.2TAR模型的Python实现310

8.3GARCH模型族313

8.3.1线性ARCH模型313

8.3.2GRACH模型315

8.3.3EGARCH模型315

8.3.4PowerARCH模型316

8.4向量自回归模型318

8.4.1VAR模型基本原理318

8.4.2VAR模型的Python实现320

8.5卡尔曼滤波324

8.5.1卡尔曼滤波算法介绍324

8.5.2卡尔曼滤波的Python实现326

8.6循环神经网络328

8.6.1RNN的基本原理329

8.6.2RNN算法的Python实现332

8.7长短期记忆网络335

8.7.1LSTM模型的基本原理336

8.7.2LSTM算法的Python实现341

第3篇预测应用

第9章短期日负荷曲线预测345

9.1电力行业负荷预测介绍345

9.2短期日负荷曲线预测的基本要求346

9.3预测建模准备347

9.3.1基础数据采集347

9.3.2缺失数据处理349

9.3.3潜在规律分析352

9.4基于DNN算法的预测355

9.4.1数据要求356

9.4.2数据预处理356

9.4.3网络结构设计357

9.4.4建立模型358

9.4.5预测实现359

9.4.6效果评估359

9.5基于LSTM算法的预测361

9.5.1数据要求361

9.5.2数据预处理362

9.5.3网络结构设计362

9.5.4建立模型363

9.5.5预测实现364

9.5.6效果评估364

0章股票价格预测367

10.1股票市场简介367

10.2获取股票数据368

10.3基于VAR算法的预测371

10.3.1平稳性检验371

10.3.2VAR模型定阶372

10.3.3预测及效果验证373

10.4基于LSTM算法的预测375

10.4.1数据要求375

10.4.2数据预处理376

10.4.3网络结构设计377

10.4.4建立模型377

10.4.5预测实现378

10.4.6效果评估378

参考文献381

游皓麟，大数据分析、数据挖掘专家，不错培训讲师。毕业于东南大学，从事大数据相关领域工作8年有余，专注大数据架构、机器学习、数据挖掘、NLP、知识图谱等领域的方案设计、算法研究与工程实现。在游戏、互联网、电信、电力、军工等行业具有丰富的工程实践经验，多次作为特邀嘉宾参加行业会议并发表主题演讲，著有《R语言预测实战》等多本书籍。

前 言 为什么要写这本书？ 2016 年10 月笔者出版了《R 语言预测实战》，书中总结了笔者在预测领域的一些思考和经验，并通过书籍的媒介作用，和广大读者进行了一次深度的对话交流，书中基于R 语言对常用的数据分析、预测类算法进行了实现，并结合案例讲解了预测模型的实现过程。该书自出版以来，不断收到读者的好评，笔者也时常收到读者发来的邮件，或是对书籍内容感兴趣，希望可以长期交流，或者提出书籍中的一些瑕疵，希望在下个版本进行改善，或是咨询一些实际业务问题，如此等等。总地来看，《R 语言预测实战》这本书还是很受读者喜爱的。由于人工智能在近些年的发展，Python 语言越来越流行，更多的朋友想从Python 入手学习。为了能将《R 语言预测实战》的精华介绍给更多的读者，同时可以有机会修改R 这本书中存在的一些问题，尤其是代码中的瑕疵，笔者开始考虑将其改写为Python 版本。与《R 语言预测实战》相比，本书介绍的算法和案例加入了使用深度学习算法来做预测的内容，同时剪掉了一些不必要的段落，代码方面也做了很多优化，相信能够给读者带来 更好的阅读学习体验。 阅读对象 ? 对数据挖掘、机器学习、预测算法及商业预测应用感兴趣的大专院校师生； ? 从事数据挖掘工作，有一定经验的专业人士； ? 各行各业的数据分析师、数据挖掘工程师； ? 对数据挖掘、预测专题感兴趣的读者。 勘误和支持 由于笔者的水平有限，编写的时间也很仓促，书中难免会出现一些错误或者不准确的地方，恳请读者批评指正。读者可以把意见或建议直接发至笔者的邮箱cador.ai@aliyun.com。书籍中的数据和代码，可通过访问cador.cn 来获取。笔者会定期发布勘误表，并统一回复。同时，如果你有什么问题，也可以发邮箱来提问，笔者将尽量为读者提供*满意的解答，期待你们的反馈。 如何阅读这本书 本书包括3 篇，共有10 章。 第1 章介绍预测的基本概念，以及大数据时代预测的特点，并结合案例进行讲解，*后基于Python讲解一个预测案例。本章适合初学者入门。 第2 章介绍预测的方法论，其中预测流程是基础，它说明了从预测实施的各个阶段。然后介绍了预测的指导原则，它是预测工作者必知必会的。另外，还介绍了预测工作的团队要求。本章内容适合常期品味，活学活用。 第3 章介绍分析方法，本章内容是数据分析、数据挖掘常见的分析方法，出现在这里，主要是为预测技术的数据处理做铺垫。如果预测工作者没有掌握有效的分析思路和方法，去提炼有用的指标和特征，那么预测工作是很难进行下去的。本章提供了规律发现的常用方法和技巧。 第4 章介绍特征工程，不仅介绍了常见的特征变换方法，还介绍了特征组合的方法，值得一提的是，本章包含了特征学习的方法，它是基于遗传编程实现的。从事数据挖掘的朋友都很清楚，好的特征在建模时是重要的，然而，有时我们拿到的基础数据直接拿去建模效果不见得好，如果进行规律挖掘，也比较费时费力，比较好的做法就是特征自动生成。感兴趣的朋友，可以细致品味这个章节。 从第1 章到第4 章为本书的第1 篇，主要介绍预测的入门知识，如果读者对预测有一定的功底，可以跳过本部分，直接进入第2 篇，了解预测算法的基本原理和实现。 第5 章介绍模型参数的优化。我们在建立数据挖掘和预测模型时，参数的确定通常不是一步到位的，我们往往需要做一些优化或改进，以提升*终的效果。本章介绍的遗传算法、粒子群优化、模拟退火等问题求解算法，有助于找到模型的*或接近*的参数。 第6 章介绍线性回归技术，主要包括多元线性回归、Ridge 回归、Lasso 回归、分位数回归、稳健回归的内容。在实际工作或实践中，读者应该有选择地使用对应的回归方法，以确保应对回归问题的有效性。 第7 章介绍复杂回归技术，主要包括梯度提升回归树（GBRT）、神经网络、支持向量机、高斯过程回归的内容。这是回归技术的进阶部分，涉及到统计学习以及机器学习的内容，想挑战难度的朋友，一定要好好读一读这部分。 第8 章介绍时间序列分析技术，主要包括Box-Jenkins 方法、门限自回归模型、GARCH 模型族、向量自回归模型、卡尔曼滤波、循环神经网络、长短时记忆网络等内容。本章不仅介绍了常见的Box-Jenkins 方法，还介绍了门限自回归等高阶时序分析技术。 从第5 章到第8 章为本书的第2 篇，主要介绍预测算法，本部分的算法选择有一定的难度，基本包含了常见的以及部分高阶的预测回归算法，读者可细致品味。 第9 章介绍短期日负荷曲线预测技术，首先介绍电力行业负荷预测的行业知识，接着从预测的基本要求出发，经过预测的建模准备，进入预测建模的环节。本章使用了DNN 和LSTM 两种算法来建立预测模型，并对预测效果进行了评估。 第10 章介绍股票价格预测技术，首先从股票市场的简介开始，接着介绍股票数据的获取，然后基于VAR 和LSTM 两种算法对预测模型进行了实现，*后检验了预测的准确性。 *后两章为本书的第3 篇，主要介绍预测案例，由于写书太过仓促，案例部分略显单薄。另外，由于商业关系，有些案例分析的细节内容不便在书中全面展开介绍，有兴趣的读者，可以邮件联系。 致谢 感谢电子工业出版社的编辑石倩，没有你的敦促，我可能不会这么快地写完这本书，同时也感谢电子工业出版社！ 感谢造物主给我一颗孜孜不倦的心，让我在学习的道路上不至于因工作忙碌而有所懈怠，也不至于因有所成就而不知进取。 青山不改，绿水长流。谨以此书，献给我*亲爱的家人和朋友，以及热爱Python 和从事数据相关领域的朋友们。 游皓麟 中国 成都

以Python语言为基础，配合原理、方法、案例进行讲解 专注预测专题，体系化介绍预测技术工程实施的必备技能 深度剖析预测原理，细致解读数据分析算法