全新正版大数据导论9787301333341北京大学出版社

章? 大数据概述 ……………………………… 1
1.1 大数据的产生及其特征 ……………………………… 2
1.1.1 大数据的产生 ………………………………………………… 2
1.1.2 大数据的特征 ………………………………………………… 2
1.2 大数据发展 …………………………………………… 5
1.2.1 大数据发展历程 ……………………………………………… 5
1.2.2 国外大数据战略 ……………………………………………… 6
1.. 中国大数据战略与政策 ……………………………………… 7
1.2.4 大数据和标准 …………………………………………… 8
1.3 大数据思维 …………………………………………… 9
1.3.1 大数据的价值 ………………………………………………… 9
1.3.2 大数据的思维变革 …………………………………………… 11
1.4 大数据应用 …………………………………………… 13
1.4.1 大数据应用层次 ……………………………………………… 13
1.4.2 大数据应用领域 ……………………………………………… 13
1.5 大数据技术与工具 …………………………………… 15
1.5.1 大数据处理流程 ……………………………………………… 15
1.5.2 大数据行业全景图 …………………………………………… 16
1.5.3 大数据分析平台 ……………………………………………… 17
1.5.4 大数据编程语言 ……………………………………………… 19
1.6 本章小结 ……………………………………………… 20
1.7 习题 …………………………………………………… 21
第 2 章? 大数据采集与预处理 …………………… 22
2.1 概述 ……………………………………………………
2.2 大数据的来源 ………………………………………… 24
. 大数据的采集方法 …………………………………… 25
..1 数据库采集 …………………………………………………… 26
..2 系统日志采集 ………………………………………………… 26
.. 网络数据采集 ………………………………………………… 26
..4 数据采集 ………………………………………………… 27
2.4 大数据预处理方法 …………………………………… 28
2.4.1 数据清洗 ……………………………………………………… 28
2.4.2 数据集成 ……………………………………………………… 31
2.4.3 数据变换 ……………………………………………………… 31
2.5 大数据采集与预处理工具 …………………………… 33
2.5.1 网络爬虫 Scrapy …………………………………………… 33
2.5.2 流数据采集 Kafka …………………………………………… 37
2.5.3 ETL 工具 Kettle ……………………………………………… 39
2.6 本章小结 ……………………………………………… 44
2.7 习题 …………………………………………………… 45
第 3 章? 大数据存储与管理技术 ………………… 46
3.1 大数据存储与管理技术概述 ………………………… 47
3.2 分布式文件系统 ……………………………………… 47
3.2.1 HDFS ………………………………………………………… 48
3.2.2 Ceph ………………………………………………………… 54
3.. GlusterFS …………………………………………………… 56
3.3 NoSL 数据库 ……………………………………… 58
3.3.1 键值数据库 …………………………………………………… 59
3.3.2 列族数据库 …………………………………………………… 60
3.3.3 文档数据库 …………………………………………………… 63
3.3.4 图数据库 ……………………………………………………… 63
3.4 大数据查询系统 ……………………………………… 64
3.4.1 大数据查询系统概述 ………………………………………… 64
3.4.2 Dremel ……………………………………………………… 65
3.5 数据仓库 ……………………………………………… 66
3.5.1 数据仓库的特点 ……………………………………………… 66
3.5.2 关系型数据仓库体系结构 …………………………………… 68
3.5.3 数据仓库 Hive ……………………………………………… 69
3.5.4 数据仓库 Impala …………………………………………… 71
3.6 本章小结 ……………………………………………… 73
3.7 习题 …………………………………………………… 73
第 4 章? 大数据处理与分析系统 ………………… 75
4.1 概述 …………………………………………………… 76
4.2 谷歌大数据处理系统 ………………………………… 76
4.2.1 GFS…………………………………………………………… 76
4.2.2 MapReduce ………………………………………………… 78
4.. BigTable ……………………………………………………… 78
4.3 分布式计算框架 Hadoop MapReduce …………… 79
4.3.1 Hadoop MapReduce 概述 ………………………………… 79
4.3.2 Hadoop MapReduce 应用举例 …………………………… 81
4.4.1 Spark 简介 …………………………………………………… 85
4.4 快速计算框架 Spark ………………………………… 85
4.4.2 Spark 运行架构 ……………………………………………… 88
4.4.3 Spark 的部署方式 …………………………………………… 88
4.4.4 Spark 的数据抽象 RDD …………………………………… 89
4.4.5 Spark MLlib ………………………………………………… 90
4.4.6 Spark Streaming …………………………………………… 91
4.4.7 Spark SL …………………………………………………… 93
4.4.8 Spark GraphX ……………………………………………… 94
4.5 大数据分析系统 ………………………………… 96
4.5.1 图计算系统 Pregel…………………………………………… 97
4.5.2 流处理系统 Flink …………………………………………… 98
4.6 本章小结 ……………………………………………… 99
4.7 习题 …………………………………………………… 99
第 5 章? 大数据机器学习 ………………………… 100
5.1.1 机器学习的定义 ……………………………………………… 101
5.1.2 机器学习的分类 ……………………………………………… 101
5.1 机器学习简介 ………………………………………… 101
5.1.3 机器学习的历史 ……………………………………………… 104
5.1.4 机器学习与数据挖掘的关系 ………………………………… 108
5.2 数据 …………………………………………………… 109
5.2.1 数据概述 ……………………………………………………… 109
5.2.2 带有标签的数据和不带标签的数据 ………………………… 109
5.. 训练数据、测试数据、验数据 …………………………… 110
5.3 有监督学习 …………………………………………… 111
5.3.1 有监督学习简介 ……………………………………………… 111
5.3.2 回归 …………………………………………………………… 111
5.3.3 分类 …………………………………………………………… 114
5.3.4 常见的有监督学习方法 ……………………………………… 116
5.4 无监督学习 …………………………………………… 121
5.4.1 无监督学习简介 ……………………………………………… 121
5.4.2 聚类 …………………………………………………………… 121
5.4.3 关联分析 ……………………………………………………… 124
5.5 强化学习 ……………………………………………… 125
5.5.1 强化学习简介 ………………………………………………… 125
5.5.2 强化学习主流算法 …………………………………………… 127
5.5.3 强化学习的使用场景 ………………………………………… 128
5.6 弱监督学习 …………………………………………… 129
5.6.1 弱监督学习简介 ……………………………………………… 129
5.6.2 弱监督学习的分类 …………………………………………… 129
5.7 机器学习的相关资源与工具 ………………………… 130
5.8 本章小结 ……………………………………………… 132
5.9 习题 …………………………………………………… 133
第 6 章? 数据可视化 ……………………………… 134
6.1 可视化概述 …………………………………………… 135
6.1.1 可视化的含义 ………………………………………………… 135
6.1.2 可视化的发展历程 …………………………………………… 135
6.1.3 可视化的作用 ………………………………………………… 136
6.2 数据可视化及其分类 ………………………………… 137
6.2.1 科学可视化 …………………………………………………… 137
6.2.2 信息可视化 ……………………………………………… 138
6.. 可视化分析学 ………………………………………………… 139
6.3 数据可视化工具 ……………………………………… 140
6.3.1 入门级工具 …………………………………………………… 140
6.3.2 信息图表工具 ………………………………………………… 140
6.3.3 工具……………………………………………………… 143
6.3.4 基于编程语言的可视化库 …………………………………… 144
6.4 本章小结 ……………………………………………… 146
6.5 习题 …………………………………………………… 146
第 7 章? 大数据行业应用案例 …………………… 147
7.1 大数据行业应用概述 ………………………………… 148
7.2 政务大数据 …………………………………………… 148
7.3 交通大数据 …………………………………………… 152
7.3.1 人群生活模式划分 …………………………………………… 153
7.3.2 道路拥堵模式预测 …………………………………………… 158
7.4 征信大数据 …………………………………………… 162
7.4.1 企业征信大数据应用 ………………………………………… 162
7.4.2 企业法人资产建模实践 ……………………………………… 171
7.5 画像大数据 …………………………………………… 173
7.5.1 用户画像概述 ………………………………………………… 173
7.5.2 构建用户画像流程 …………………………………………… 175
7.5.3 构建用户画像 ………………………………………………… 178
7.5.4 用户画像评估和使用 ………………………………………… 183
7.6 本章小结 ……………………………………………… 184
7.7 习题 …………………………………………………… 185
第 8 章? 大数据平台与实验环境 ………………… 186
8.1 大数据平台与环境概述 ……………………………… 187
8.1.1 大数据平台简介 ……………………………………………… 187
8.1.2 搭建环境简介 ………………………………………………… 189
8.2 安装虚拟机 …………………………………………… 189
8.3 在虚拟机中安装 Linux 系统 ………………………… 192
8.4 为 Ubuntu 系统配置 Java 开发环境 ……………… 194
8.5 在 Ubuntu 系统中安装 Hadoop …………………… 200
8.5.1 查询和更改主机名 …………………………………………… 201
8.5.2 更改 host 文件 ……………………………………………… 202
8.5.3 认 SSH 实现无密码登录 ………………………………… 203
8.5.4 复制 Hadoop 2.6.0 到指定目录并解压 …………………… 205
8.5.5 配置文件 ……………………………………………………… 206
8.5.7 启动、验和关闭 Hadoop ………………………………… 214
8.6 安装 Eclipse 和 Eclipse-hadoop-plugin ……… 217
8.6.1 安装 Eclipse ………………………………………………… 217
8.6.2 配置 Eclipse-hadoop-plugin………………………………… 217
8.7 新建、导入、运行与调试 Hadoop 工程…………… 219
8.7.1 新建 Hadoop 工程…………………………………………… 219
8.7.2 导入已有的 Hadoop 工程…………………………………… 220
8.7.3 运行 Hadoop 工程…………………………………………… 222
8.7.4 调试 Hadoop 工程…………………………………………… 226
8.8 本章小结 ……………………………………………… 229
8.9 习题 …………………………………………………… 229
第 9 章? 大数据治理 ……………………………… 0
9.1 大数据治理体系 ……………………………………… 1
9.2 大数据法律政策 ……………………………………… 2
9.3 大数据行业标准 ……………………………………… 4
9.4 大数据治理内容 ………………………………………
9.5 大数据伦理风险 ……………………………………… 240
9.6 本章小结 ……………………………………………… 243
9.7 习题 …………………………………………………… 243
主要参考文献………………………………………………… 244

于俊伟简介：于俊伟，男，1980年5月生，博士，副教授，硕士生导师，2010年于自动化研究所，现任职河南工业大学人工智能与大数据学院，主要从事计算机视觉和数据科学等方向的研究和教学工作。主持自然科学、河南省重点研发与推广专项、河南省高校重点科研项目等多项科研项目，发表学术10余篇，主持翻译与编著数据科学、计算机视觉等方面著作5部。
母亚双简介：母亚双，男，1987年04月生，博士，硕士生导师，现就职于河南工业大学人工智能与大数据学院，河南工业大学大数据分析处理科研团队负责人。主要从事机器学数据分析与处理等方向的研究。近年来，主持自然科学项目1项，河南省科技攻关项目1项，粮食信息处理与控制重点实验室开放课题1项，河南工业大学青年骨资项目1项；参与自然科学面上项目2项，自然科学青年项目1项，省部级以上项目多项，企事业单位横向课题多项；在《PatternRecognition》《InformationScience》等重要学术期刊和国际会议上发表二十余篇；申请发明专利2项。
闫秋玲简介：闫秋玲，1981年2月生，博士，讲师。研究方向是数据挖掘。以作者发表5篇，发明专利授权一项。主持河南省科技攻关项目一项，河南省教育厅自然科学项目一项。主编教材《大学计算机基础》，参与翻译教材《数据库系统实现》《人工智能》。

本书围绕新工科背景下大数据人才培养需求编写，系统介绍了大数据采集与预处理、大数据存储与管理、大数据处理与分析、大数据可视化处理流程；重点分析了科大讯飞大数据平台在政务、交通、金融和用户画像等实际场景中的应用，还介绍了大数据实验环境的详细搭建步骤；介绍了大数据治理中法律政策、行业标准建设的近期新进展，分析了大数据可能带来的伦理风险和应对策略。 本书将大数据基础理论与实际案例结合，辅以编程实践和有针对的课后习题，可作为高等院校相关专业的导论课教材，也可作为大数据相关从业人员技术参考书。

全面解读大数据基础：详细介绍大数据基础知识和前沿应用，新手入门 详细厘清算法逻辑：详解大数据分析平台与处理流程、大数据采集与预处理、大数据存储与管理技术、机器学习与可视化等核心知识 深入解析场景应用：算法与实际应用相结合，深入浅出解析大数据在生活和工作中的具体应用 可实操、能落地：有理论有实战，介绍大数据算与技的实际应用，步骤清楚，条理清晰，有平台，能实操

本书围绕新工科背景下大数据人才培养需求编写，系统介绍了大数据采集与预处理、大数据存储与管理、大数据处理与分析、大数据可视化处理流程；重点分析了科大讯飞大数据平台在政务、交通、金融和用户画像等实际场景中的应用，还介绍了大数据实验环境的详细搭建步骤；介绍了大数据治理中法律政策、行业标准建设的进展，分析了大数据可能带来的伦理风险和应对策略。

本书将大数据基础理论与实际案例结合，辅以编程实践和有针对的课后习题，可作为高等院校相关专业的导论课教材，也可作为大数据相关从业人员技术参考书。