正版新书]Hadoop大数据开发技术申时全,陈强 编9787302579700

篇大数据开发技术平台Hadoop

章Hadoop概述3

1.1大数据与Hadoop3

1.1.1大数据概述4

1.1.2什么是Hadoop6

1.1.3大数据与Hadoop的关系6

1.2Hadoop的发展历史7

1.2.1Hadoop的产生7

1.2.2Hadoop的发展阶段7

1.3Hadoop的体系结构8

1.3.1Hadoop的Common8

1.3.2Hadoop的HDFS9

1.3.3Hadoop的YARN10

1.3.4Hadoop的MapReduce10

1.3.5Hadoop家族的成员11

1.4本章小结12

习题12第2章大数据开发平台Hadoop环境的搭建13

2.1Linux系统下的参数配置13

2.1.1Linux系统的网络配置13

2.1.2为Hadoop设置专门用户15

2.1.3设置无密码登录用户16

2.2基于Linux系统的JDK安装与配置17

2.2.1Java开发工具JDK的下载与安装17

2.2.2配置与Java有关的环境参数17

2..基于Linux系统下Eclipse的安装与配置19

2.2.4Eclipse集成环境——Java程序开发实例

.Hadoop环境的搭建24

..1单机模式25

..2伪集群模式26

..集群模式32

2.4Hadoop服务的启动与测试38

2.5本章小结38

习题38第3章Hadoop通用命令与应用编程原理39

3.1Hadoop命令概述39

3.2Hadoop管理命令41

3.2.1命令功能与命令格式41

3.2.2命令应用实例41

3.3Hadoop用户命令42

3.3.1建立与查看Hadoop的文档42

3.3.2检查Hadoop本地代码可用44

3.3.3classpath命令44

3.3.4credential命令44

3.3.5递归复制文件和目录命令distcp46

3.3.6Hadoop的fs命令47

3.3.7Hadoop的jar命令47

3.3.8Hadoop的key命令47

3.3.9Hadoop的用户命令48

3.4Hadoop编程原理49

3.4.1创建Java应用项目49

3.4.2Hadoop分布式处理程序的设计原理53

3.5Hadoop编程实例53

3.5.1问题描述53

3.5.2求优选值的Hadoop程序设计54

3.6本章小结57

习题57第4章Hadoop分布式文件存储58

4.1HDFS概述58

4.1.1HDFS的特点59

4.1.2HDFS的架构59

4.1.3熟悉HDFS守护进程61

4.1.4HDFS的规划设计64

4.2HDFS的shell命令66

4.2.1HDFS的shell命令概述66

4.2.2管理命令67

4..客户端命令68

4.2.4HDFS的守护进程命令73

4.3HDFS的API编程应用74

4.3.1一个简单的HDFSAPI编程实例74

4.3.2HDFS的应用编程接口76

4.3.3HDFS的编程应用实例80

4.4本章小结84

习题84第5章作业调度与集群资源管理框架YARN86

5.1YARN概述86

5.1.1YARN简介86

5.1.2YARN的主要架构87

5.1.3YARN架构简析89

5.2YARN的命令及应用89

5.2.1YARN命令概述89

5.2.2用户命令90

5..管理员命令95

5.3YARN的API应用编程98

5.3.1YARN工作流程98

5.3.2YARN编程概述99

5.3.3YARNClient程序编写100

5.3.4YARNAppicationMaster编写101

5.3.5YARNContainer工作程序104

5.4本章小结104

习题104第6章Hadoop分布式计算框架MapReduce105

6.1MapReduce结构模型105

6.1.1MapReduce概述105

6.1.2Map和Reduce(映和规约)106

6.1.3MapReduce的主要功技术特征106

6.2MapReduce的工作原理109

6.2.1Shuffle和Srt09

6.2.2任务的执行113

6..故障处理116

6.2.4作业调度118

6.3MapReduce的命令行应用121

6.3.1命令概述121

6.3.2用户命令121

6.3.3管理命令124

6.4MapReduce的API应用编程125

6.4.1与数据输入有关的类125

6.4.2Mapper/Reducer类129

6.4.3Job类及相关类131

6.4.4输出格式类与记录输出类135

6.5MapReduce应用实例135

6.5.1单词程序设计135

6.5.2计算平均的程序设计138

6.6本章小结140

习题140

第2篇Hadoop家族的项目

第7章Hadoop数据库HBase145

7.1HBase概述145

7.1.1HBase简介145

7.1.2HBase的特点146

7.2HBase体系结构147

7.3HBase的数据模型148

7.3.1逻辑模型148

7.3.2物理模型150

7.4HBase的下载与安装150

7.4.1HBase的下载150

7.4.2HBase的安装151

7.5HBaseshell154

7.5.1通用命令155

7.5.2数据定义语言155

7.5.3数据操作语言159

7.6HBaseAPI164

7.6.1HBaseAdmin类164

7.6.2HTable类165

7.6.3HTableDescriptr类65

7.6.4HColumnDescriptr类66

7.6.5Get类166

7.6.6Put类166

7.6.7Delete类167

7.6.8Result类168

7.6.9ResultScanner类168

7.7HBase过滤器179

7.7.1过滤器Filter179

7.7.2过滤器的操作符179

7.7.3过滤器的比较器Comparatr80

7.7.4过滤器的使用180

7.8本章小结184

习题184第8章Hadoop数据仓库Hive186

8.1Hive概述186

8.1.1Hive简介186

8.1.2Hive架构186

8.1.3Hive的安装187

8.2Hive数据类型192

8.2.1基本类型192

8.2.2复杂类型193

8.3Hive的数据模型194

8.3.1内部表194

8.3.2外部表194

8.3.3分区表194

8.3.4桶表194

8.3.5视图表195

8.4Hive内置运算符195

8.4.1关系运算符195

8.4.2算术运算符196

8.4.3逻辑运算符196

8.4.4复杂运算符197

8.5Hiveshell操作197

8.5.1数据库操作197

8.5.2表操作198

8.6Hive的内置函数和UDF199

8.6.1内置函数199

8.6.2用户自定义函数200

8.7本章小结201

习题201第9章Hadoop数据的快速通用计算引擎Spark204

9.1Spark概述204

9.1.1理解Spark206

9.1.2安装Spark206

9.2快速启动Spark209

9.3Spark生态圈213

9.4Spark编程217

9.4.1StructureSteaing编程217

9.4.2SparkStreaming编程218

9.4.3机器学习库和GraphX编程220

9.5本章小结2

习题2

第3篇大数据应用开发综合实例

0章编程环境与数据集准备227

10.1Zeppelin部署227

10.1.1Zeppelin安装227

10.1.2Zeppelin配置228

10.1.3运行Zeppelin1

10.1.4连接测试Zeppelin1

10.1.5用admin身份权限登录2

10.2ZeppelinUI

10.2.1首页

10.2.2菜单4

10..笔记

10.2.4Zeppelin配置中的典型错误240

10.3获取MovieLens数据集242

10.4本章小结246

习题2461章大数据分析与数据可视化247

11.1数据处理247

11.1.1创建笔记247

11.1.2数据处理案例248

11.2数据分析与可视化252

11.2.1注册临时表users252

11.2.2浏览users252

11..统计年龄分布253

11.2.4统计职业分布255

11.3复杂逻辑处理257

11.3.1评分统计分析257

11.3.2评分分布的条形图259

11.4本章小结260

习题2602章构建算法261

12.1协同过滤算法概述261

12.2协同过滤分类261

12.2.1基于用户的协同过滤262

12.2.2基于物品的协同过滤262

1.Spark模型库263

1..1显式矩阵分解263

1..2隐式矩阵分解264

1..交替二乘法264

12.4用SparkMLlibALS构建算法265

12.4.1获取ml1m.zip文件265

12.4.2创建RDD265

12.4.3创建DataFrame265

12.4.4构建训练和测试数据集267

12.4.5构建模型268

12.4.6使用模型预测269

12.4.7用测试数据对模型进行评估269

12.4.8衡量模型的准确度270

12.5本章小结271

习题271

申时全，1953年6月生，贵州节人，，士学，教， NCW认软开发。广东科技学院计算机系网络工程专业负责人。

讲授课程：计算机网络、Linux原理与应用、C语言程序设计、操作系统原理、统一建模语言UML、Linux编程、Java语言程序设计。

本书分为三大部分，部分主要介绍大数据开发技术平台Hadoop，分为6章，介绍Hadoop各部分的主要技术及其应用，包括Hadoop架构及组成、平台搭建、HDFS、YARN、MapReduce等内容；第二部分介绍Hadoop 家族的几个重要项目，这些都与基本的大数据开发应用紧密相关，包括数据库HBase、数据仓库Hive、Spark；第三部分介绍大数据应用开发综合实例，介绍了编程环境与数据准备、大数据分析与数据可视化、一个具体大数据应用领域“电影”的具体实施方法。