理科 [正版]模式识别 张学工 自动化模式识别大数据生物信息数据挖掘信息处理

张学工，1989年毕业于清华大学，1994年获得博士学位，现为清华大学自动化系教授，清华信息科学与技术国家实验室（筹）生物信息学研究部主任，主要研究方向是模式识别与机器学习、生物信息学与计算生物学。已经在国内外重要期刊发表论文200多篇，出版教材2部、译著2部，曾获国家科技进步二等奖，2006年获得国家杰出青年基金，2009年获国家级教学成果一等奖，所开设的《模式识别基础》课程2007年被评为国家级精品课。

本书是清华大学自动化系国家精品课程“模式识别基础”的教材，跨度三十多年，历经四版、千锤百炼，整体内容具有系统性和实用性，兼顾经典内容与学科研究前沿，是一本非常适合教学的经典教材。

第1章概论

1.1模式与模式识别

1.2模式识别的主要方法

1.3监督模式识别与非监督模式识别

1.4模式识别系统举例

1.5模式识别系统的典型构成

1.6本书的主要内容

第2章统计决策方法

2.1引言： 一个简单的例子

2.2最小错误率贝叶斯决策

2.3最小风险贝叶斯决策

2.4两类错误率、NeymanPearson决策与ROC曲线

2.5正态分布时的统计决策

2.5.1正态分布及其性质回顾

2.5.2正态分布概率模型下的最小错误率贝叶斯决策

2.6错误率的计算

2.6.1正态分布且各类协方差矩阵相等情况下错误率的计算

2.6.2高维独立随机变量时错误率的估计

2.7离散时间序列样本的统计决策

2.7.1基因组序列的例子

2.7.2马尔可夫模型及在马尔可夫模型下的贝叶斯决策

2.7.3隐马尔可夫模型简介

2.8小结与讨论

第3章概率密度函数的估计

3.1引言

3.2最大似然估计

3.2.1最大似然估计的基本原理

3.2.2最大似然估计的求解

3.2.3正态分布下的最大似然估计

3.3贝叶斯估计与贝叶斯学习

3.3.1贝叶斯估计

3.3.2贝叶斯学习

3.3.3正态分布时的贝叶斯估计

3.3.4其他分布的情况

3.4概率密度估计的非参数方法

3.4.1非参数估计的基本原理与直方图方法

3.4.2kN近邻估计方法

3.4.3Parzen窗法

第4章隐马尔可夫模型与贝叶斯网络

4.1引言

4.2贝叶斯网络的基本概念

4.3隐马尔可夫模型（HMM）

4.3.1HMM评估问题

4.3.2HMM隐状态推断问题（解码问题）

4.3.3HMM学习问题

4.4朴素贝叶斯分类器（Nave Bayes）

4.5在贝叶斯网络上的条件独立性

4.6贝叶斯网络模型的学习

4.6.1贝叶斯网络的参数学习

4.6.2贝叶斯网络的结构学习

4.7讨论

第5章线性学习机器与线性分类器

5.1引言

5．2线性回归

5．3线性判别函数的基本概念

5．4Fisher线性判别分析

5．5感知器

5．6最小平方误差判别

5．7罗杰斯特回归

5．8最优分类超平面与线性支持向量机

5．8．1最优分类超平面

5．8．2大间隔与推广能力

5．8．3线性不可分情况

5．9多类线性分类器

5．9．1多个两类分类器的组合

5．9．2多类线性判别函数

5．9．3多类罗杰斯特回归与软最大

5．10讨论

第6章典型的非线性分类器

6．1引言

6．2分段线性判别函数

6．2．1分段线性距离分类器

6．2．2一般的分段线性判别函数

6．3二次判别函数

6．4多层感知器神经网络

6．4．1神经元与感知器

6．4．2用多个感知器实现非线性分类

6．4．3反向传播算法

6．4．4多层感知器网络用于模式识别

6．4．5神经网络结构的选择

6．4．6前馈神经网络与传统模式识别方法的关系

6．4．7人工神经网络的一般知识

6．5支持向量机

6．5．1广义线性判别函数

6．5．2核函数变换与支持向量机

6．5．3支持向量机早期应用举例

6．5．4支持向量机的实现算法

6．5．5多类支持向量机

6．5．6用于函数拟合的支持向量机——支持向量回归

6．6核函数机器

6．6．1大间隔机器与核函数机器

6．6．2核Fisher判别

6．6．3中心支持向量机

6．7讨论

第7章统计学习理论概要

7．1引言

7．2机器学习问题的提法

7．2．1机器学习问题的函数估计表示

7．2．2经验风险最小化原则及其存在的问题

7．3学习过程的一致性

7．4函数集的容量与VC维

7．5推广能力的界与结构风险最小化原则

7．6支持向量机的理论分析

7．7不适定问题和正则化方法简介

7．7．1不适定问题

7．7．2正则化方法

7．7．3常见的正则化方法

7．8讨论

第8章非参数学习机器与集成学习

8.1引言

8．2近邻法

8．2．1最近邻法

8．2．2k近邻法

8．2．3近邻法的快速算法

8．2．4剪辑近邻法

8．2．5压缩近邻法

8．3决策树与随机森林

8．3．1非数值特征的量化

8．3．2决策树

8．3．3过学习与决策树的剪枝

8．3．4随机森林

8．4Boosting集成学习

8．5讨论

第9章特征选择

9．1引言

9．2用于分类的特征评价准则

9．2．1基于类内类间距离的可分性判据

9．2．2基于概率分布的可分性判据

9．2．3基于熵的可分性判据

9．2．4利用统计检验作为可分性判据

9．3特征选择的最优算法

9．4特征选择的次优算法

9．5遗传算法

9．6包裹法： 以分类性能为准则的特征选择方法

9．7讨论

第10章特征提取与降维表示

10．1引言

10．2基于类别可分性判据的特征提取

10．3主成分分析

10．4KarhunenLoève变换

10．4．1KL变换

10．4．2用于监督模式识别的KL变换

10．5用“本征脸”作为人脸识别的特征

10．6高维数据的低维可视化

10．7多维尺度(MDS)法

10．7．1MDS的基本概念

10．7．2古典尺度法

10．7．3度量型MDS

10．7．4非度量型MDS

10．7．5MDS在模式识别中的应用举例

10．8非线性特征变换方法简介

10．8．1核主成分分析(KPCA)

10．8．2IsoMap方法和LLE方法

10．9tSNE降维可视化方法

10．10讨论

第11章非监督学习与聚类

11．1引言

11．2基于模型的聚类方法

11．3混合模型的估计

11.3.1混合密度的最大似然估计

11．3．2混合正态分布的参数估计

11．4动态聚类算法

11．4．1C均值算法(K均值算法)

11．4．2ISODATA方法

11．4．3基于核的动态聚类算法

11．5模糊聚类方法

11．5．1模糊集的基本知识

11．5．2模糊C均值算法

11．5．3改进的模糊C均值算法

11．6分级聚类方法

11．7自组织映射(SOM)神经网络

11．7．1SOM网络结构

11．7．2SOM学习算法和自组织特性

11．7．3SOM网络用于模式识别

11．8一致聚类方法

11．9讨论

第12章深度学习

12．1引言

12．2人工神经网络回顾

12．3卷积神经网络(CNN)

12．3．1卷积层

12．3．2汇集(池化)

12．3．3深层卷积神经网络

12．3．4卷积神经网络的演化和几个代表性模型

12．3．5卷积神经网络在非图像数据上的应用举例

12．4循环神经网络(RNN)

12．4．1Hopfield神经网络

12．4．2循环神经网络

12．5长短时记忆模型(LSTM)

12．6自编码器、限制性玻尔兹曼机与深度信念网络

12．6．1自编码器

12．6．2用多层自编码器构造深度神经网络

12．6．3限制性玻尔兹曼机(RBM)

12．6．4深度自编码器与深度信念网络(DBN)

12．7生成模型

12．7．1变分自编码器(VAE)

12．7．2生成对抗网络(GAN)

12．8综合应用举例

12．8．1中文病历文本生成

12．8．2人工基因调控元件的生成

12．9深度学习算法中的部分常用技巧

12．10讨论

第13章模式识别系统的评价

13．1引言

13．2监督模式识别的错误率估计

13．2．1训练错误率

13．2．2测试错误率

13．2．3交叉验证

13．2．4自举法与0．632估计

13．3有限样本下错误率的区间估计

13．3．1问题的提出

13．3．2用扰动重采样估计SVM错误率的置信区间

13．4特征提取与选择对分类器性能估计的影响

13．5用分类性能进行关系推断

13．6非监督模式识别系统性能的评价

13．6．1聚类质量的评价

13．6．2聚类结果的比较

13．7讨论

第14章常用模式识别与机器学习软件平台

14.1引言

14．2Python中的模式识别工具包

14．2．1sklearn中的回归方法使用举例

14．2．2sklearn中的分类方法使用举例

14．2．3Python下的深度学习编程举例

14．2．4国内研发的深度学习平台简介

14．3MATLAB中的模式识别工具包

14．3．1MATLAB中的回归方法使用举例

14．3．2MATLAB中的分类方法使用举例

14．4R中的模式识别工具包

14．4．1R中的回归方法使用举例

14．4．2R中的分类方法使用举例

14．5讨论

第15章讨论： 模式识别、机器学习与人工智能

15．1模式识别

15．2机器学习

15．3多元分析

15．4人工智能

15．5展望

参考文献

后记

索引