全新正版深度学习及加速技术:入门与实践9787111728719机械工业

CONTENTS<br />目　　录<br /><br />前言<br />理论篇<br />章　人工智能简介2<br />1.1　人工智能概念2<br />1.1.1　人工智能定义2<br />1.1.2　人工智能发展历程3<br />1.2　人工智能与深度学习4<br />1.2.1　人工智能与深度学习之间<br />的关系4<br />1.2.2　图灵机与丘奇-图灵论题5<br />1.3　人工智能发展阶段6<br />1.3.1　人工智能1.0——知识＋<br />算法＋算力6<br />1.3.2　人工智能2.0——数据＋<br />算法＋算力7<br />1.3.3　人工智能3.0——知识＋<br />数据＋算法＋算力7<br />1.3.4　人工智能4.0——存算<br />一体化8<br />1.4　人工智能应用9<br />1.4.1　工业零部件尺寸测量与<br />缺陷检测9<br />1.4.2　目标检测与跟踪9<br />1.4.3　人脸比对与识别10<br />1.4.4　三维影像重构10<br />第2章　神经网络数学基础12<br />2.1　线向量空间12<br />2.2　内积14<br />.　线变换与矩阵表示15<br />2.4　梯度17<br />第3章　神经网络与学习规则20<br />3.1　神经元模型与网络结构20<br />3.1.1　神经元模型20<br />3.1.2　神经网络结构22<br />3.2　感知机学习24<br />3.2.1　感知机定义及结构24<br />3.2.2　感知机学习规则25<br />3.3　Hebb学习28<br />3.3.1　无监督Hebb学习28<br />3.3.2　有监督Hebb学习29<br />3.4　能学习30<br />3.4.1　能指数30<br />3.4.2　梯度下降法31<br />3.4.3　随机梯度下降法32<br />第4章　反向传播33<br />4.1　LMS算法33<br />4.2　反向传播算法35<br />4.2.1　能指数36<br />4.2.2　链式法则36<br />4..　反向传播计算3<br />4.2.4　反向传播算法总结39<br />4.3　反向传播算法变形39<br />4.3.1　批数据训练法40<br />4.3.2　动量训练法40<br />4.3.3　标准数值优化技术42<br />4.4　反向传播算法实例分析42<br />第5章　卷积神经网络45<br />5.1　卷积神经网络基础45<br />5.1.1　全连接神经网络与卷积<br />神经网络45<br />5.1.2　卷积神经网络组成结构46<br />5.1.3　卷积神经网络进化史50<br />5.2　LeNet50<br />5.2.1　LeNet结构51<br />5.2.2　LeNet特点52<br />5.3　AlexNet52<br />5.3.1　AlexNet结构52<br />5.3.2　AlexNet特点54<br />5.4　VGGNet54<br />5.4.1　VGG16结构55<br />5.4.2　VGG16特点57<br />5.5　GoogLeNet57<br />5.5.1　Inception结构57<br />5.5.2　GoogLeNet结构——基于Inception V1模块59<br />5.5.3　GoogLeNet特点62<br />5.6　ResNet62<br />5.6.1　ResNet残差块结构63<br />5.6.2　ResNet结构63<br />5.6.3　ResNet特点66<br />第6章　目标检测与识别67<br />6.1　R-CNN67<br />6.1.1　基于SS方法的候选区域<br />选择68<br />6.1.2　候选区域预处理68<br />6.1.3　CNN特征提取69<br />6.1.4　SVM目标分类69<br />6.1.5　Bounding box回归70<br />6.2　Fast R-CNN70<br />6.2.1　基于SS方法的候选区域<br />生成71<br />6.2.2　CNN分类与回归71<br />6..　Fast R-CNN目标检测<br />　算法特点72<br />6.3　Faster R-CNN73<br />6.3.1　CNN特征提取73<br />6.3.2　RPN候选框生成74<br />6.3.3　CNN分类与回归74<br />6.3.4　Faster R-CNN目标检测<br />算法特点75<br />6.4　YOLO75<br />6.4.1　YOLOv175<br />6.4.2　YOLOv277<br />6.4.3　YOLOv380<br />第7章　深度学习优化技术83<br />7.1　梯度消失83<br />7.2　过拟合85<br />7.2.1　增加训练数据集85<br />7.2.2　regularization86<br />7..　dropout技术88<br />7.3　初始值与学习速度89<br />7.3.1　初始值选择规则89<br />7.3.2　可变的学习速度91<br />7.4　损失函数92<br />7.4.1　均方误差损失函数92<br />7.4.2　cross-entropy损失函数93<br />7.4.3　log-likeloo损失函数 95<br />第8章　深度学习加速技术96<br />8.1　软件模型优化技术96<br />8.1.1　网络模型优化96<br />8.1.2　计算精度降低97<br />8.1.3　网络剪枝技术97<br />8.2　GPU加速技术98<br />8.3　TPU加速技术100<br />8.4　FPGA加速技术102<br />8.4.1　全连接神经网络加速102<br />8.4.2　卷积神经网络加速103<br />应用篇<br />第9章　基于OpenCL的FPGA异构<br />并行计算技术106<br />9.1　OpenCL技术基础与环境搭建106<br />9.1.1　OpenCL技术基础106<br />9.1.2　OpenCL环境搭建107<br />9.2　OpenCL异构并行计算架构115<br />9.2.1　平台模型116<br />9.2.2　执行模型116<br />9..　内存模型117<br />9.3　OpenCL C语言基本语法与程序<br />设计118<br />9.3.1　基本语法与关键字118<br />9.3.2　数据类型119<br />9.3.3　维度与工作项122<br />9.3.4　注意事项1<br />9.4　基于OpenCL的FPGA异构并行<br />计算实现方法1<br />9.4.1　主程序设计1<br />9.4.2　内核程序设计139<br />0章　基于OpenCL的FPGA异构<br />并行计算应用案例140<br />10.1　整体描述140<br />10.2　内核程序设计141<br />10.3　主程序设计142<br />10.3.1　子函数142<br />10.3.2　主函数147<br />10.4　执行与结果分析150<br />1章　基于OpenVINO的FPGA<br />深度学习加速技术152<br />11.1　OpenVINO技术基础与加速<br />架构152<br />11.1.1　OpenVINO技术基础152<br />11.1.2　OpenVINO加速架构154<br />11.2　OpenVINO平台环境搭建156<br />11.2.1　OpenVINO工具安装156<br />11.2.2　OpenVINO工具测试164<br />11..　rtus软件安装166<br />11.2.4　Starter Platform环境<br />安装170<br />11.2.5　Starter Platform环境<br />配置174<br />11.3　OpenVINO模型优化器176<br />11.4　OpenVINO推理引擎177<br />2章　基于OpenVINO的FPGA<br />深度学习加速应用案例183<br />12.1　整体描述183<br />12.2　中间表示IR生成183<br />1.　推理引擎程序设计185<br />12.4　执行与结果分析194<br />参考文献198