机器学习流水线实战

本书赞誉 xiii 序  xv 前言  xvii 第  1 章 入门  1 1.1  为什么要用机器学习流水线  1 1.2  什么时候考虑使用机器学习流水线  2 1.3  机器学习流水线步骤概述  3 1.3.1  数据读取和版本控制  4 1.3.2  数据校验  4 1.3.3  数据预处理  4 1.3.4  模型训练和模型调优  5 1.3.5  模型分析  5 1.3.6  模型版本控制  5 1.3.7  模型部署  6 1.3.8  反馈循环  6 1.3.9  数据隐私  6 1.4  流水线编排  7 1.4.1  为什么使用流水线编排工具  7 1.4.2  有向无环图  7 1.5  示例项目  8 1.5.1  项目结构  9 1.5.2  机器学习模型  9 1.5.3  示例项目的目标  10 1.6  小结  10 第  2 章 TensorFlow Extended入门  11 2.1  什么是TFX  12 2.2  安装TFX  13 2.3  TFX组件概述  14 2.4  什么是机器学习元数据  15 2.5  交互式流水线  16 2.6  TFX的替代品  17 2.7  Apache Beam简介  18 2.7.1  安装  18 2.7.2  基本数据流水线  19 2.7.3  执行流水线  22 2.8  小结  22 第  3 章 数据读取  23 3.1  数据读取的概念  23 3.1.1  读取本地数据文件  24 3.1.2  读取远程数据文件  29 3.1.3  直接从数据库中读取数据  29 3.2  数据准备  31 3.2.1  拆分数据集  31 3.2.2  跨越数据集  33 3.2.3  对数据集进行版本控制  34 3.3  数据读取策略  34 3.3.1  结构化数据  35 3.3.2  自然语言处理中的文本数据  35 3.3.3  用于计算机视觉问题的图像数据  35 3.4  小结  36 第  4 章 数据校验  37 4.1  为什么要进行数据校验  38 4.2  TFDV  39 4.2.1  安装  39 4.2.2  根据数据生成统计信息  40 4.2.3  从数据生成模式  41 4.3  识别数据中的问题  42 4.3.1  比较数据集  43 4.3.2  更新模式  44 4.3.3  数据偏斜和漂移  45 4.3.4  存在偏差的数据集  46 4.3.5  在TFDV中切分数据  47 4.4  使用GCP处理大型数据集  49 4.5  将TFDV集成到机器学习流水线中  51 4.6  小结  53 第  5 章 数据预处理  54 5.1  为什么要进行数据预处理  55 5.1.1  在整个数据集的上下文中预处理数据  55 5.1.2  扩展预处理步骤  55 5.1.3  避免训练–服务偏斜  55 5.1.4  将预处理步骤和机器学习模型作为一个工件进行部署  56 5.1.5  检查流水线中的预处理结果  56 5.2  使用TFT做数据预处理  57 5.2.1  安装  58 5.2.2  预处理策略  58 5.2.3  最佳实践  60 5.2.4  TFT函数  60 5.2.5  TFT的独立执行  63 5.2.6  将TFT集成到机器学习流水线中  64 5.3  小结  67 第  6 章 模型训练  68 6.1  定义示例项目的模型  69 6.2  TFX Trainer组件  72 6.2.1  run_fn()函数  72 6.2.2  运行Trainer组件  76 6.2.3  其他关于Trainer组件的注意事项  77 6.3  在交互式流水线中使用TensorBoard  78 6.4  分布策略  80 6.5  模型调整  82 6.5.1  超参数调整的策略  82 6.5.2  TFX流水线中的超参数调整  83 6.6  小结  83 第  7 章 模型分析和模型验证  84 7.1  如何分析模型  85 7.1.1  分类指标  85 7.1.2  回归指标  87 7.2  TensorFlow模型分析  88 7.2.1  用TFMA分析单个模型  88 7.2.2  用TFMA分析多个模型  91 7.3  模型公平性分析  93 7.3.1  用TFMA划分模型预测  94 7.3.2  用公平性指标检查决策阈值  96 7.3.3  详解假设分析工具  98 7.4  模型可解释性  102 7.4.1  使用WIT生成模型解释  103 7.4.2  其他模型解释方法  105 7.5  用TFX进行分析和验证  106 7.5.1  ResolverNode  106 7.5.2  Evaluator组件  107 7.5.3  用Evaluator组件进行验证  107 7.5.4  TFX Pusher组件  108 7.6  小结  109 第  8 章 用TensorFlow Serving部署模型  110 8.1  简单的模型服务器  111 8.2  基于Python API部署模型的缺点  112 8.2.1  缺少代码隔离  112 8.2.2  缺少模型版本控制  112 8.2.3  低效的模型推算  112 8.3  TensorFlow Serving  113 8.4  TensorFlow Serving架构概述  113 8.5  为TensorFlow Serving导出模型  113 8.6  模型签名  115 8.7  查看导出的模型  117 8.7.1  查看模型  118 8.7.2  测试模型  119 8.8  设置TensorFlow Serving  120 8.8.1  Docker安装  120 8.8.2  原生Ubuntu安装  120 8.8.3  从源码编译TensorFlow Serving  121 8.9  配置TensorFlow服务器  121 8.9.1  单一模型配置  121 8.9.2  多模型配置  124 8.10  REST与gRPC  126 8.10.1  REST  126 8.10.2  gRPC  126 8.11  用模型服务器预测  126 8.11.1  用REST获得模型预测  126 8.11.2  通过gRPC使用TensorFlow Serving  128 8.12  用TensorFlow Serving进行模型A/B测试  131 8.13  从模型服务器获取模型元数据  132 8.13.1  使用REST请求模型元数据  132 8.13.2  使用gRPC请求模型元数据  133 8.14  批量推算请求  134 8.15  配置批量预测  135 8.16  其他TensorFlow Serving优化方法  136 8.17  TensorFlow Serving的替代品  137 8.17.1  BentoML  137 8.17.2  Seldon  138 8.17.3  GraphPipe  138 8.17.4  Simple TensorFlow Serving  138 8.17.5  MLflow  138 8.17.6  Ray Serve  139 8.18  在云端部署  139 8.18.1  用例  139 8.18.2  在GCP上进行示例部署  139 8.19  使用TFX流水线进行模型部署  144 8.20  小结  145 第  9 章 使用TensorFlow Serving进行进阶模型部署  146 9.1  解耦部署环节  146 9.1.1  工作流概述  147 9.1.2  优化远程模型加载  149 9.2  为部署模型进行优化  149 9.2.1  量化  149 9.2.2  剪枝  150 9.2.3  蒸馏  151 9.3  在TensorFlow Serving中使用TensorRT  151 9.4  TFLite  152 9.4.1  用TFLite优化模型的步骤  152 9.4.2  使用TensorFlow Serving实例部署TFLite模型  153 9.5  监测TensorFlow Serving实例  154 9.5.1  设置Prometheus  154 9.5.2  TensorFlow Serving配置  156 9.6  使用TensorFlow Serving和Kubernetes进行简单的扩容  157 9.7  小结  159 第  10 章 TensorFlow Extended的不错功能  160 10.1  流水线的不错功能  160 10.1.1  同时训练多个模型  161 10.1.2  导出TFLite模型  162 10.1.3  热启动模型训练  164 10.2  人工审核  165 10.2.1  创建Slack组件  166 10.2.2  如何使用Slack组件  166 10.3  TFX自定义组件  167 10.3.1  自定义组件的应用场景  168 10.3.2  从零创建自定义组件  168 10.3.3  复用现有组件  176 10.4  小结  179 第  11 章 流水线第 一部分：Apache Beam和Apache Airflow  180 11.1  选择哪种编排工具  181 11.1.1  Apache Beam  181 11.1.2  Apache Airflow  181 11.1.3  Kubeflow Pipelines  181 11.1.4  AI Platform上的Kubeflow Pipelines  182 11.2  将交互式TFX流水线转换为生产流水线  182 11.3  Beam和Airflow的简单交互式流水线转换  184 11.4  Apache Beam简介  185 11.5  使用Apache Beam编排TFX流水线  185 11.6  Apache Airflow简介  187 11.6.1  安装和初始设置  187 11.6.2  基本Airflow示例  188 11.7  使用Apache Airflow编排TFX流水线  191 11.7.1  流水线设置  192 11.7.2  运行流水线  193 11.8  小结  194 第  12 章 流水线第二部分：Kubeflow Pipelines  195 12.1  Kubeflow Pipelines概述  196 12.1.1  安装和初始设置  198 12.1.2  访问已安装的Kubeflow Pipelines  199 12.2  使用Kubeflow Pipelines编排TFX流水线  200 12.2.1  流水线设置  202 12.2.2  运行流水线  206 12.2.3  Kubeflow Pipelines的有用功能  211 12.3  基于Google Cloud AI Platform的流水线  215 12.3.1  流水线设置  215 12.3.2  TFX流水线设置  218 12.3.3  运行流水线  221 12.4  小结  222 第  13 章 反馈循环  223 13.1  显式反馈和隐式反馈  224 13.1.1  数据飞轮  224 13.1.2  现实世界中的反馈循环  225 13.2  收集反馈的设计模式  227 13.2.1  用户根据预测采取了某些措施  227 13.2.2  用户对预测的质量进行评分  228 13.2.3  用户纠正预测  228 13.2.4  众包打标  228 13.2.5  专家打标  229 13.2.6  自动产生反馈  229 13.3  如何跟踪反馈循环  229 13.3.1  跟踪显式反馈  230 13.3.2  跟踪隐式反馈  230 13.4  小结  231 第  14 章 机器学习的数据隐私  232 14.1  数据隐私问题  232 14.1.1  为什么关心数据隐私  232 14.1.2  最简单的加强隐私保护的方法  233 14.1.3  哪些数据需要保密  233 14.2  差分隐私  234 14.2.1  局部差分隐私和全局差分隐私  235 14.2.2  epsilon、delta和隐私预算  235 14.2.3  机器学习的差分隐私  236 14.3  TensorFlow Privacy  236 14.3.1  使用差分隐私优化器进行训练  237 14.3.2  计算epsilon  238 14.4  联邦学习  239 14.5  加密机器学习  241 14.5.1  加密模型训练  241 14.5.2  将训练好的模型转换为加密的预测服务  242 14.6  其他数据保密方法  243 14.7  小结  243 第  15 章 流水线的未来和下一步  244 15.1  模型实验跟踪  244 15.2  关于模型发布管理的思考  245 15.3  未来的流水线能力  246 15.4  TFX与其他机器学习框架  246 15.5  测试机器学习模型  247 15.6  用于机器学习的CI/CD系统  247 15.7  机器学习工程社区  247 15.8  小结  247 附录A  机器学习基础架构简介  249 附录B  在Google Cloud上设置Kubernetes集群  262 附录C  操作Kubeflow Pipelines的技巧  268 关于作者  276 关于封面  276