全新云应用中的服务质量

 关于作者
译者序
1 概述
1.1 入门
1.2 目标读者
1.3 本书组织结构
I 配置
2.应用程序服务质量
2.1 简单应用程序模型
2.2 服务边界
. 质量和能的关键指标
2.4 关键应用特征
2.4.1 服务急迫
2.4.2 应用程序交互
2.4.3 网络传输缺陷的耐受
2.5 应用程序服务质量指标
2.5.1 服务可用
2.5.2 服务延迟
2.5.3 服务可靠
2.5.4 服务可访问
2.5.5 服务可维持
2.5.6 服务吞吐量
2.5.7 服务时间戳精度
2.5.8 特定应用程序的服务质量度量
2.6 技术服务与支持服务
2.6.1 技术服务质量
2.6.2 支持服务质量
2.7 安全事项
3 云模型
3.1 云计算中的角色
3.2 云服务模型
3.3 云的基本特征
3.3.1 按需自服务
3.3.2 广泛的网络访问
3.3.3 资源池
3.3.4 快速弹
3.3.5 度量服务
3.4 简化云架构
3.4.1 应用软件
3.4.2 虚拟机服务器
3.4.3 虚拟机服务器控制器
3.4.4 云操作支持系统
3.4.5 云技术组件“即服务”
3.5 弹度量
3.5.1 密度
3.5.2 配置间隔
3.5.3 释放间隔
3.5.4 向内和向外扩展
3.5.5 向上和向下扩展
3.5.6 敏捷
3.5.7 转换速率和线度
3.5.8 弹加速
3.6 空间和区域
3.7 云意识
4 虚拟化架构缺陷
4.1 服务延迟、虚拟化和云
4.1.1 虚拟化和云导致的延迟变化
4.1.2 虚拟化开销
4.1.3 增加架构能的可变
4.2 虚拟机故障
4.3 无法交付的虚拟机配置容量
4.4 交付退化的虚拟机容量
4.5 尾部延迟
4.6 时钟事件抖动
4.7 时钟漂移
4.8 失败或缓慢的虚拟机实例分配和启动
4.9 虚拟化架构缺陷展望
II 分析
5 应用程序冗余和云计算
5.1 故障，可用和简单建构
5.2 通过虚拟化改进软件修复时间
5.3 通过虚拟化改进架构修复时间
5.3.1 理解硬件修复
5.3.2 虚拟机修复即服务
5.3.3 讨论
5.4 冗余和可恢复
5.4.1 通过虚拟化改进恢复时间
5.5 顺序冗余和并发冗余
5.5.1 混合并发策略
5.6 虚拟化缺陷对应用服务的影响
5.6.1 简单架构的服务影响
5.6.2 顺序冗余架构的服务影响
5.6.3 并发冗余架构的服务影响
5.6.4 混合并发架构的服务影响
5.7 数据冗余
5.7.1 数据存储策略
5.7.2 数据一致策略
5.7.3 数据架构注意事项
5.8 讨论
5.8.1 服务质量的影响
5.8.2 并发控制
5.8.3 资源使用
5.8.4 简易
5.8.5 注意事项
6 负载分配与均衡
6.1 负载分配机制
6.2 负载分配策略
6.3 代理负载均衡器
6.4 非代理负载分配
6.5 负载分配的层次结构
6.6 基于云的负载均衡所面临的挑战
6.7 负载均衡在支持冗余方面的作用
6.8 负载均衡与可用区域
6.9 工作负载服务度量
6.10 操作注意事项
6.10.1 负载均衡与弹
6.10.2 负载均衡与过载
6.10.3 负载均衡与发布管理
6.11 负载均衡与应用程序服务质量
6.11.1 服务可用
6.11.2 服务延迟
6.11.3 服务可靠
6.11.4 服务可访问
6.11.5 服务可维持
6.11.6 服务吞吐量
6.11.7 服务时间戳精度
7 故障容器
7.1 故障容器
7.1.1 故障级联
7.1.2 故障容器与恢复
7.1.3 故障容器与虚拟化
7.2 故障点
7.2.1 单点故障
7.2.2 单点故障与虚拟化
7.. 关联和反关联考虑
7.2.4 在云计算中确保无SPOF
7.2.5 无SPOF和应用程序数据
7.3 共存解决方案
7.3.1 共存解决方案的风险
7.4 多租户与解决方案容器
8 容量管理
8.1 工作负载变化
8.2 传统容量管理
8.3 传统过载控制
8.4 容量管理与虚拟化
8.5 云容量管理
8.6 弹存储注意事项
8.7 弹和过载
8.8 操作注意事项
8.9 负载拉锯
8.10 一般弹风险
8.11 弹故障场景
8.11.1 弹增长故障场景
8.11.1 弹逆增长故障场景
9 发布管理
9.1 相关术语
9.2 传统的软件升级策略
9.2.1 软件升级需求
9.2.2 维护窗口
9.. 应用升级的客户端注意事项
9.2.4 传统的离线软件升级
9.2.5 传统的在线软件升级
9.2.6 讨论
9.3 支持云的软件升级策略
9.3.1 I型云支持升级策略：街区聚会
9.3.2 II型云支持升级策略：每车一司机
9.3.3 讨论
9.4 数据管理
9.5 软件升级中的服务编排角色
9.5.1 解决方案级软件升级
9.6 结论
10 端到端考虑因素
10.1 端到端服务环境
10.2 三层端到端服务模型
10.2.1 通过三层模型估算服务缺陷
10.2.2 端到端服务可用
10.. 端到端服务延迟
10.2.4 端到端服务可靠
10.2.5 端到端服务可访问
10.2.6 端到端服务可维持
10.2.7 端到端服务吞吐量
10.2.8 端到端服务时间戳精度
10.2.9 现实检查
10.3 分布式和集中式的云数据中心
10.3.1 集中式云数据中心
10.3.2 分布式云数据中心
10.3.3 服务可用考虑
10.3.4 服务延迟考虑
10.3.5 服务可靠考虑
10.3.6 服务可访问考虑
10.3.7 服务可维持考虑
10.3.8 资源分配考虑
10.4 多层解决方案架构
10.5 灾难恢复与地理冗余
10.5.1 灾难恢复目标
10.5.2 地理冗余架构
10.5.3 服务质量考虑
10.5.4 恢复点考虑
10.5.5 地理冗余和可用区域减轻灾难的影响
III 建议
11 服务质量问责
11.1 传统的问责
11.2 云服务交付路径
11.3 云问责
11.4 问责案例研究
11.4.1 问责和技术组件
11.4.2 问责和弹
11.5 服务质量差距模型
11.5.1 应用程序面向资源服务差距分析
11.5.2 应用程序面向用户服务差距分析
11.6 服务水平协议
12 服务可用度量
12.1 服务度量概述
12.2 传统服务可用度量
1. 服务可用度量演化
1..1 应用演化分析
1..2 技术组件
1.. 存储即服务的使用
12.4 硬件可靠度量演化
12.4.1 虚拟机故障生命周期
12.5 弹可用度量演化
12.6 发布管理服务可用度量演化
12.7 服务度量展望
13 应用程序服务质量需求
13.1 服务可用需求
13.2 服务延迟需求
13.3 服务可靠需求
13.4 服务可访问需求
13.5 服务可维持需求
13.6 服务吞吐量需求
13.7 时间戳精度需求
13.8 弹需求
13.9 发布管理需求
13.10 灾难恢复需求
14 虚拟化架构度量与管理
14.1 架构服务质量度量的业务环境
14.2 云消费者度量选项
14.3 缺陷度量策略
14.3.1 虚拟机故障度量
14.3.2 无法交付的虚拟机配置容量度量
14.3.3 交付退化的虚拟机容量度量
14.3.4 尾部延迟度量
14.3.5 时钟事件抖动度量
14.3.6 时钟漂移度量
14.3.7失败或缓慢的虚拟机实例分配和启动度量
14.3.8 度量总结
14.4 管理虚拟化架构缺陷
14.4.1 化应用程序对架构缺陷的度
14.4.2 虚拟机级拥塞检测与控制
14.4.3 分配更多虚拟资源容量
14.4.4 终止能欠佳的虚拟机实例
14.4.5 接受能退化
14.4.6 积极主动的供应商管理
14.4.7 重新设定用户服务质量期望
14.4.8 SLA注意事项
14.4.9 更换云服务提供商
15 基于云的应用程序分析
15.1可靠框图和参照分析
15.2 IaaS缺陷影响分析
15.3 PaaS故障影响分析
15.4 工作负载分配分析
15.4.1 服务质量分析
15.4.2 过载控制分析
15.5 反相关分析
15.6 弹分析
15.6.1 服务容量增长场景
15.6.2 服务容量增长操作分析
15.6.3 服务容量逆增长操作分析
15.6.4 存储容量增长场景
15.6.5 在线存储容量增长操作分析
15.6.6 在线存储容量逆增长操作分析
15.7 发布管理影响效应分析
15.7.1 服务可用影响
15.7.2 服务可靠影响
15.7.3 服务可访问影响
15.7.4 服务可维持影响
15.7.5 服务吞吐量影响
15.8 恢复点目标分析
15.9 恢复时间目标分析
16 测试注意事项
16.1 测试环境
16.2 测试策略
16.2.1 云测试平台
16.2.2 用于测试的容量
16.. 统计置信度
16.2.4 服务中断时间
16.3 模拟架构缺陷
16.4 测试计划
16.4.1服务可靠和延迟测试
16.4.2 架构缺陷测试
16.4.3 健壮测试
16.4.4 持久/稳定测试
16.4.5 应用程序弹测试
16.4.6 升级测试
16.4.7 灾难恢复测试
16.4.8 极限共存测试
16.4.9 aa术组件测试
16.4.10 自动回归则测试
16.4.11 构造发布测试
17 关键点连接与总结
17.1 应用程序服务质量所面临的挑战
17.2 冗余和健壮
17.3 可伸缩设计
17.4 可扩展设计
17.5 故障设计
17.6 规划注意事项
17.7 传统应用的演化
17.7.1阶段0：传统应用
17.7.2 阶段I：虚拟化架构上的高服务质量
17.7.3 阶段II：手动应用弹
17.7.4 阶段III：自动发布管理
17.7.5 阶段IV：自动应用弹
17.7.6 阶段V：虚拟机迁移
17.8 结束语
参考文献
缩略语

Eric Bauer是阿尔卡特-朗讯的IP平台CTO的可靠工程经理，他曾在阿尔卡特-朗讯的平台、应用以及解决方案的可靠方面工作超过十年。在从事可靠工程领域之前，Bauer花了二十年时间设计和开发嵌入式固件、网络操作系统、IP PBX、互联网平台以及光传输系统。BAUER获得了十多项美国专利，撰写了《云计算实战:可靠与可设计》、《冗余：地理冗余如何才能提高计算机系统的可用和可靠》、《可靠设计：信息和计算机系统》、《系统可靠实技术》（均由Wiley-IEEE出版社出版）等著作，并有多篇在《贝尔实验室技术期刊》发表。BAUER拥有康奈尔大学工程士学和普渡大学电气工程硕士，他住在新泽西州弗里霍尔德。
Randee Adams是阿尔卡特-朗讯的IP平台CTO的技术顾问，她花了近十年时间专注于产品的可靠设计，曾在各种内部可靠论坛上多次发言。ADAMS撰写了《冗余：地理冗余如何才能提高计算机系统的可用和可靠》和《云计算的可靠和可》等著作。她曾作为5ESS交换机的程序员，于1979年加入贝尔实验室。ADAMS在整个公司的多个项目（例如，软件开发、故障单管理、负载管理研究、软件交付、系统工程、软件架构、软件设计、开发工具和联合风险设置）和多个功能领域（例如，数据库管理、公共信道信令、操作实施、指导和管理、可靠和安全）工作过。ADAMS拥有亚利桑那大学的士学以及伊利诺斯理工学院的计算机科学硕士。她住在伊利诺伊州内珀维尔。

1.概述

用户希望部署在云计算架构上的应用和服务能够与部署在传统、本地的硬件上一样，具有相似的服务质量、可靠、可和延迟。云计算架构引入了一系列由于虚拟化计算、内存、存储和网络资源带来的服务缺陷风险，由“架构即服务”(IaaS)供应商带给托管的应用程序实例。因此，应用程序开发人员和云消费者应当尽可能避免这些缺陷，以确保应用程序服务交付给用户时不会受到很大影响。本书分析了可能影响应用程序服务交付给用户的云架构问题，以及改进云服务质量的各种可能。同时，本书还了一些架构、策略和相关技术，能够使得部署在云上的应用程序为终端用户提供更好的服务。

1.1 入门
基于云的应用软件在一些虚拟机实例中执行，每一个独立的虚拟机实例依靠云架构所提供的虚拟计算、内存、存储和网络来进行服务交付。如图1.1所示，应用程序通过虚线边界向终端用户提供“面向用户的服务（customer facing service）”，“架构即服务”供应商通过破折号边界即“面向资源服务（resource facing service）”提供虚拟化资源。对于终端用户而言，应用程序的服务质量可以看做是一个由应用程序架构和软件质量构成的函数，而由IaaS通过面向资源服务边界提供的虚拟架构的服务质量，以及将终端用户连接至应用程序实例的接入服务和广域网服务质量也是如此。本书考虑了为云应用程序所提供的虚拟化资源存在的各种缺陷，并讨论如何将终端用户体验的用户服务质量化。如果忽略终端用户设备的服务缺陷，在接入和广域网中，用户可以勉强感受到应用程序服务质量的差异，从而区分一个特定的应用程序是部署在云架构上或是部署在传统的硬件设备上。

应用软件部署在本地或云端的关键技术差异在于，本地部署应用程序的用户操作系统能够直接访问物理计算、内存、存储和网络资源，而云端部署则在用户操作系统和物理硬件之间插入了一个管理程序层或者虚拟机管理软件。这个管理程序层或虚拟机管理软件能够实现复杂的资源共享，技术参数和操作策略。然而，管理程序层或虚拟机管理软件并不能向用户操作系统和应用软件提供合适的硬件，这使得提供给用户的应用程序服务质量受到一定影响。如图1.1所示，应用程序部署在一个独立的数据中心，而现实中应用程序往往需要部署在多个数据中心，通过缩短消息抵达用户的延迟，支持连续业务和灾难恢复以及商业措施，才能保用户的服务质量。本书也会涉及部署在多个数据中心的应用程序服务质量问题。

本书提供了当应用程序软件部署在云架构上时，为保交付给用户好的应用程序服务质量所应采用的应用程序架构、配置、验和操作策略。本书所采用的保障应用程序服务质量的方法，来自于终端用户视角，同时还参考了行业标准和来自NIST、TM论坛、EST论坛、ODCA、ISO、ITIL等联盟的。

1.2 目标读者
本书为应用程序架构师、开发人员和测试人员提供了设计和工程应用的指导,能够满足客户和用户在服务可靠、可、质量和延迟方面的期望。产品经理、开发经理和项目经理也将从本书中获得关于服务质量风险方面的深入理解，风险必须尽可能减小才能确保一个应用程序部署到云架构时，能够一如既往满足或超过客户在用户服务质量方面的预期。
1.3 本书组织结构
本书由三个部分组成：配置、分析与建议。第I部分：配置，将基于云的应用程序服务质量配置做了划分：

？“应用程序服务质量”（第2章）。本章定义了书中对于应用程序服务质量的度量标准，包括：服务可用、延迟、服务可靠、可达、可维持、吞吐量以及时间戳精度。

？“云模型”（第3章）。本章从技术和运维的角度，分别阐述了部署在云架构上的应用程序与传统应用程序的不同，并揭示了快速弹和大规模资源池可能带来的新的机遇。

？“虚拟化架构缺陷”（第4章）。本章阐述了运行在云架构虚拟机上的应用程序必须要克服的架构服务缺陷，从而能够确保向终端用户提供可被接受的服务质量。本章中提到的服务质量的影响因素将在第II部分：分析中进一步加以阐述。

第II部分：分析，将通过以下的内容，系统的阐述在第二章“应用程序服务质量”中定义的应用程序服务是如何被第四章“虚拟化架构缺陷”中列举的架构缺陷影响：

？“应用程序冗余与云计算”（第5章）。本章回顾了基本的冗余体系结构（简单结构、顺序冗余、并发冗余以及混合并发冗余），并阐述了在面对虚拟化架构缺陷时，这些冗余在减少缺陷所带来的影响时能够发挥的作用。

？“负载分配与均衡”（第6章）。本章系统地分析了应用程序负载分配与均衡问题。

？“错误容器”（第7章）。本章关于虚拟化和云如何帮应用程序实现错误容器策略。

？“容量管理”（第8章）。本章系统地分析了与快速弹和在线容量增长和逆增长相关的应用程序服务风险。

？“发布管理”（第9章）。本章介绍了虚拟化和云在发布管理方面的支持。

？“端到端考虑因素”（0章）。阐述了应用程序服务质量缺陷是如何通过端到端的服务交付路径不断累积的。本章同时阐述了服务质量影响的不同。部署应用程序到一个小型的云数据中心，服务质量的影响更接近终端用户，而部署到大型的、地区的云数据中心，服务质量的影响则离终端用户更远。本章还讨论了关于灾难恢复和地理位置冗余问题。

第III部分：建议包含了以下内容：

？“服务质量问责”（1章）。本章介绍了云部署是如何改变服务质量传统的职责，提供了通过云服务传输链实现这些职责的指导。本章同时通过服务差距模型回顾了如何规范连接、架构、实现、验部署以及监控应用程序，从而确保期望能够得到满足。 与此同时，本章还介绍了服务水平协议。

？“服务可用度量”（2章）。本章阐述了传统应用服务的可用度量如何应用到基于云的应用程序的部署中，同时能够保服务可用。

？“应用程序服务质量需求”（3章）。本章阐述部署在云上的应用程序的高层服务质量需求。

？“虚拟化架构度量与管理”（4章）。本章介绍了在生产系统中虚拟化架构缺陷的定量测量策略，以及消除导致影响架构能的应用程序服务质量风险的策略。

？“基于云的应用程序分析”（5章）。本章给出了一系列分析技术能够严格地评估服务质量风险和迁移目标应用程序体系结构的损失。

？“测试注意事项”（6章）。基于云的应用程序测试注意事项一章，除了一些虚拟化架构不可避免的缺陷，阐述了能够确保服务质量满足期望的问题。

？“关节点连接与总结”（7章）。本章讨论了如何应用第III部分的内容，使得现有的和新的应用程序能够减少第I部分：基础内容和第II部分分析所提到并分析的服务质量风险。

许多读者可能会希望学习他们业务相关的技术或者感兴趣的专业相关的章节，而不会严格地按照本书的章节来阅读，因此本书提供了很多交叉引用的内容，读者可以直接进入第II部分分析，再通过交叉引用回到第I部分来找一些定义或者到第III部分参考一些的内容。本书提供了详细的索引能够帮读者快速地找到需要的内容。