云计算通过按需方式提供共享计算资源，基础设施服务提供计算与网络等底层资源，弹性扩容根据负载变化增加运行实例

尾部延迟关注较高分位的响应时间。可观测性通过输出信息帮助理解内部状态。指标适合观察聚合趋势和运行规模。日志保留具体事件和处理上下文信息。追踪展示单个请求经过多个组件的过程。成本分摊帮助识别不同业务的资源支出。闲置资源可能产生持续且不必要的费用。托管服务减少部分运维但仍有使用责任。

区域通常包含相对独立的地理基础设施。可用区为区域内故障隔离提供组织方式。跨区部署仍可能依赖共同的控制服务。多区域恢复需要协调数据复制和流量切换。服务级别目标规定期望达到的运行水平。服务级别指标用于测量实际运行表现。错误预算表达允许发生的不可靠程度。平均延迟会掩盖少量请求的严重超时。

弹性扩容根据负载变化增加运行实例。弹性缩容需要处理已有任务和连接状态。水平扩展通过增加实例分担工作负载。垂直扩展通过提升单实例规格增加能力。无状态服务通常更容易进行水平扩展。有状态服务扩容需要协调数据和成员关系。容器编排负责调度和维护容器工作负载。调度器根据资源与约束选择运行节点。