SLI、SLO、SLA 和错误预算之间是什么关系？

SLI 是可测量的指标，SLO 是对 SLI 设定的内部目标，SLA 是把服务水平写成对外承诺并约定后果；错误预算等于 1 减 SLO，表示在统计窗口内允许的失败量。SLO 通常严于 SLA，给内部留出缓冲。

PDB 和 HPA 分别解决什么问题？它们能互相替代吗？

PDB 限制自愿中断（如驱逐、节点维护）时至少保留多少可用副本；HPA 根据 CPU、内存或自定义指标增减副本。两者不能替代：PDB 不防非自愿中断，HPA 也不保证驱逐期间的最小可用性，通常配合使用。

TTFT 和 TPOT 分别受哪些因素影响？KV cache 与 PagedAttention 起什么作用？

TTFT 包含排队、prefill、首 token 生成和网络传输，受输入长度、批大小与调度影响；TPOT 是 decode 阶段每个输出 token 的平均时间，受显存带宽、KV cache 大小和并发批影响。KV cache 避免重复计算，PagedAttention 用分页减少碎片，从而支撑更高并发。

系统学习 学习路径总入口：先选领域，再建立模型，最后用故障演练验证

术语与缩写索引：Kubernetes、SRE、网络与 AI/MLOps 常用词

使用方式

这份索引按四个领域分组，用于快速定位缩写，不替代完整文档。每条先给一句话定义，再链接到有配置、排错和示例的页面；写 runbook、做评审或统一团队口径时，可以先查这里再深入。不同项目对同一缩写可能有细微差别，例如 TTL 在 DNS 缓存与 IP 包中含义不同，遇到歧义以链接页面的上下文为准。索引共 122 条，不追求覆盖所有缩写，只收录日常排障和架构讨论中高频出现、且容易混淆的词。

Kubernetes

工作负载与配置

Pod：最小调度单元，容器共享网络、IP 与卷；见 pod。
Deployment：无状态应用的副本管理与滚动更新控制器；见 deployment。
ReplicaSet：维持指定 Pod 副本数的底层控制器；见 replicaset。
StatefulSet：为有状态应用提供稳定标识与有序发布；见 statefulset。
DaemonSet：在每个或选定节点运行一份 Pod；见 daemonset。
Job：运行到成功完成的批处理任务；见 job。
CronJob：按 Cron 表达式周期创建 Job；见 cronjob。
Namespace：逻辑隔离与配额边界，不是安全边界；见 namespace。
ConfigMap：存放非敏感配置的对象；见 configmap。
Secret：存放敏感数据，默认仅编码不加密；见 secret。
Service：为 Pod 提供稳定虚拟 IP 与 DNS；见 service。
Ingress：七层入口规则，需控制器实现；见 ingress。
Gateway API：Ingress 的演进，按角色拆分网关与路由；见 gateway-api。

控制面与扩展

kube-apiserver：集群 API 入口，负责认证、授权与准入；见 kube-apiserver。
etcd：保存集群状态的强一致键值库；见 etcd。
kube-scheduler：为未绑定 Pod 选择节点；见 kube-scheduler。
kubelet：节点代理，管理 Pod 生命周期并上报状态；见 kubelet。
kube-proxy：实现 Service 转发规则的节点组件；见 kube-proxy。
CRI：容器运行时接口，kubelet 通过它调用运行时；见 crictl。
CNI：容器网络接口，负责 Pod 网络与 IP；见 cni。
CSI：容器存储接口，把存储接入持久卷；见 csi。
CRD：自定义资源定义，用于扩展 API 类型；见 crd。
Operator：用控制器封装领域运维知识的模式；见 operator。
RBAC：基于角色与绑定的授权模型；见 rbac。
NetworkPolicy：用标签描述 Pod 间访问控制的策略；见 networkpolicy。

调度、伸缩与存储

PDB：PodDisruptionBudget，限制自愿中断时的最小可用副本；见 poddisruptionbudget。
HPA：按指标水平扩缩 Pod 副本数；见 hpa。
VPA：调整 Pod 的 requests 与 limits，常需重启；见 vpa。
QoS：按资源请求与限制划分的 Pod 服务质量等级；见 qos。
ResourceQuota：限制命名空间资源总量；见 resource-quota。
LimitRange：为命名空间设置默认与上下限资源；见 limitrange。
Taint/Toleration：节点排斥与 Pod 容忍的调度约束；见 taints-tolerations。
Affinity：节点与 Pod 间的亲和或反亲和规则；见 affinity。
PV：集群级持久卷对象；见 pv。
PVC：用户对持久存储的请求；见 pvc。
StorageClass：描述动态存储供给的类型与参数；见 storageclass。

SRE 与可观测性

SLI：可测量的服务质量指标，如成功率与延迟；见 slo。
SLO：对 SLI 设定的内部目标；见 slo。
SLA：对外承诺的服务水平与违约条款；见 slo。
错误预算（Error budget）：一减 SLO，允许的失败额度；见 error-budget。
Burn rate：错误预算的消耗速度；见 error-budget。
RTO：故障后恢复服务的目标时间；见 disaster-recovery。
RPO：可接受的数据丢失时间窗口；见 disaster-recovery。
MTTR：从故障到恢复的平均时间；见 postmortem。
MTTD：从故障发生到被发现的平均时间；见 incident-command。
MTBF：两次故障之间的平均间隔；见 postmortem。
黄金信号（Golden signals）：延迟、流量、错误与饱和度；见 observability-mental-model。
RED：Rate、Errors、Duration，适合请求型服务；见 observability-roadmap。
USE：Utilization、Saturation、Errors，适合资源；见 linux-performance-triage。
Availability：可用时间或成功请求比例；见 slo。
Latency：请求耗时分布，关注高分位；见 inference-latency。
Throughput：单位时间处理量；见 observability-mental-model。
Saturation：资源排队与逼近上限的程度；见 linux-performance-triage。
Incident：需要协调处置的服务异常；见 incident-command。
Incident command：明确指挥、沟通与操作角色的机制；见 incident-command。
Postmortem：无责复盘，输出根因与改进项；见 postmortem。
Runbook：可执行的操作手册；见 runbook。
On-call：轮值响应告警的责任制度；见 on-call。
Toil：重复、可自动化且低价值的运维工作；见 toil。
Alert fatigue：告警过多导致响应麻木；见 alertmanager。
Cardinality：时间序列标签组合的数量；见 prometheus。
Tracing：用 trace ID 串联跨服务调用；见 opentelemetry。
Span：调用链中的单个操作单元；见 jaeger。
Metric：可聚合的数值时间序列；见 prometheus。
Dashboard：面向排障与决策的可视化视图；见 grafana。

网络

TCP：面向连接、可靠有序的传输协议；见 network-stack。
UDP：无连接、不保证送达的传输协议；见 network-stack。
CIDR：用前缀长度表示网段；见 ipcalc。
NAT：改写地址或端口以复用公网 IP；见 iptables。
Conntrack：内核连接跟踪表，NAT 的基础；见 conntrack。
MTU：单帧最大载荷，隧道需预留开销；见 mtu。
DNS：域名到地址的分布式解析系统；见 dns-cheatsheet。
TTL：DNS 缓存时间，或 IP 包的生存跳数；见 dns-cheatsheet。
BGP：自治系统间的路由协议；见 bgp。
VXLAN：用 UDP 封装二层帧的覆盖网络；见 vxlan。
Overlay：构建在底层网络之上的虚拟网络；见 flannel。
Underlay：承载覆盖网络的物理或基础网络；见 calico。
Load balancer：在多个后端之间分发流量；见 metallb。
Reverse proxy：代表后端接收并转发请求；见 nginx。
TLS：加密传输与证书身份验证协议；见 tls-cheatsheet。
mTLS：双向证书认证；见 istio。
HTTP/2：支持多路复用与头部压缩的 HTTP 版本；见 grpc-vs-rest。
gRPC：基于 HTTP/2 与 protobuf 的 RPC 框架；见 grpc-vs-rest。
QUIC：基于 UDP 的多路复用传输，HTTP/3 的底座；见 network-stack。
Socket：应用访问内核网络栈的接口；见 network-stack。
Ephemeral port：客户端临时源端口，耗尽会导致连接失败；见 nat-port-exhausted。
TIME_WAIT：主动关闭方保留连接状态的时间；见 tcp-time-wait。
Retransmission：丢包后的重传，比例高说明链路异常；见 tcp-retransmit。
RTT：往返时延，影响吞吐与超时设置；见 network-troubleshooting-cheatsheet。
Packet loss：数据包未到达，需区分链路、拥塞与策略丢弃；见 packet-loss。

AI 与 MLOps

LLM：大规模预训练语言模型，按 token 生成；见 ai-mental-model。
Token：模型处理文本的最小单位；见 ai-mental-model。
Context window：单次请求可容纳的 token 上限；见 vllm-tuning。
KV cache：缓存注意力 K/V，避免重复计算；见 vllm-tuning。
PagedAttention：用分页管理 KV cache，减少显存碎片；见 vllm。
Prefill：并行处理输入 token 的阶段；见 inference-latency。
Decode：逐 token 生成输出的阶段；见 inference-latency。
TTFT：首 token 时间，包含排队与 prefill；见 inference-latency。
TPOT：输出阶段每个 token 的平均耗时；见 inference-latency。
Continuous batching：动态拼批，提高 GPU 利用率；见 vllm-tuning。
LoRA：低秩适配，只训练少量增量参数；见 peft。
QLoRA：量化基座加 LoRA，降低微调显存；见 peft。
SFT：用标注样本做监督微调；见 trl。
DPO：用偏好对直接优化策略；见 trl。
RAG：先检索外部知识再生成；见 rag-production-checklist。
Embedding：把文本映射为语义向量；见 embedding-models。
Vector database：存储并检索向量的数据库；见 vector-db-selection。
Reranker：对召回结果精排；见 reranker。
Chunking：文档切分策略，直接影响召回；见 chunking。
Hallucination：看似合理但无依据的生成内容；见 rag-production-checklist。
Quantization：用低精度表示权重以省显存；见 quantization。
GGUF：llama.cpp 生态的量化模型格式；见 gguf。
Speculative decoding：小模型草拟、大模型校验的加速方法；见 speculative-decoding。
FlashAttention：减少显存读写的注意力实现；见 flash-attn。
Tensor parallel：把单层矩阵切到多卡；见 megatron-lm。
ZeRO：分片优化器状态、梯度与参数；见 deepspeed。
FSDP：PyTorch 的全分片数据并行；见 fsdp。
NCCL：NVIDIA 多卡集合通信库；见 nccl。
Checkpoint：训练中间状态的快照；见 checkpoint-corruption。
Eval：用数据集与指标衡量模型能力；见 lm-eval。
Guardrail：输入输出过滤与策略约束；见 guardrails-ai。
Prompt injection：用输入劫持模型指令的攻击；见 prompt-injection。

常见误区

把 SLO 当 SLA：SLO 是内部目标，SLA 是对外承诺并带违约后果。
把 TTFT 和 TPOT 混为一个延迟：前者看首 token，后者看后续每个 token。
认为 PDB 能阻止所有中断：它只约束自愿驱逐，不防崩溃、OOM 和节点故障。
认为 Secret 天然加密：默认只是 base64 编码，静态加密要单独启用。
把 CNI 当成某个插件：它是接口规范，Calico、Cilium、Flannel 才是实现。
对调 RTO 与 RPO：前者是恢复时间目标，后者是数据丢失窗口。

参考链接

读完自测

合上页面，先回答，再展开对照。

SLI、SLO、SLA 和错误预算之间是什么关系？
PDB 和 HPA 分别解决什么问题？它们能互相替代吗？
TTFT 和 TPOT 分别受哪些因素影响？KV cache 与 PagedAttention 起什么作用？

答案

SLI 是可测量的指标，SLO 是对 SLI 设定的内部目标，SLA 是把服务水平写成对外承诺并约定后果；错误预算等于 1 减 SLO，表示在统计窗口内允许的失败量。SLO 通常严于 SLA，给内部留出缓冲。
PDB 限制自愿中断（如驱逐、节点维护）时至少保留多少可用副本；HPA 根据 CPU、内存或自定义指标增减副本。两者不能替代：PDB 不防非自愿中断，HPA 也不保证驱逐期间的最小可用性，通常配合使用。
TTFT 包含排队、prefill、首 token 生成和网络传输，受输入长度、批大小与调度影响；TPOT 是 decode 阶段每个输出 token 的平均时间，受显存带宽、KV cache 大小和并发批影响。KV cache 避免重复计算，PagedAttention 用分页减少碎片，从而支撑更高并发。