kafka-consumer-lag

Kafka 消费积压的定位与修复

现象

消费者 lag 持续增长，消息延迟变大；监控显示某些分区积压严重，但其他分区正常。严重时消费者被踢出组或频繁 rebalance。

快速定位

kafka-consumer-groups --bootstrap-server <broker>:9092 \
  --describe --group <group>
kafka-topics --bootstrap-server <broker>:9092 --describe --topic <topic>
kcat -b <broker>:9092 -t <topic> -G <group> -o end -c 1

消费者与 broker：

journalctl -u <consumer-service> --since '30 min ago'
ss -ti | grep <broker-ip>

常见根因

1. 消费逻辑慢：同步 I/O、外部调用、数据库写入瓶颈。
2. 分区数不足，消费者数量超过分区数，部分实例空闲。
3. 消费线程阻塞或批量参数不合理。
4. 频繁 rebalance：max.poll.interval.ms 太短、消费者重启或网络抖动。
5. 分区数据倾斜，热点分区拖慢整体。
6. broker/网络瓶颈，或副本同步影响读取。

修复

• 先按分区看 lag，判断是全局慢还是单分区倾斜。
• 优化消费逻辑，批量处理，减少同步外部调用。
• 增加分区和消费者实例，但消费者数不要超过分区数。
• 调整 max.poll.records、max.poll.interval.ms 和心跳参数，减少 rebalance。
• 热点 key 重新设计分区键，或单独扩容。
• 监控 lag、消费速率和 rebalance 次数，设置告警。

相关命令

• kcat — 消费与元数据
• kafka-topics — 分区与副本
• kafka-consumer-groups — lag 与成员

读完自测

合上页面，先回答，再展开对照。

1. lag 只集中在部分分区，说明问题更可能是全局消费慢还是数据倾斜？
2. 消费者实例数超过分区数会怎样？
3. 频繁 rebalance 常见原因和调整方向是什么？