Kafka 컨슈머 랙 잡기: 파티션·리밸런싱·오프셋 튜닝
Kafka를 운영하다 보면 결국 마주하는 지표가 컨슈머 랙(consumer lag)입니다. 프로듀서가 쌓아 놓은 마지막 오프셋(LOG-END-OFFSET)과 컨슈머가 커밋한 오프셋(CURRENT-OFFSET)의 차이, 즉 “아직 처리하지 못한 메시지 수”입니다. 랙이 일정하면…
8 min read
Kafka를 운영하다 보면 결국 마주하는 지표가 컨슈머 랙(consumer lag)입니다. 프로듀서가 쌓아 놓은 마지막 오프셋(LOG-END-OFFSET)과 컨슈머가 커밋한 오프셋(CURRENT-OFFSET)의 차이, 즉 “아직 처리하지 못한 메시지 수”입니다. 랙이 일정하면…
트래픽이 어느 정도 오르기 시작한 서버라면 누구나 한 번쯤 이 로그를 만납니다. Too many open files. 대개는 새벽에, 부하가 몰릴 때, 예고 없이 터집니다. 원인은 리눅스의…
쿠버네티스 클러스터를 운영하다 보면 어느 날 갑자기 파드가 OOMKilled 상태로 재시작되거나, CPU 사용률은 낮은데 응답 지연이 급증하는 현상을 마주하게 됩니다. 대부분의 경우 원인은 resources.requests와 resources.limits 설정의…