kafka 2

[Kafka] 카프카의 스펙을 적절히 설정하는 방법 - 1

서론회사에서 이벤트 브로커를 만들 수 있는 좋은 기회가 생겼다.기존에 우리 회사는 IoT 기기로부터 전달된 이벤트를 받아서 쓰기 때문에, 이를 저장하거나, 갈무리해 관리할 수 있는 구조가 아니었다. 이번에 새로운 3rd-party 플랫폼을 추가하게 되어서, 해당 작업을 맡게 되었다.전반적인 아키텍처는 구도가 잡혔는데, 파티션 수, 토픽의 개수, 순서 보장 방법, 클러스터 내 브로커 개수 등의 세부적인 설계가 필요한 상황이 되었다.카프카의 스펙을 어떻게 설정하는지, 기초부터 차근차근 따져가면서 생각해보기로 하자.설계가 필요한 다른 사람들에게 도움이 되길 바란다.본론배경먼저 현 상황에 대해 간단히 기술해보자면 TPS 기준으로, 평상시 700~800, 특정 타임 1500~2500, 스파이크 시 3500 이상의..

Backend/Kafka 2025.02.01

[Redis & Kafka] Redis와 kafka를 활용한 선착순 이벤트 시스템 개발(Feat. 인프런 강의)

서론 최근 신입 & 주니어 백엔드 엔지니어에게 사용해본 오픈소스 중 경험이 있다면 좋다고 생각 되는 것이 Redis나 Kafka라고 생각한다. 왜냐하면, 백엔드 엔지니어에게 중요하게 요구되는 사항 중 하나가 바로 '대용량 트래픽 핸들링 경험' 인데, 관련 업무를 수행하기 위해 거의 필수적으로 사용되는 것이 Redis와 Kafka이기 때문이다. 특히 Kafka의 경우, 최근 많은 회사에서 도입하거나, 기존에 사용하면서 인기도가 많이 올라간 것이 체감된다. 면접을 볼 때나, 공고에 걸린 JD를 볼 때도, Kafka 경험이 있으면 우대사항이 있더라. 그래서 평소에도 Redis나 Kafka에 관심이 많은 상태였는데, 저번 주에 봤던 면접에서 Kafka 사용 경험과, 내가 이전 직장에서 담당했던 선착순 이벤트에 ..

강의 정리 2024.01.26