영상 <채용공고의 '대규모 트래픽 처리 경험', 도대체 기준이 뭘까요?>의 전체 내용을 핵심 항목별로 정리한 내용입니다.
1. 대규모 트래픽의 국제 표준 기준 유무
- ISO 국제 표준 (ISO 25010, ISO 25023 등): 성능 측정 지표나 품질 모델(응답 시간, 처리량 측정 함수 등)은 정의하고 있으나, 특정 초당 처리 수나 동시 접속자 수에 대한 절대적인 대규모 수치 기준은 존재하지 않음 [00:47].
- 시스템의 목적과 도메인 성격에 따라 기준이 달라지기 때문 [01:13].
2. 트래픽의 두 가지 측면: '규모' vs '처리 성능'
- 트래픽 규모 (Traffic Volume): 얼마나 많은 트래픽이 몰리는가를 나타내는 지표 [01:22].
- 지표: RPS(초당 요청수), 동시 접속자 수, DAU/MAU [01:38].
- 처리 성능 (Processing Performance): 들어온 트래픽을 얼마나 잘 처리하는가를 나타내는 지표 [01:30].
- 지표: 레이턴시(응답 지연), 가용성(Availability), TPS(초당 처리량), 에러율 [01:47].
3. 무엇을 '대규모 트래픽'으로 정의하는가?
- 일반적으로 초당 만(10,000) 단위 또는 10만 단위 이상의 RPS를 대규모라 칭하기도 함 [02:15].
- 본질적인 기준: 단일 서버 중심의 해법만으로는 시스템의 안정성과 확장성을 유지하기 어려워지는 시점 [02:23].
- 동일한 1만 RPS라도 단순 조회 요청인지, 복잡한 결제 트랜잭션 요청인지 등 '처리의 무게'에 따라 시스템이 체감하는 부하가 전혀 다름 [02:33].
4. 성능 측정 시 퍼센타일(Percentile)을 사용하는 이유
- 평균(Average)의 착시: 100건 중 98건이 100ms이고 2건이 10,000ms일 때, 평균은 298ms로 계산되어 소수의 심각한 지연이 가려짐 [03:31].
- 퍼센타일(P95, P99 등): P99 지표를 확인하면 상위 1%의 소수 요청에서 발생하는 꼬리 지연(Tail Latency)을 명확히 파악할 수 있음 [04:03].
5. 업계에서 통용되는 성능 관행 기준
- 일반 REST API: P95 기준 500ms 이하 [04:22].
- 내부 마이크로서비스(MSA): P95 기준 100ms 이하 [04:40].
- 고빈도 거래(HFT 등): 마이크로초(µs) 단위의 성능 필요 [04:50].
6. 용량 계획(Capacity Planning)과 SLO
- 트래픽 규모: 인프라 용량 계획을 위한 입력값 (서버 대수, 캐시, 메시지 큐, DB 샤딩 필요 여부 결정) [05:27].
- SLO (Service Level Objective): 해당 부하 속에서 반드시 지켜야 하는 내부적인 서비스 품질 목표 (예: P99 200ms 이하, 가용성 99.9% 유지 등) [05:08].
7. 채용공고가 요구하는 '대규모 트래픽 처리 경험'의 본질
- 단순히 "몇 RPS까지 처리해 봤다"는 숫자 자랑보다, 아키텍처 패턴을 활용해 문제를 해결하고 품질을 보장해본 경험을 의미함 [05:47].
- 주요 해결 아키텍처 패턴:
- 효과적인 면접 답변 방식: