리틀의 법칙 계산기

L = λW입니다. 시스템 안에 들어 있는 평균 개수(L)는 도착률(λ)과 머무는 시간(W)의 곱이라는 법칙입니다. 도착 분포도 처리 순서도 가정하지 않아서, 오래 안정적으로 돌아가는 시스템이면 언제나 성립합니다.

초당 요청 수 × 한 요청의 처리 시간이 필요한 동시 처리 수입니다. 초당 200건이 들어오고 한 건에 0.15초 걸린다면 어느 순간에도 30건이 처리 중이므로, 스레드가 20개면 이미 모자랍니다.

대기 시간이 크게 늡니다. 창구가 하나일 때 대기는 사용률 ÷ (1 − 사용률) × 처리 시간이라, 50%면 처리 시간만큼이지만 90%면 9배, 99%면 99배를 기다립니다. 80%에서 90%로 올리면 대기가 2.25배가 됩니다.

같은 사용률이라면 창구를 늘리는 쪽이 대기가 짧습니다. 창구 하나가 100% 가까이 돌아가는 것보다, 절반 속도의 창구 둘이 같은 사용률로 도는 편이 줄이 짧아집니다. 다만 처리 시간을 줄이면 사용률 자체가 내려가므로 효과가 더 큽니다.

도착이 무작위(포아송)이고 처리 시간이 지수분포일 때의 값입니다. 실제 트래픽은 점심시간이나 재시도 폭풍처럼 몰려서 오기 때문에 실제 대기는 이보다 깁니다. 낙관적인 값으로 보세요. L = λW 자체는 그런 가정이 없어 언제나 맞습니다.

도착률이 처리 능력을 넘었다는 뜻입니다. 창구당 사용률이 100% 이상이면 처리하는 속도보다 들어오는 속도가 빨라 줄이 계속 쌓이고, 대기 시간에 상한이 없어집니다. 이 경우 창구를 늘리거나 도착률을 제한해야 합니다.