Что утверждает закон Литтла и как с его помощью посчитать нужное число воркеров?

Закон Литтла: L = λ × W — среднее число заявок в системе равно интенсивности потока, умноженной на среднее время пребывания. Для бэкенда это переводится буквально: сколько запросов одновременно находится в обработке, столько и нужно исполнителей. При 200 rps и среднем времени обработки 150 мс в системе постоянно висит 30 запросов — значит, 30 воркеров заняты всегда. Держать их загруженными на 100% нельзя: поток неровный, и по мере приближения загрузки к единице время ожидания в очереди растёт нелинейно — при 90% оно примерно в десять раз больше времени обработки. Поэтому берут целевую загрузку 60–80% (это прикидка, зависит от разброса времени обработки) и делят: 30 / 0,7 ≈ 43 воркера.