мы при этом не говорили ещё про разные виды нагрузки на эти обработчики.
и это перперндикулярно количеству обработчиков. поэтому стоит посмотреть
на один обработчик для начала для простоты картинки.
вот если обработчик способен обрабатывать ровно один запрос в секунду и
поступаеть один запрос в секунду, ровно через секунду, то никто в
очереди стоять не будет _никогда_.
а вот стоит только изменить начальные условия чуть-чуть - добавить
второй запрос в первую секунду и сразу образуется очередь из одного,
которая _никогда не закончится_. и все будут стоять в очереди и ждать по
секунде.
добавишь два лишних в начало - среднее в очереди будет 2. ну и так далее.
отнощение начальной нагрузки в первую секунду к количеству всех запросов
может быть ничтожным, а время ожидания в очереди при этом может быть
"сколь угодно большим".
так что вывод " на большом интервале среднее один хуй будет 1/2" -
неверный, поскольку учитывает (произвольный, в общем виде) тип нагрузки.