Однажды на проекте мы увидели странный эффект: CPU почти не занят, а ответ сервера время от времени улетал в с

Однажды на проекте мы увидели странный эффект: CPU почти не занят, а ответ сервера время от времени улетал в секунды. По логам nginx всё выглядело спокойно, но проблема оказалась в связке между обратным прокси и приложением.

Причина была банальной и неприятной: слишком маленький keepalive к upstream + всплески коротких запросов. Сервер постоянно открывал новые соединения, тратил время на рукопожатия и быстро упирался в лимиты. После увеличения keepalive, настройки таймаутов и небольшого буфера для заголовков задержки исчезли почти сразу ⚙️

Главный вывод из этого кейса простой: если железо «пустое», это ещё не значит, что узкое место не в сетевом слое. В инфраструктуре чаще ломается не мощность, а стык между компонентами. И именно там nginx обычно помогает увидеть правду раньше остальных.