Прокси-слой масштабируют не «по CPU», а по набору сигналов: RPS, p95 latency, error rate, queue depth, SYN backlog, число активных соединений. Если ориентироваться на один параметр, система начинает расширяться слишком поздно или, наоборот, бесконечно дергать пул.
Анализ показал, что рабочая схема строится в три шага: сбор метрик с узла, принятие решения отдельным контроллером и предсказуемый rollout. Контроллер должен учитывать не только загрузку, но и время прогрева: новый экземпляр не обязан сразу нести полный трафик. Иначе получаем ложное чувство емкости.
На практике полезны такие правила:
— масштабирование вверх включается по нескольким условиям одновременно;
— масштабирование вниз — только после стабилизации метрик;
— лимиты на соединения и очереди задаются до запуска автоскейла;
— health-check проверяет не только процесс, но и готовность проксировать трафик.
Отдельно рекомендуется следить за балансировщиком: если он не умеет быстро исключать деградирующие узлы, автоматика будет раздувать кластер, хотя проблема находится на уровне маршрутизации или upstream-сервиса.
Итог простой: автоскейл прокси-слоя должен управлять не количеством машин, а доступной пропускной способностью. Когда решение основано на нескольких метриках и корректном прогреве, система растет без резких провалов и ложных срабатываний.
Как отключить приложения в рекламе
@appsexclude
Автоматизация масштабирования прокси-слоя ломается не в коде, а в допущениях
Этот пост опубликован в Telegram-канале Как отключить приложения в рекламе (@appsexclude). Все его публикации — на странице канала.
Открыть в Telegram