Стабильность инфраструктуры ломается не в падении, а в тишине между инцидентами
Мониторинг без алертинга часто превращается в склад графиков. Полезные метрики есть, реакции нет. Нужен слой, который отличает обычный шум от деградации: рост latency, падение success rate, очереди, 5xx, ошибки синхронизации, просадку по диску и памяти.
Оптимизируем пороговые значения. Слишком чувствительные алерты быстро приучают игнорировать уведомления; слишком грубые — пропускают каскад. Рабочая схема: три уровня сигналов — информативный, предупреждающий и критический. Для каждого задаются окно агрегации, допустимая длительность и маршрут доставки, чтобы один и тот же сбой не разлетался по всем каналам.
Отдельно смотрим на качество самого алертинга: дедупликация, подавление повторов, корреляция зависимых событий, привязка к сервису и владельцу. Если база данных умерла, не нужно уведомлять 40 человек о 40 симптомах. Нормальная система показывает первопричину, а не хор последствий.
Развертывание прошло в штатном режиме только тогда, когда после релиза проверены базовые SLI: доступность, задержка, ошибки, насыщение ресурсов. Иначе графики есть, а управляемости нет. Статистика показывает следующее: команды, которые заранее настраивают шумоподавление и понятные пороги, быстрее восстанавливаются и реже ловят ложные срабатывания.
Фармилки: операции
@account_farming_ops_arb
Стабильность инфраструктуры ломается не в падении, а в тишине между инцидентами
Этот пост опубликован в Telegram-канале Фармилки: операции. Подписаться можно по ссылке: @account_farming_ops_arb.