<b>AB-тест без лишнего шума: 7 проверок до запуска, которые экономят недели</b>
Перед стартом теста проверьте не креатив, а конструкцию эксперимента:
— одна метрика-цель, а не «и конверсия, и AOV, и клики»;
— заранее заданный MDE, иначе любой шум легко принять за эффект;
— разрезы по устройствам и каналам, если они реально могут менять поведение.
Дальше — размер выборки и длительность. Тест, который закончился «когда стало красиво в дашборде», почти всегда переоценивает лифт. Останавливать эксперимент нужно по правилу, а не по интуиции: либо по фиксированному объёму, либо по заранее описанному sequential-подходу.
Ещё одна частая ошибка — сравнивать варианты, когда трафик уже «грязный». Новые пользователи и возвращающиеся ведут себя по-разному, мобильный трафик часто даёт другой эффект, чем desktop, а промо-канал может сломать картину сильнее, чем сам дизайн.
Если гипотеза касается нескольких изменений сразу, не называйте это одним тестом. Смешанный эксперимент не отвечает ни на один вопрос чисто. Разделяйте гипотезы, чтобы потом можно было повторить удачный результат и понять, что именно сработало.
Experiment Desk
@experiment_desk
<b>AB-тест без лишнего шума: 7 проверок до запуска, которые экономят недели</b>
Этот пост опубликован в Telegram-канале Experiment Desk. Подписаться можно по ссылке: @experiment_desk.