Запуск теста без гипотезы — это стрельба вслепую. Формулируйте задачу четко: «Если мы изменим X на Y, то ждем рост Z на N%». Без этой логики вы получите случайные цифры, которые нельзя масштабировать на другие связки или продукты.
Вторая ошибка — преждевременная остановка. Нельзя гасить тест при первом всплеске ROI. Статистическая значимость требует данных. Если выборка мала, результат — это просто шум. Заранее определите необходимый объем трафика и не трогайте настройки до финала.
Тестирование нескольких переменных сразу превращает анализ в гадание. Изменив заголовок и креатив одновременно, вы не поймете, что именно дало результат. Соблюдайте правило: один тест — одна переменная для чистоты эксперимента.
Фиксируйте итоги в логе. Без истории тестов вы будете бесконечно повторять ошибки, сливая бюджет на гипотезы, которые уже были опровергнуты ранее.
Кустов и сплит-тесты
@kustov_split_tests
Почему большинство сплит-тестов не приносят прибыли: три ошибки
Этот пост опубликован в Telegram-канале Кустов и сплит-тесты. Подписаться можно по ссылке: @kustov_split_tests.