Главная ошибка — тест нескольких переменных сразу. Если изменить заголовок и картинку одновременно, неясно, что именно сработало. Чистый эксперимент требует изоляции: только креатив, только лендинг или только таргет. Это основа для получения прозрачных данных и понимания того, на какой элемент реагирует аудитория.
Второй момент — объем выборки. Нельзя делать выводы на основе пяти кликов. Для принятия решения нужна статистическая значимость. Пока данных мало, результат может быть случайным колебанием. Дождитесь стабилизации показателей, иначе есть риск масштабировать случайный, но неэффективный в долгосроке вариант.
Поведение пользователей зависит от времени суток и дня недели. Не стоит отключать тест через пару часов после старта. Оптимальный цикл проверки гипотезы обычно занимает от трех до семи дней. Длительный запуск помогает сгладить временные всплески и увидеть реальную картину отклика без влияния внешних факторов.
Относитесь к тестам как к покупке информации. Отрицательный результат тоже полезен, так как он страхует бюджет от слива на нерабочие связки при масштабировании трафика.
Иванов | Медиа и охваты 005
@ivanov_media_005
Как не слить бюджет на А/Б тестах: три правила чистого эксперимента
Этот пост опубликован в Telegram-канале Иванов | Медиа и охваты 005. Подписаться можно по ссылке: @ivanov_media_005.