1. Тестируют всё сразу: креатив, оффер, аудиторию и посадку. В итоге непонятно, что именно дало разницу, а решение принимают по шуму, а не по факту.
2. Останавливают тест слишком рано. Пока выборка маленькая, победитель часто меняется: сначала ведёт вариант A, потом B, потом снова A. Без заранее заданного объёма данных выводы легко переоценить.
3. Смотрят только на CTR. Клик может быть дешевле, но если после него проседает конверсия в лид или продажу, тест вреден. Оценивайте весь путь: клик → действие → качество лида.
4. Смешивают разные источники и сегменты в одну кучу. У новых и тёплых аудиторий поведение разное, и «средняя температура» ломает картину. Разрез по каналам и сегментам часто важнее самой гипотезы.
Лучший A/B-тест — тот, где одна переменная, понятная метрика и заранее решено, что считается победой. Тогда трафик учит, а не обманывает.
Иванов | Метрики и воронки
@ivanov_traffic_lab_4298661757
5 ошибок в A/B-тестах, из-за которых трафик «улучшают» только на бумаге
Этот пост опубликован в Telegram-канале Иванов | Метрики и воронки. Подписаться можно по ссылке: @ivanov_traffic_lab_4298661757.