Главное недоразумение при внедрении машинного обучения в аналитику: от модели ждут объяснения причин, а она ум

Главное недоразумение при внедрении машинного обучения в аналитику: от модели ждут объяснения причин, а она умеет находить только совпадения. Она честно скажет, что падение продаж связано с определённым набором признаков, но не отличит причину от следствия и от общего третьего фактора.
Классический пример этой путаницы — вывод, что пользователи, которые чаще заходят в раздел помощи, реже уходят. Отсюда легко сделать неверный шаг и начать активнее подталкивать людей в справку. Возможная реальность обратная: в справку идут те, кто уже решил разобраться и остаться.
Отсюда рабочее разделение труда. Модель хороша, когда нужно предсказать или упорядочить: что случится, кого проверить в первую очередь, где искать отклонение. Причины устанавливаются другими средствами — экспериментом, аккуратным сравнением сопоставимых групп, знанием предметной области.
Практический фильтр простой: прежде чем действовать по выводу модели, спросите, что именно вы измените и почему это должно сработать ⚙️