Дообучение ИИ может ломать не только качество, но и устойчивость ответов

Дообучение ИИ может ломать не только качество, но и устойчивость ответов

В свежем исследовании на Qwen2.5-3B-Instruct сравнили два подхода к дообучению — SFT и RL — и посмотрели, как они влияют не только на точность, но и на сохранность уже выученных паттернов. Для этого авторы ввели метрику differential circuit vulnerability: она показывает, насколько отдельные attention heads и связки внутри модели деградируют после fine-tuning.

Картина получилась показательной. SFT быстрее подгоняет модель под нужный сценарий, но одновременно сильнее срезает прежние способности. RL действует медленнее, зато лучше сохраняет базовую структуру поведения. Для рынка коммуникаций здесь важен не сам Qwen, а общий принцип: способ дообучения влияет на стабильность ответа в соседних и пограничных сценариях.

Если модель переучили слишком агрессивно, она может начать уверенно отвечать в одной зоне и заметно проседать в другой. Для брендов и контентных команд это полезная рамка риска: при выборе AI-инструмента стоит смотреть не только на «точность в демо», но и на то, как система ведёт себя после настройки под конкретную задачу. В антикризисе такие перекосы особенно опасны: нестабильный ответ в смежном контексте быстро превращается в репутационный инцидент.

Похожий разбор есть в @NewsletterNicheMediaChecklist4