Хоменок про дообучение LLM 🧠

🛠 Ошибки при деплое дообученных моделей

Обучили модель, получили веса, залили в продакшн — и тишина. Бывает. Часто проблема не в качестве обучения, а в том, как мы модель «кормим» в продакшене.

Что важно проверить:
🔴 температура и Top-P: для дообученных моделей настройки из базовой модели часто не подходят
🔴 системный промпт: если он отличается от того, что был на этапе обучения, модель будет «плыть»
🔴 формат входных данных: проверьте, что токены начала и конца последовательности точно совпадают

Жёстко, когда из-за одной запятой в промпте модель начинает галлюцинировать. Кто сталкивался с таким?

➖➖➖➖➖➖➖➖➖➖
Антон Хоменок про дообучение LLM 🧠
Этот пост опубликован в Telegram-канале Хоменок про дообучение LLM 🧠 (@xomenok_llmft). Все его публикации — на странице канала.
Открыть в Telegram

Свежее в разделе «Авторские каналы»

Все каналы раздела →

реклама в сети

Готовы запустить рекламу через сеть public.tg?

Новый оффер, продукт, GEO, кейс, событие или партнёрский запуск — соберём маршрут под задачу и отдадим медиаплан.

Telegram для медиаплана: @AFFtop_connect. Быстрый тест: $20 за канал, $1000 за пакет по сети.