Хоменок про дообучение LLM 🧠

💼 Дообучил модель для юр-компании — интересный кейс

Задача: адвокатское бюро хочет модель, которая читает договор и отмечает риски по их чек-листу. Готовых нет — чек-лист внутренний, 340 пунктов.

Что делал:
🔸 3 недели с их юристами собирал разметку: 800 договоров × 340 меток
🔸 Base — Qwen 2.5 14B, LoRA, контекст 32к
🔸 Прогон на 2×H100, 12 часов, $50

Результат:
🔴 F1 по критичным меткам: 0.87 (юристы ставят 0.91)
🔴 время на один договор: 40 сек вместо 40 мин
🔴 клиент экономит 60 часов юр-времени в месяц

Продал за $18к + $600/мес поддержка. Модель крутится в их серверной, наружу не смотрит.

Домен-специфика — вот куда идёт fine-tuning.
➖➖➖➖➖➖➖➖➖➖
Антон Хоменок про дообучение LLM 🧠
Этот пост опубликован в Telegram-канале Хоменок про дообучение LLM 🧠 (@xomenok_llmft). Все его публикации — на странице канала.
Открыть в Telegram

Свежее в разделе «Авторские каналы»

Все каналы раздела →

реклама в сети

Готовы запустить рекламу через сеть public.tg?

Новый оффер, продукт, GEO, кейс, событие или партнёрский запуск — соберём маршрут под задачу и отдадим медиаплан.

Telegram для медиаплана: @AFFtop_connect. Быстрый тест: $20 за канал, $1000 за пакет по сети.