01 October 2026
💡 Датасеты для fine-tuning: синтетика против реальных данных Раньше я убивал недели на разметку данных руками. Сейчас уверен: качественная синтетика через сильные модели типа DeepSeek R1 или модели OpenAI часто работает …
@xomenok_llmft
30 September 2026
⚙️ Архитектура обучения: когда стоит уходить с QLoRA на full fine-tune Все привыкли к QLoRA, потому что это дешево и сердито. Но когда задача становится специфичной — например, узкоспециализированный сленг или сложная ло…
@xomenok_llmft
29 September 2026
📊 Оцениваем качество модели после fine-tune: почему loss обманчив Частая ошибка новичков — смотреть только на график падения loss при обучении. Блин, это ловушка: модель может просто зазубрить датасет, а на реальных пром…
@xomenok_llmft
28 September 2026
💼 Итоги года по fine-tuning — где я слил деньги, где заработал Год я закрываю с 14 прогонами в проде, 6 в мусоре. Расклад: Заработано: 🔴 4 корпоративных клиента, средний чек $12к = $48к 🔴 подписка на моего юр-бота: 23 кл…
@xomenok_llmft
27 September 2026
📰 Cohere Command R+ — обновление для RAG и tool use Cohere остаётся в тени OpenAI/Anthropic, но у них добротная модель специально под RAG и агентов. Свежая версия: 🔸 контекст 128к, стабильно работает на длинных документа…
@xomenok_llmft
26 September 2026
🎙 В эту среду в подкасте — Лена, ведущий MLE из фонтеха Разберём то, о чём в её компании говорят на всех кухнях: 🔸 почему они выкинули fine-tuning и вернулись к prompt engineering 🔸 сколько денег ушло в мусор на первых п…
@xomenok_llmft
25 September 2026
📚 Reward model для DPO — что это и зачем Разбор для тех, кто дошёл до пред-продакшена. DPO нужны пары «хороший ответ / плохой ответ». Где брать? Три пути: 🔸 руками. Дорого, медленно, но эталон качества. 🔸 через реворд-мо…
@xomenok_llmft
24 September 2026
🎁 Unsloth — библиотека, которая ускорила мой прогон в 2 раза Ребят, это находка. Ставится в 2 команды через pip, поддерживает Llama, Mistral, Qwen, Gemma. Что дала на моих задачах: 🔸 обучение в 1.9-2.1× быстрее 🔸 памяти …
@xomenok_llmft
23 September 2026
📰 Deepseek R1 — китайцы открыли reasoning-модель, веса свободно Не путать с обычным R1 (rank-1). Это большая модель уровня o1 от OpenAI, только open-source и на 20× дешевле в инференсе. Что интересно для нас: 🔸 веса своб…
@xomenok_llmft
22 September 2026
🤔 Что будет с fine-tuning через 3 года — моя ставка Мои прогнозы, спорьте в комментах: 🔴 Большие модели (500B+) станут монополистами по знанию, свои прогоны туда не полезут — слишком дорого. 🔴 Средние модели (7-70B) уйду…
@xomenok_llmft
21 September 2026
💼 Дообучил модель для юр-компании — интересный кейс Задача: адвокатское бюро хочет модель, которая читает договор и отмечает риски по их чек-листу. Готовых нет — чек-лист внутренний, 340 пунктов. Что делал: 🔸 3 недели с …
@xomenok_llmft
20 September 2026
🎁 Кросс-промо от Хоменка — что ещё веду Ребят, я не только про fine-tuning пишу. У меня есть каналы про смежные штуки, куда часто перетекают вопросы: 🔸 «Хоменок: RAG-системы» — где заканчивается fine-tuning, начинается R…
@xomenok_llmft
19 September 2026
📚 Overfitting в fine-tuning — 5 сигналов, что модель тупеет Ребят, если ваша модель после дообучения: 🔴 повторяет одну и ту же фразу в разных ответах — она заучила датасет 🔴 отвечает хуже на общих вопросах, не по вашему …
@xomenok_llmft
18 September 2026
📰 Gemini 2.0 Flash — Google открыл fine-tuning в AI Studio Что важно: 🔸 бесплатный тир: до 50 прогонов в месяц, до 4 млн токенов 🔸 платный: $0.30 за 1 млн токенов обучения, инференс идёт по обычной цене 🔸 деплоится через…
@xomenok_llmft
17 September 2026
🎁 Как выбрать базовую модель под fine-tuning — 3 фактора Ребят, вопрос «Llama или Mistral» задают каждую неделю. Отвечаю системно. 🔸 Смотри лицензию. Llama до 700 млн MAU — ок, дальше платишь. Mistral Apache 2.0 — свобод…
@xomenok_llmft
16 September 2026
🤔 Open-source или API — вечный холивар, решаю в 2 минуты Задаю себе 3 вопроса: 🔴 Инференс больше $500/мес по API? Иди в open-source, окупишь через 2-3 мес. 🔴 Требуется задержка меньше 200 мс? Только своя модель на своём …
@xomenok_llmft
15 September 2026
📰 Anthropic намекнул на fine-tuning Claude Haiku в Bedrock Официально ещё не запустили, но в блог-посте пишут про программу для энтерпрайза. Судя по формулировкам: 🔸 доступ через AWS Bedrock, не напрямую через API 🔸 треб…
@xomenok_llmft
14 September 2026
📚 GGUF-квантизация — почему без неё в проде тебе конец Обучил модель в fp16 на арендованной H100, теперь надо задеплоить на клиентский сервер с одним RTX 4070. Что делать? Ответ — GGUF-квантизация в 4-8 бит через llama.c…
@xomenok_llmft
13 September 2026
💼 Продал fine-tune клиенту за $8к, себе оставил $6.2к — рассказываю сделку Клиент — сеть автосервисов, 40 точек. Задача: чат-бот в WhatsApp отвечает по каталогу запчастей + пишет заявку в 1С. Что делал: 🔸 месяц собирал и…
@xomenok_llmft
12 September 2026
📰 H200 подешевела в vast.ai до $1.8/час — можно жить Год назад H100 стоил $4-5, я откладывал прогоны на выходные. Сейчас H200 — младший брат H100 с 141 ГБ памяти — идёт по $1.8 в спот-режиме. Что это даёт для fine-tuning…
@xomenok_llmft
11 September 2026
🎁 Как чистить датасет для fine-tuning — 6 шагов, которые экономят неделю 🔸 Дедупликация по MinHash. Иначе модель заучит одинаковые куски и потеряет обобщение. 🔸 Отфильтровать всё короче 20 токенов на ответе — там обычно …
@xomenok_llmft
10 September 2026
🤔 Сколько данных нужно для fine-tuning — честный ответ Все врут, что 100 примеров достаточно. Это работает только на простейших задачах в духе классификации. По моему опыту: 🔴 тон и стиль ответа — 500-1000 качественных п…
@xomenok_llmft
09 September 2026
📚 DPO против SFT — чем реально отличаются На эту тему написано тонна статей, но мало кто объясняет по-человечески. 🔸 SFT (Supervised Fine-Tuning) — «вот пример хорошего ответа, копируй». Модель учит стиль и знания. 🔸 DPO…
@xomenok_llmft
08 September 2026
📰 Llama 3.3 70B — Meta тихо обновила модель, снова бесплатно Что подвезли: 🔸 контекст 128к из коробки, без хаков через YaRN 🔸 качество на MMLU +3.5 к 3.1, обгоняет GPT-4o на JSON-режиме 🔸 та же лицензия, коммерческое исп…
@xomenok_llmft
07 September 2026
💰 Разложил бюджет на fine-tuning для клиента — делюсь цифрами Задача была: дообучить Mistral 7B под колл-центр банка. 12к диалогов, LoRA. Расходы: 🔸 сборка датасета (junior + разметка): $1400 🔸 аренда H100 на 8 часов (va…
@xomenok_llmft
06 September 2026
🎙 Анонс подкаста: в среду у меня Артём — CTO стартапа, обучающего Llama под юрдоки Разберём то, о чём обычно молчат: 🔸 сколько денег реально ушло на первый прогон (спойлер: в 3× больше, чем планировали) 🔸 почему пришлось…
@xomenok_llmft
05 September 2026
📚 QLoRA — то же LoRA, только для нищих Разбор для тех, кто пропустил. QLoRA = LoRA + квантизация базовой модели в 4 бита. Что это даёт: 🔸 Llama 3 70B помещается в 48 ГБ (одна A6000 вместо двух H100) 🔸 обучение идёт на 30…
@xomenok_llmft
04 September 2026
🎁 Лайфхак: собираю датасет для fine-tuning за час через Claude Ребят, схема такая: 🔸 беру 50 «золотых» примеров руками — это эталон 🔸 отдаю Claude Sonnet с промптом: «сгенерируй 30 вариаций каждого, меняй формулировку, с…
@xomenok_llmft
03 September 2026
📰 Mistral выкатил Small 3 — 24B параметров, лицензия Apache 2.0 Что важно: 🔸 обгоняет Llama 3.3 70B на некоторых бенчах при 3× меньшем размере 🔸 контекст 32к, для большинства задач хватает 🔸 идеально ложится под LoRA, по…
@xomenok_llmft
02 September 2026
🤔 Нужен ли твоему стартапу fine-tuning или ты просто выпендриваешься На самом деле большинство задач закрывается промптом и RAG. Fine-tuning имеет смысл, когда: 🔴 у тебя специфический тон/жаргон, и ChatGPT его не тянет 🔴…
@xomenok_llmft
