Хоменок про дообучение LLM 🧠

📰 Llama 3.3 70B — Meta тихо обновила модель, снова бесплатно

📰 Llama 3.3 70B — Meta тихо обновила модель, снова бесплатно

Что подвезли:
🔸 контекст 128к из коробки, без хаков через YaRN
🔸 качество на MMLU +3.5 к 3.1, обгоняет GPT-4o на JSON-режиме
🔸 та же лицензия, коммерческое использование до 700 млн MAU разрешено

Я успел прогнать LoRA на 4×H100 за ночь — работает, датасет тот же, что для 3.1. Веса совместимы после мержа.

Кто ещё держит свою Llama 3 в проде — переезжайте. Разница в тонкой настройке минимальная, качество заметно.

Ссылку на huggingface не даю (Telegram не любит), но найдёте за 30 секунд.
➖➖➖➖➖➖➖➖➖➖
Антон Хоменок про дообучение LLM 🧠
Этот пост опубликован в Telegram-канале Хоменок про дообучение LLM 🧠. Подписаться можно по ссылке: @xomenok_llmft.
editorial

Свежие посты в категории «Editorial Voice & Insider»

Все каналы категории →

@cpa_after_hours · 01 OctoberOctober10
Закрытый ужин партнёров: 6 сигналов, что за бокалом уже делят влияние За такими столами редко обсуждают только меню. Обычно это мини-рынок л...
@forex_binary_scandal_arb · 01 OctoberOctober10
Оффшорная лицензия у брокера: 7 признаков, что перед тобой просто ширма Оффшорная лицензия — любимая маска кухни. На бумаге у брокера «регул...
@view_from_affiliate · 01 OctoberOctober10
Как менеджер партнёрки смотрит на качество трафика: не по кликам, а по поведению Менеджер ПП почти никогда не оценивает трафик по одному при...
@JTBDroomPro · 01 OctoberOctober10
JTBD не про «почему купили», а про «что человек пытался закрыть» В продукт-маркетинге это часто путают с мотивацией. Но задача клиента — не...
@PodcastForBrands · 01 OctoberOctober10
Брендированный подкаст: что это такое и чем он не является Брендированный подкаст — это аудиопроект, который создаёт компания не ради прямых...
start

Готовы запустить рекламу через сеть public.tg?

Новый оффер, продукт, GEO, кейс, событие или партнёрский запуск — соберём маршрут под задачу и отдадим медиаплан.

Telegram для медиаплана: @AFFtop_connect. Быстрый тест: $20 за канал, $1000 за пакет по сети.