📰 Llama 3.3 70B — Meta тихо обновила модель, снова бесплатно
Что подвезли:
🔸 контекст 128к из коробки, без хаков через YaRN
🔸 качество на MMLU +3.5 к 3.1, обгоняет GPT-4o на JSON-режиме
🔸 та же лицензия, коммерческое использование до 700 млн MAU разрешено
Я успел прогнать LoRA на 4×H100 за ночь — работает, датасет тот же, что для 3.1. Веса совместимы после мержа.
Кто ещё держит свою Llama 3 в проде — переезжайте. Разница в тонкой настройке минимальная, качество заметно.
Ссылку на huggingface не даю (Telegram не любит), но найдёте за 30 секунд.
➖➖➖➖➖➖➖➖➖➖
Антон Хоменок про дообучение LLM 🧠
Хоменок про дообучение LLM 🧠
@xomenok_llmft
📰 Llama 3.3 70B — Meta тихо обновила модель, снова бесплатно
Этот пост опубликован в Telegram-канале Хоменок про дообучение LLM 🧠. Подписаться можно по ссылке: @xomenok_llmft.