🎙 В подкасте на этой неделе — Настя, ML-лид из финтеха
Настя строила RAG для их банка — по внутренним нормативам ЦБ и внутренним политикам. 200к документов, 15 языков.
Что разберём:
🔸 почему они выкинули OpenAI и ушли на self-hosted Llama
🔸 как считали latency budget (спойлер: пришлось резать в 3 местах)
🔸 сколько стоила галлюцинация модели «однажды» (спойлер: у них проверка ретроспективная, спасло)
Стрим в четверг 19:00, вопросы кидайте в комменты. Расшифровку выложу отдельно, для тех, кому лень слушать 40 минут.
➖➖➖➖➖➖➖➖➖➖
Антон Хоменок про RAG-системы 📚
Антон Хоменок: RAG-системы 📚
@xomenok_rag
🎙 В подкасте на этой неделе — Настя, ML-лид из финтеха
Этот пост опубликован в Telegram-канале Антон Хоменок: RAG-системы 📚. Подписаться можно по ссылке: @xomenok_rag.