Антон Хоменок: RAG-системы 📚

📚 OpenAI обновил File Search v2 в Assistants API

📚 OpenAI обновил File Search v2 в Assistants API

Что изменилось:
🔸 индекс делается быстрее — 500 документов вместо 40 минут за 8
🔸 квоты выше: 10к файлов на ассистента, 5 ГБ на файл
🔸 стоимость хранения — $0.10 за ГБ в день

Я перевёл клиентский проект на v2 — задержка ответа упала с 3.8 до 1.9 сек. При этом ассистент теперь честно цитирует источник в ответе.

По сравнению с самопальным RAG-стеком (Weaviate + LangChain) — проще в 5 раз, дороже в 2. Для стартапа на 20-50 клиентов — норм.
Уверен, всем будет полезно, кто на Assistants API.
➖➖➖➖➖➖➖➖➖➖
Антон Хоменок про RAG-системы 📚
Этот пост опубликован в Telegram-канале Антон Хоменок: RAG-системы 📚. Подписаться можно по ссылке: @xomenok_rag.
editorial

Свежие посты в категории «Editorial Voice & Insider»

Все каналы категории →

start

Готовы запустить рекламу через сеть public.tg?

Новый оффер, продукт, GEO, кейс, событие или партнёрский запуск — соберём маршрут под задачу и отдадим медиаплан.

Telegram для медиаплана: @AFFtop_connect. Быстрый тест: $20 за канал, $1000 за пакет по сети.