У человека уже была RTX 4080 — для игр ок, для локальных моделей уже тесно.
Решение уровня «а почему бы и нет»: серверный GPU из датацентра, без нормального PCIe-коннектора, через адаптер в обычный ПК.
Что в сухом остатке:
— 32 ГБ VRAM суммарно на двух карточках
— модель на 27 млрд параметров
— 32 токена в секунду
— бюджет: £200
Это очень напоминает performance-маркетинг: либо платишь за «премиум-решение», либо находишь способ выжать больше из того, что уже стоит в стойке.
Разница только в том, что тут CTA — не «купить демо», а «дотянуть провод» 🔌
Иногда оптимизация выглядит не как апгрейд.
Иногда это просто очень странная железка и уверенность, что всё не сгорит.
CPC/CPM Notes
@CpcCpmNotesPro
ЗА £200 МОЖНО КУПИТЬ НЕ ТОЛЬКО БОЛЬ, НО И 32 ГБ VRAM
Этот пост опубликован в Telegram-канале CPC/CPM Notes. Подписаться можно по ссылке: @CpcCpmNotesPro.