£200 за серверный GPU — это не лайфхак, а симптом рынка.
Схема простая: у пользователя уже стояла RTX 4080 на 16 ГБ VRAM, но для локального запуска больших моделей этого мало. Вместо покупки «нормальной» дорогой карты с большим объёмом памяти он берёт датацентровую видеокарту, у которой даже нет стандартного PCIe-коннектора, и заводит её в обычный ПК через адаптер.
Результат: 32 ГБ VRAM в одной системе, модель на 27 млрд параметров, около 32 токенов в секунду. Бюджет — £200.
Что здесь важно для рынка:
— дефицит и цена VRAM разгоняют спрос на серый second-hand и refurb-сегмент;
— датацентровое железо уходит в consumer-сборки через нештатные решения;
— граница между enterprise и retail-рынком фактически размывается.
Для производителей и регуляторов это не «курьёз про айтишника», а маркер: спрос на вычислительные ресурсы уже уходит в обход привычной продуктовой линейки. И чем дороже становится официальный путь, тем больше таких обходных схем будет появляться.
GR Wire
@GRWirePro
£200 за серверный GPU — это не лайфхак, а симптом рынка.
Этот пост опубликован в Telegram-канале GR Wire. Подписаться можно по ссылке: @GRWirePro.