Игровой ПК за £200 превратили в локальную AI-машину. К RTX 4080 на 16 ГБ докинули серверный GPU без нормального PCIe-коннектора и подключили через адаптер, получив 32 ГБ VRAM на двух картах. На такой сборке локально крутится модель на 27 млрд параметров и выдаёт около 32 токенов в секунду.
Для стартапов это ещё один сигнал: для части ML-задач необязательно сразу идти в облако или покупать топовый сервер — иногда дешевле собрать рабочий хак на железе с вторички. Но есть нюанс: такие решения требуют инженерной смелости, а не «коробочного» IT. 🧩
Startup Hire
@StartupHirePro
Игровой ПК за £200 превратили в локальную AI-машину. К RTX 4080 на 16 ГБ докинули серверный GPU без нормальног
Этот пост опубликован в Telegram-канале Startup Hire. Подписаться можно по ссылке: @StartupHirePro.