GPU выбирают не по цифре в спецификации, а по задаче. И именно здесь чаще всего ломаются закупки.

Если смотреть только на VRAM, можно легко прийти к ошибочному выводу: «10 старых RTX = одна H100». Не равно. Память — это не единственный критерий, а иногда и не главный.

Что важно проверять перед выбором ускорителя:
— тип вычислений: обучение, инференс, рендер, HPC;
— пропускную способность памяти: HBM и GDDR дают разный результат;
— связность между GPU: NVLink ускоряет обмен, PCIe может стать узким местом;
— точность вычислений: FP16, BF16, FP8 напрямую влияют на скорость и совместимость;
— поддержку фреймворков и стеков под вашу задачу.

Если упростить: дорогой GPU не всегда лучший, а «дешевле и больше штук» часто хуже, чем один сильный ускоритель, если задача упирается в память, обмен данными или формат вычислений.

Выбор железа начинается не с прайса, а с профиля нагрузки. Сначала считаем, что именно тормозит, потом подбираем GPU под метрики, а не под впечатление. 🔧