GPU выбирают не по одному числу в спецификации. И точно не по логике «10 старых карт = 1 H100, потому что VRAM

GPU выбирают не по одному числу в спецификации. И точно не по логике «10 старых карт = 1 H100, потому что VRAM суммируется».

Для performance-задач важны не только объём памяти и количество ядер, но и то, как ускоритель работает в связке с остальным стеком: пропускная способность HBM, задержки PCIe, наличие NVLink, поддержка FP8 и Tensor Cores. На бумаге две карты могут выглядеть похоже, а в реальной нагрузке — дать совсем разный throughput.

Практический вывод простой: подбирайте GPU под конкретный workload, а не под цену за штуку. Для обучения, inference и heavy ETL требования к памяти, межкарточной связи и типам вычислений будут разными. ⚙️

Перед покупкой смотрите не только на VRAM, но и на:
— bandwidth памяти
— interconnect между GPU
— поддерживаемые precision-форматы
— совместимость с вашим софтом и драйверами

Иначе легко купить «мощное» железо, которое в вашем пайплайне упрётся в узкое место уже на первом прогоне.