GPU — хороший пример того, как «цифра в спецификации» легко вводит в заблуждение.

GPU — хороший пример того, как «цифра в спецификации» легко вводит в заблуждение.

Встречается логика: если суммарно памяти столько же, значит 10 старых RTX могут заменить 1 H100. На практике нет. Ускоритель выбирают не по одной метрике, а по связке параметров: тип памяти, пропускная способность, межсоединение, поддержка нужной точности вычислений.

Схема простая:
1) **VRAM** — сколько данных влезет.
2) **Bandwidth** — как быстро GPU эти данные читает/пишет.
3) **NVLink/PCIe** — как быстро несколько GPU обмениваются данными.
4) **FP16/FP8, Tensor Cores** — насколько быстро железо тянет ML-задачи.

Если память есть, но канал узкий — ускорение упирается в обмен данными. Если ядра мощные, но нет нужной точности вычислений — часть преимуществ просто не используется.

Вывод для инфраструктуры один: GPU нужно подбирать не «по цене за гигабайт», а под профиль нагрузки. Для обучения, инференса и классического рендера набор требований будет разным. Именно поэтому сравнение «1 дорогая карта vs 10 дешёвых» без контекста почти всегда ошибочно.