GPU выбирают по цифрам — и часто промахиваются.

GPU выбирают по цифрам — и часто промахиваются.

Смотрю на типичный запрос: «Возьмём 10 RTX 1080 вместо одной H100, ведь VRAM по сумме хватает». На бумаге логика есть. В реальности — нет.

Почему:
— память у нескольких карт не складывается в одну задачу;
— скорость обмена между GPU важна не меньше объёма VRAM;
— PCIe и NVLink дают очень разную картину по задержкам и пропускной способности;
— Tensor Cores, FP8, HBM — это не “приятные бонусы”, а часть того, за счёт чего задача вообще летает или упирается в потолок.

Вывод простой: считать только цену, память и число ядер — плохая привычка. Для обучения, инференса и инфраструктурных задач один и тот же “сильный” GPU может оказаться либо оправданным, либо бесполезным.

Хороший выбор ускорителя начинается не с прайса, а с ответа на вопрос: что именно вы на нём будете делать. И сколько вам будет стоить ошибка.