GPU выбирают не по магии и не по одной цифре в прайсе.

GPU выбирают не по магии и не по одной цифре в прайсе.
Именно тут чаще всего и ломают инфраструктуру.

Типичный фейл: смотрят на VRAM и думают, что 10 старых карт = одна мощная.
Нет. Ускоритель — это не только память. Считаются:
— тип вычислений: FP32, FP16, FP8
— пропускная способность памяти: HBM vs обычная GDDR
— связность между картами: NVLink или обычный PCIe
— реальная нагрузка: ML, рендер, инференс, виртуализация

Что важно на практике:
1. Большой объем памяти не спасает, если карта медленно кормит ядра данными.
2. Без нормального interconnect многокарточная схема часто упирается в обмен, а не в вычисления.
3. Tensor Cores нужны не всем, а только задачам, где они реально ускоряют математику.
4. Считать нужно не «сколько карт», а «какой throughput на вашей задаче».

Вывод простой: GPU подбирают под workload, а не под красивую спецификацию.
Сначала сценарий, потом архитектура, и только потом — закупка. ⚙️