Инженер YADRO сравнил NVIDIA RTX PRO 6000 Blackwell Server Edition и H100 NVL на задачах ИИ и LLM. Главный интерес — поддержка NVFP4: нового 4-битного формата весов, который может заметно влиять на скорость и поведение моделей.
Тестировали Qwen3.6-27B, Qwen3.6-35B-A3B и DeepSeek-V4-Flash в FP8, Mixed FP4 и NVFP4, через vLLM в offline и server режимах. Для команд из Сургута это полезный ориентир: если вы считаете, что брать под инференс — новое Blackwell или проверенный H100, тут как раз есть пища для выбора.
IT Сургут — t.me/surgut_it
IT Сургут
@surgut_it
RTX PRO 6000 Blackwell против H100 NVL: кто вытянет ИИ лучше? 🤔
Источники:
Этот пост опубликован в Telegram-канале IT Сургут (@surgut_it). Все его публикации — на странице канала.
Открыть в Telegram