IT Сургут
IT Сургут
@surgut_it

RTX PRO 6000 Blackwell против H100 NVL: кто вытянет ИИ лучше? 🤔

Инженер YADRO сравнил NVIDIA RTX PRO 6000 Blackwell Server Edition и H100 NVL на задачах ИИ и LLM. Главный интерес — поддержка NVFP4: нового 4-битного формата весов, который может заметно влиять на скорость и поведение моделей.

Тестировали Qwen3.6-27B, Qwen3.6-35B-A3B и DeepSeek-V4-Flash в FP8, Mixed FP4 и NVFP4, через vLLM в offline и server режимах. Для команд из Сургута это полезный ориентир: если вы считаете, что брать под инференс — новое Blackwell или проверенный H100, тут как раз есть пища для выбора.

IT Сургут — t.me/surgut_it
Источники:
Этот пост опубликован в Telegram-канале IT Сургут (@surgut_it). Все его публикации — на странице канала.
Открыть в Telegram

Свежее в разделе «Сервисы и инфраструктура»

Все каналы раздела →

реклама в сети

Готовы запустить рекламу через сеть public.tg?

Новый оффер, продукт, GEO, кейс, событие или партнёрский запуск — соберём маршрут под задачу и отдадим медиаплан.

Telegram для медиаплана: @AFFtop_connect. Быстрый тест: $20 за канал, $1000 за пакет по сети.