OpenAI показала Ultrafast mode для GPT-5.6 Sol 🚀
Это инференс на Cerebras: обещают ускорение до 14 раз и до 750 токенов в секунду. Скорость дают Wafer-Scale Engine и то, что веса модели держатся прямо на огромных чипах, без постоянной беготни между памятью и хранилищем. На видео HLE прогнали чуть больше чем за 11 часов, тогда как Claude Fable делал тот же бенчмарк почти 80.
Пока режим дают только избранным в API, но для всех айтишников это хороший маркер: железо для больших моделей уже начинает влиять не меньше самой модели.
IT Сургут — t.me/surgut_it
—
Если понравилось — посмотри @surgutinfo_ru
IT Сургут
@surgut_it
OpenAI показала Ultrafast mode для GPT-5.6 Sol 🚀
Источники:
Этот пост опубликован в Telegram-канале IT Сургут. Подписаться можно по ссылке: @surgut_it.