Фото Microsoft Copilot на Unsplash TL;DR: Новый сверхбыстрый режим OpenAI позволяет GPT-5.6 Sol отвечать на запросы до 14 раз быстрее. Предварительная версия предназначена для корпоративных клиентов, которым нужен ИИ с малой задержкой. Мир искусственного интеллекта только что получил обновление скорости. OpenAI анонсирует...
Фото Microsoft Copilot на Unsplash
TL;DR: Новый сверхбыстрый режим OpenAI позволяет GPT-5.6 Sol отвечать на запросы до 14 раз быстрее. Предварительная версия предназначена для корпоративных клиентов, которым нужен ИИ с малой задержкой.
Мир искусственного интеллекта только что получил обновление скорости. OpenAI объявила о предварительной версии Ultrafast, режима, ориентированного на производительность, для своей последней флагманской модели GPT-5.6 Sol. OpenAI утверждает, что благодаря перепроектированию конвейеров вывода и использованию специализированного оборудования новая настройка может предоставлять ответы до четырнадцати раз быстрее, чем стандартное предложение. Этот шаг является четким сигналом о том, что компания привлекает крупные предприятия, которые не могут позволить себе узкие места, вызванные задержками.
Что такое сверхбыстрый режим?
Ultrafast — не новая модель; это уровень конфигурации, расположенный поверх GPT‑5.6 Sol. Инженеры OpenAI сократили цикл генерации токенов, внедрили агрессивный параллелизм и использовали выделенный кластер пользовательских ускорителей искусственного интеллекта. Результатом является резкое сокращение времени обработки каждого токена при сохранении базы знаний модели, содержащей 175 миллиардов параметров.
Во внутренних тестах OpenAI сообщила о средней задержке 68 мс на токен по сравнению с 950 мс в режиме по умолчанию — улучшение в 14 раз. Прирост скорости я