13 июля 2026 

GigaChat 3.5 Ultra — технология линейного внимания

Пресс-релиз

Сбер в новом пресс-релизе представил флагманскую модель GigaChat 3.5 Ultra, основанную на технологии линейного внимания.

 

 

Нейросеть генерирует текст до четырех раз быстрее предыдущей версии, потребляет меньше ресурсов и почти вдвое компактнее за счет архитектуры Mixture of Experts (MoE). В основе лежит уникальная отечественная технология линейного внимания, позволяющая модели накапливать контекст постепенно. Обновление значительно улучшило навыки написания кода, решения математических задач и анализа объемных документов без потери точности. Модель способна автономно выполнять сложные агентные сценарии.

Ключевые моменты:

• Доступность: Бесплатная для всех пользователей ГигаЧата и разработчиков (Open Source).
• Архитектура: Собственная разработка Сбера с технологией линейного внимания и MoE.
• Производительность: Скорость генерации длинных текстов выросла в 4 раза, размер модели сократился почти вдвое.
• Функционал: Уверенное кодирование, точные расчеты, глубокий анализ контрактов и отчетов, создание автономных ИИ-агентов.
• Результаты: Превосходит предыдущую версию Сбера и приближается к показателям DeepSeek 3.2 при меньшем размере.
• Разработка: Проведено более 1500 экспериментов; обучение велось на расширенном отфильтрованном датасесте человеческих текстов.

Архитектура GigaChat 3.5 Ultra базируется на двух ключевых технологиях:

• Технология линейного внимания (Linear Attention). В отличие от классического механизма, который при обработке каждого нового слова заново сверяет его со всем предыдущим текстом, эта архитектура один раз «запоминает» суть прочитанного и далее лишь дополняет память новыми данными. Это позволяет модели не терять контекст в объемных документах и работать с ними до четырех раз быстрее.

• Архитектура Mixture of Experts (MoE) — подход «смеси экспертов». Модель состоит из множества специализированных нейросетей («экспертов»), но для обработки конкретного запроса активируются только наиболее подходящие из них.

Совместное применение этих технологий позволило сделать модель почти вдвое компактнее предыдущей версии GigaChat Ultra. Благодаря этому снижается потребление вычислительных ресурсов, что дает возможность запускать флагманскую нейросеть на более доступном оборудовании без потери качества генерации кода, математических расчетов и анализа текстов.

Источник:

• Пресс-релиз «Сбер»