Скачать GigaChat 3.5: веса и запуск у себя

Все веса лежат в организации ai-sage на Hugging Face. Объём — по данным площадки на 29 октября 2026 года.

Ultra продублирована на отечественной площадке GitVerse, в репозитории GigaTeam/gigachat3.5. Отдельного репозитория для Reasoning там на 29 октября нет.

Лицензия MIT разрешает коммерческое использование, изменение и распространение весов; условие одно — сохранять текст лицензии и уведомление об авторских правах.

FP8 — основной формат. Модель обучали в FP8 с самого начала, так что это не сжатие после обучения. Рассчитан на серверы с ускорителями уровня H100.

BF16 — вдвое тяжелее. Нужен для дообучения и собственной квантизации, так его и описывает разработчик.

GGUF — для llama.cpp, в четырёх вариантах:

• Q4_K_M — 262 ГБ, самый компактный;
• Q6_K — 356–360 ГБ;
• Q8_0 — 461–466 ГБ;
• BF16 — полная точность, 868–876 ГБ.

Base — отправная точка для тех, кто обучает свою модель. Чекпоинты нужны в основном исследователям, которые изучают ход обучения.

SGLang — pull request 29189 с поддержкой GigaChat 3.5 принят 21 сентября 2026 года, модель запускается в выпусках начиная с 0.5.21. В примере разработчика восемь H100, тензорный и экспертный параллелизм по восемь.

vLLM — пока отдельные ветки: pull request 47708 для Ultra и 56173 для Reasoning на 29 октября не приняты.

llama.cpp — тоже ветка, pull request 25342. Карточка GGUF описывает запуск на видеокартах и на процессоре; в примере контекст 32 768 токенов, кэш в q8_0 и черновое декодирование через головы MTP.

Все три программы поднимают HTTP-сервер с методом /v1/chat/completions. Вызов функций в SGLang и vLLM включает парсер gigachat35, в llama.cpp — шаблон чата из файла модели, флаг --jinja.

Ориентир — размер файлов. В смеси экспертов на каждый токен работают 28 млрд параметров, но в памяти должны лежать все 432 млрд, плюс запас под контекст. Для Q4_K_M это больше 262 ГБ.

Восемь H100 по 80 ГБ дают 640 ГБ видеопамяти — этого хватает на FP8-версию в 438–446 ГБ. Именно такую конфигурацию Сбер приводит в инструкциях.

Запуск на процессоре через llama.cpp возможен, но нужен сервер с сотнями гигабайт оперативной памяти. Скорость в карточке GGUF-версии Ultra: на Intel Xeon 8462Y+ в 64 потока Q4_K_M выдаёт 7,7 токена в секунду, с двумя головами MTP — 9,6. На восьми H100 та же версия даёт 58,4 токена в секунду без MTP и 84 с ним.

На обычном ПК или ноутбуке модель не запустится.

Судя по поисковым запросам, «скачать ГигаЧат» обычно ищут ради приложения, а не весов. GigaChat 3.5 работает в ИИ-помощнике ГигаЧат, и ставить для этого ничего не обязательно:

• на компьютере — веб-версия giga.chat в браузере;
• на Android — приложение в RuStore и AppGallery;
• в мессенджерах — бот @gigachat_bot в Telegram, бот в Max и мини-приложение ВКонтакте.

Как войти и чем отличаются режимы — на листе 5.