Сбер предоставил доступ к языковой модели GigaChat Lite, а также модели GigaEmbeddings-instruct, самой мощной на русском языке согласно бенчмарку ruMTEB. Об этом сообщил Федор Минькин, технический директор GigaChat на международной конференции AI Journey 13 декабря 2024 года.

Вся линейка больших языковых моделей (LLM), включая самую мощную GigaChat MAX, доступна бизнесу через облачный API. GigaChat Lite можно использовать в своих проектах в открытом доступе, а российское AI-сообщество сможет экспериментировать с моделями GigaEmbeddings-instruct и GigaAM (Giga Acoustic Model), которые не требуют больших вычислительных ресурсов.

Новая версия open-source моделей машинного распознавания речи и эмоций GigaAM также получила обновления, включая улучшение подготовки данных и технологии предобучения, что позволило снизить количество ошибок при распознавании русскоязычных запросов. Для самой сильной модели GigaAM-RNNT этот показатель улучшился на 25% по сравнению с предыдущей версией и на 56% превосходит модель OpenAI-Whisper-large-v3.

Кроме того, благодаря переходу на новое позиционное кодирование, обновленная линейка моделей GigaAM теперь поддерживает дообучение и инференс с использованием Flash Attention, что ускоряет обработку данных на современных видеокартах. Для повышения доступности моделей команда разработчиков упростила код, уменьшила количество зависимостей и подготовила конвертацию в формат ONNX. Новые модели публикуются под лицензией MIT, что позволяет их коммерческое использование.

Источник: СберБанк