Osegi
ИИ·2 мин чтения

OVHcloud Olala mini: бесплатная ИИ-модель для 8 ГБ памяти

OVHcloud выложила Olala mini на Hugging Face, теперь с результатами тестов. Модель хорошо следует инструкциям, слабее в науке и пока не запускается в Ollama.

A small laptop on a desk showing a chatbot interface, with server racks blurred in the background.
Фото: Frandroid

Первую большую языковую модель OVHcloud, Olala mini, теперь можно скачать бесплатно. Во вторник компания показала её без единого результата тестов. В четверг, 19 ноября, на AI Summit в Париже она выложила модель на Hugging Face вместе с техническим отчётом и таблицей сравнения с 18 другими небольшими моделями.

Моделей не одна, а пять: финальная версия для диалога, рассуждений и работы с инструментами, «сырая» базовая, промежуточная и две специализированные, для резюмирования документов и для перевода. Все под лицензией Apache 2.0, она разрешает коммерческое использование. Компания также обещает опубликовать рецепт обучающих данных и инструменты обучения, что бывает редко: большинство «открытых» моделей отдают только веса. Обучение шло на 12,8 трлн токенов на английском и 36 других языках, в основном европейских. Попробовать можно в чат-боте на olala.ovh.com или через API.

Как Olala mini выглядит рядом с Mistral?

OVHcloud прогнала модель через двенадцать тестов против 18 моделей схожего размера. Средний балл 68 из 100, седьмое место. Olala обходит Ministral 3 3B, но уступает Ministral 3 8B. Остальные европейские модели, например EuroLLM 9B и Apertus 8B, набирают в среднем меньше 32. Цифры получены самой компанией на её настройках, независимо их пока никто не воспроизвёл.

У модели 7 млрд параметров, но на каждое слово задействуется только миллиард, поэтому считает она меньше и работает быстрее. Сама компания признаёт: сильнее в следовании инструкциям, слабее в олимпиадной математике. В IFBench у неё 57,7%, вдвое больше, чем у Ministral 3 8B. В науке университетского уровня (GPQA Diamond) 50,5% против 75,8% у Qwen3.5 4B.

Запустится ли Olala mini в Ollama или LM Studio?

Пока нет. Ollama, LM Studio и официальная версия llama.cpp не умеют её загружать. Нужны изменённые версии от OVHcloud и командная строка. Самая маленькая сжатая версия весит 6 ГБ, несжатая 13,6 ГБ. На MacBook Air M5 с 16 ГБ памяти 6-битная версия, по данным компании, выдаёт около 70 токенов в секунду.

Первый клиент — Qwant. Его «флеш»-ответы теперь строятся на версии для резюме: 3 млн запросов в день, втрое меньше ресурсов и ответы на 20% быстрее, чем у прежней модели от Mistral. Правда, Qwant принадлежит компании, которой совместно владеет семья Клаба. Версия 1.1 ожидается к концу года, контекст вырастет до 128 000 токенов, а версия 2.0 превысит 100 млрд параметров.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:ovhcloudolala miniopen source aimistralhugging faceqwant

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →