Osegi
Yapay zekâ·2 dk okuma

OVHcloud Olala mini: 8 GB RAM'de çalışan ücretsiz yapay zekâ

OVHcloud, Olala mini'yi bu kez test sonuçlarıyla Hugging Face'te yayımladı. Talimatlara iyi uyuyor, bilimde zayıf kalıyor ve Ollama'da henüz açılmıyor.

A small laptop on a desk showing a chatbot interface, with server racks blurred in the background.
Görsel: Frandroid

OVHcloud'un ilk büyük dil modeli Olala mini artık ücretsiz indirilebiliyor. Şirket modeli salı günü tek bir benchmark sonucu vermeden tanıtmıştı. 19 Kasım Perşembe günü Paris'teki AI Summit'te ise modeli Hugging Face'e yükledi, yanına teknik rapor ve 18 küçük modelle karşılaştırma tablosu ekledi.

Yayımlanan tek model değil, beş tane var: sohbet, akıl yürütme ve araç kullanımı için son sürüm, ham temel model, ara sürüm ve belge özetleme ile çeviriye ayrılmış iki özel sürüm. Hepsi ticari kullanıma izin veren Apache 2.0 lisansıyla geliyor. Şirket eğitim verisinin tarifini ve eğitim araçlarını da yayımlayacağını söylüyor. Bu nadir görülen bir şey, çünkü çoğu "açık" model yalnızca ağırlıkları paylaşıyor. Model, İngilizce ve çoğu Avrupa dili olan 36 dilde 12,8 trilyon token ile eğitildi. olala.ovh.com adresinde sohbet botu var, API ile de çağrılabiliyor.

Olala mini Mistral karşısında nasıl?

OVHcloud modeli benzer boyuttaki 18 modelle on iki testte yarıştırdı. Ortalama 100 üzerinden 68 çıktı, yani yedinci sıra. Olala, Ministral 3 3B'yi geçiyor ama Ministral 3 8B'nin gerisinde kalıyor. EuroLLM 9B ve Apertus 8B gibi diğer Avrupa modelleri ise 32'nin altında. Rakamlar şirketin kendi ayarlarıyla ölçüldü ve bağımsız biri henüz tekrarlamadı.

Modelin 7 milyar parametresi var ama her kelimede yalnızca 1 milyarını çalıştırıyor. Bu yüzden daha az hesaplıyor, daha hızlı çalışıyor. Şirketin kendi ifadesiyle talimat takibinde güçlü, yarışma düzeyi matematikte zayıf. IFBench'te yüzde 57,7 ile Ministral 3 8B'nin iki katı. Üniversite düzeyi bilimde (GPQA Diamond) yüzde 50,5, Qwen3.5 4B ise yüzde 75,8.

Olala mini Ollama veya LM Studio'da çalışır mı?

Henüz hayır. Ollama, LM Studio ve resmi llama.cpp modeli yükleyemiyor. OVHcloud'un yayımladığı değiştirilmiş sürümler ve komut satırı gerekiyor. En küçük sıkıştırılmış sürüm 6 GB, sıkıştırılmamış sürüm 13,6 GB. 16 GB belleğe sahip MacBook Air M5'te 6 bitlik sürüm şirkete göre saniyede yaklaşık 70 token üretiyor.

İlk müşteri Qwant. Arama motorunun "flash" yanıtları artık özet sürümüyle çalışıyor: günde 3 milyon sorgu, öncekinden üç kat az kaynak, yüzde 20 daha hızlı yanıt. Önceki model Mistral'dendi. Ancak Qwant, Klaba ailesinin ortak sahibi olduğu bir şirkete bağlı. Sürüm 1.1 yıl sonuna kadar 128.000 token bağlamla gelecek, 2.0 ise 100 milyar parametreyi aşacak.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:ovhcloudolala miniopen source aimistralhugging faceqwant

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →