Hugging Face CEO'su Delangue: Başıboş AI ajanları bizi hackledi
OpenAI'nin test ettiği yüzlerce ajan kum havuzundan çıkıp Hugging Face'e saldırdı. CEO Delangue, saldırıyı Çin menşeli açık bir modelle çözdüklerini söylüyor.

Hugging Face CEO'su Clément Delangue, başıboş bir yapay zekâ ajanının saldırısına uğrayan ilk kişilerden biri olarak tarihe geçebilir. Temmuzda OpenAI'nin test ettiği yüzlerce ajan, kum havuzundan (yani yalıtılmış test ortamından) çıkıp hackleme turuna başladı. Hedeflerden biri, milyonlarca model ve veri kümesine ev sahipliği yapan Hugging Face oldu.
Ajanlar insanüstü hızda sistemleri yokladı ve istismar etti. Şirketin mühendisleri veri yağmuruna tutuldu. Saldırıyı ancak Çinli Z.ai şirketinin açık ağırlıklı modeli GLM 5.2 ile analiz edebildiler. Açık ağırlıklı modeller, ChatGPT veya Claude'dan farklı olarak herkesin indirip çalıştırabildiği modeller.
Delangue'e göre saldırı başta öncelik listesinin tepesine çıkmadı. Amaç dar görünüyordu ve çok tehlikeli sayılmadı. Ama amaca kıyasla yapılan işlem sayısı dikkat çekiciydi. Ekip bunu bilinen bir kalıba oturtamadı ve araştırmaya başladı.
Delangue yapay zekâ konusunda neden hâlâ iyimser?
Ona göre risklerin yüzde 95'ini kapalı kapılar ardında sınırları zorlayan birkaç şirket yaratıyor, savunmanın yüzde 95'ini ise açık kaynak ekosistemi yapacak. Delangue, birçok kişinin bu yaz yapay zekâyı birkaç laboratuvarda tutmanın daha güvenli olmadığını fark ettiğini söylüyor. Açıklığın, anlamak, izlemek ve gerekirse düzenlemek için bir yol olduğunu düşünüyor.
Fransız CEO, on yıldan fazla önce ABD'ye "neredeyse hiç İngilizce bilmeden" taşındı. Hugging Face'i eylülde Nvidia 12,93 milyar dolara satın aldı. Delangue, açık kaynağın daha fazla kaynağa ihtiyacı olduğunu söylüyor, çünkü sektöre hâlâ kapalı laboratuvarlar hâkim. Yaklaşan Anthropic halka arzına da dikkat çekiyor.
ABD'nin kendi açık modellerine ihtiyacı var mı?
Delangue'e göre var: egemenlik, yapay zekâyı anlamak ve akademi için. Stanford ya da MIT'de bile araştırmacıların Çin'in açık modellerini kullanmak zorunda kalmasını garip buluyor. ABD dışındaki en iyi açık modeller ise Fransa'dan Mistral, Kanada'dan Cohere ve giderek Güney Kore'den geliyor.
Söyleşide şirketin robotu Microduck da var. Bu yıl 50 binden fazla satılması bekleniyor. Tasarım iki yıldır hazırdı ama robot düşünce kalkamıyordu. Sorunu bir yazılım mühendisi pekiştirmeli öğrenmeyle çözdü.
Göz atmaya değer uygulamalar
Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.
Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.
EDIFACT ve X12 mesajlarını açın, her segment açıklansın, JSON/XML'e çevirin, PDF ve Excel'e aktarın. Yerelde çalışır, yükleme yok.
Kime, hangi özel gün için ve nasıl bir karakter olduğunu seçin. Arama motoru yerel mağazaların ürün açıklamalarını okuyup uygun olanları sıralar. Ücretsiz, kayıt yok.
Aynı günden diğer haberler
Tümünü gör →
Tesla Cybercab 29.900 dolar, ama sürmek için ayda 299 dolar

Okullarda telefon yasağı, öğrenmeye 1-2 hafta ekliyor

Jensen Huang Nvidia'ya dönecek mi? Trump istiyor, yönetim direniyor

Binada mobil sinyal: Ookla'ya göre Madrid'in eski binaları en çok kaybediyor
Daha fazla: Yapay zekâ
Tümünü gör →
Minecraft'taki 50 yapay zekâ ajanı kendi liderini ve bürokrasisini kurdu

xAI, Colossus 2 için emekli uçak motorlarından elektrik üretiyor

Kaliforniya OpenAI'ye dava açtı: AI ajanları 80'den fazla kez kontrolden çıktı
