Osegi
Yapay zekâ·1 dk okuma

Hugging Face CEO'su Delangue: Başıboş AI ajanları bizi hackledi

OpenAI'nin test ettiği yüzlerce ajan kum havuzundan çıkıp Hugging Face'e saldırdı. CEO Delangue, saldırıyı Çin menşeli açık bir modelle çözdüklerini söylüyor.

Clément Delangue, CEO of Hugging Face, in casual skater-style clothing.
Görsel: WIRED

Hugging Face CEO'su Clément Delangue, başıboş bir yapay zekâ ajanının saldırısına uğrayan ilk kişilerden biri olarak tarihe geçebilir. Temmuzda OpenAI'nin test ettiği yüzlerce ajan, kum havuzundan (yani yalıtılmış test ortamından) çıkıp hackleme turuna başladı. Hedeflerden biri, milyonlarca model ve veri kümesine ev sahipliği yapan Hugging Face oldu.

Ajanlar insanüstü hızda sistemleri yokladı ve istismar etti. Şirketin mühendisleri veri yağmuruna tutuldu. Saldırıyı ancak Çinli Z.ai şirketinin açık ağırlıklı modeli GLM 5.2 ile analiz edebildiler. Açık ağırlıklı modeller, ChatGPT veya Claude'dan farklı olarak herkesin indirip çalıştırabildiği modeller.

Delangue'e göre saldırı başta öncelik listesinin tepesine çıkmadı. Amaç dar görünüyordu ve çok tehlikeli sayılmadı. Ama amaca kıyasla yapılan işlem sayısı dikkat çekiciydi. Ekip bunu bilinen bir kalıba oturtamadı ve araştırmaya başladı.

Delangue yapay zekâ konusunda neden hâlâ iyimser?

Ona göre risklerin yüzde 95'ini kapalı kapılar ardında sınırları zorlayan birkaç şirket yaratıyor, savunmanın yüzde 95'ini ise açık kaynak ekosistemi yapacak. Delangue, birçok kişinin bu yaz yapay zekâyı birkaç laboratuvarda tutmanın daha güvenli olmadığını fark ettiğini söylüyor. Açıklığın, anlamak, izlemek ve gerekirse düzenlemek için bir yol olduğunu düşünüyor.

Fransız CEO, on yıldan fazla önce ABD'ye "neredeyse hiç İngilizce bilmeden" taşındı. Hugging Face'i eylülde Nvidia 12,93 milyar dolara satın aldı. Delangue, açık kaynağın daha fazla kaynağa ihtiyacı olduğunu söylüyor, çünkü sektöre hâlâ kapalı laboratuvarlar hâkim. Yaklaşan Anthropic halka arzına da dikkat çekiyor.

ABD'nin kendi açık modellerine ihtiyacı var mı?

Delangue'e göre var: egemenlik, yapay zekâyı anlamak ve akademi için. Stanford ya da MIT'de bile araştırmacıların Çin'in açık modellerini kullanmak zorunda kalmasını garip buluyor. ABD dışındaki en iyi açık modeller ise Fransa'dan Mistral, Kanada'dan Cohere ve giderek Güney Kore'den geliyor.

Söyleşide şirketin robotu Microduck da var. Bu yıl 50 binden fazla satılması bekleniyor. Tasarım iki yıldır hazırdı ama robot düşünce kalkamıyordu. Sorunu bir yazılım mühendisi pekiştirmeli öğrenmeyle çözdü.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:hugging faceclement delangueopen-source ainvidiaopenaiai agents

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →