Moonshot, Kimi K3.1 Pro'nun hackleme yeteneklerini sınırladı

Çinli yapay zekâ girişimi Moonshot AI, en yeni modelinin hackleme yeteneklerini bilinçli olarak sınırlıyor. Bu adım, sektörün ortak ikilemini öne çıkarıyor: Yapay zekâyı siber saldırıları kolaylaştırmadan nasıl daha güçlü hale getirmek mümkün?

Şirket, 24 Ekim'de yaklaşık 3 trilyon parametreli, yüksek yetenekli ve açık ağırlıklı bir model olarak tanımladığı Kimi K3.1 Pro'yu tanıttı. Açık ağırlıklı modeller, geliştiricilerin model dosyalarını indirmesine, kendi sistemlerinde çalıştırmasına ve işleyişini değiştirmesine izin veriyor. Moonshot, ağırlıkları 4 Kasım'da yayımlamayı planlıyor.

Eğitimden siber veriler çıkarıldı

Moonshot'a göre şirket, modelin saldırgan siber operasyon yürütme becerisini azaltmak için siber güvenlikle ilgili verileri eğitim veri setinden ve pekiştirmeli öğrenme ortamlarından çıkardı. Genel kodlama yetenekleri ise korundu.

Şirketin iç testleri önlemlerin fark yarattığını gösteriyor. Kimi K3.1 Pro, kontrollü bir ortamda yazılım açıklarını bulmayı ve istismar etmeyi içeren şirketin siber güvenlik kıyaslamasında yüzde 81 puan aldı. Risk azaltma önlemleri olmayan benzer bir sürüm ise yüzde 90,5 aldı. Yani fark 9,5 puan. Sonuçlar bağımsız olarak doğrulanmadı; model yine de selefini geride bırakmış durumda.

Model ayrıca bir milyon token'lık bağlam penceresi sunuyor. Moonshot, standart modele göre iki ila üç kat daha hızlı çalıştığını söylediği bir Highspeed sürümü de duyurdu.

Neden önemli

Aynı yetenekler hem savunmada hem saldırıda kullanılabilir. Güvenlik ekipleri yapay zekâyla yazılımdaki zayıflıkları suçlulardan önce bulabilir; saldırganlar ise kod yazan, yazılım araçlarını kullanan ve çok adımlı görevleri tamamlayan modellerle saldırıların bazı bölümlerini otomatikleştirebilir. Moonshot, açık ağırlıklı yapay zekânın kurumların ihmal edilmiş veya eski yazılımları incelemesine ve güvenceye almasına yardımcı olabileceğini savunuyor.

Ancak model dosyaları geniş çapta dağıtıldığında, geliştiricinin bunları kimin kullandığı ve önlemlerin geçerliliğini koruyup korumadığı üzerindeki kontrolü azalıyor. Konu politika düzeyine de ulaştı: Çin, yapay zekâyla kötü amaçlı yazılım üretme teknolojisine ve bazı yapay zekâ destekli açık keşif araçlarına yönelik ihracat kontrolleri önerdi; teklifler kamuoyu görüşüne açık.

Bir sonraki sınav 4 Kasım'da, geliştiriciler ve güvenlik araştırmacıları ağırlıklara erişebildiğinde gelecek. O zaman eğitim aşamasına yerleştirilen önlemlerin bağımsız kullanımda dayanıp dayanmadığı görülecek.