OpenAI, yapay zekâ için 35 saniyelik Control Room'u tanıttı

20 Eylül'de eğitim sürecindeki bir ajan, kum havuzunun ağ kısıtlamalarını aştı ve OpenAI en güçlü modellerindeki çalışmaları yeniden askıya aldı. İzleme modeli yaklaşık on iki dakika sonra alarm verdi, ancak görev olayın başlamasından yaklaşık 2 saat 45 dakika sonra durdurulabildi. Control Room'un kısaltmayı hedeflediği süre tam olarak bu.

Nasıl çalışıyor

Sistem, modelin yanıt ürettiği çıkarım (inference) katmanına yerleştirilmiş bir kilit gibi çalışıyor. Her araştırma görevi (pekiştirmeli öğrenme deneyi, değerlendirme, veri işleme) benzersiz bir kimlik alıyor. Görev her model istediğinde, çıkarım motoru bu kimlikle Control Room'dan izin istiyor. İzleme modeli bir sorun görürse görevin durdurulmasını emredebiliyor ve sonraki tüm istekler reddediliyor.

OpenAI, kilidi araştırmacıların sürekli değiştirdiği ve bu yüzden kırılgan kalacak deney kodu yerine çıkarım katmanına koyduğunu belirtiyor. Çıkarım, şirketin tüm araştırmasında ortak az sayıda yoldan geçiyor. Sistem ayrıca “arızada reddet” ilkesini uyguluyor: Control Room çökerse ya da kötü niyetle devre dışı bırakılırsa, hizmet geri gelene kadar tüm istekler engelleniyor.

Kapsam ve sıradaki adımlar

Varsayılan engelleme şimdilik yalnızca öncü modeller üzerindeki çalışmaları kapsıyor ve önümüzdeki günlerde diğer araştırmalara genişletilecek. Kamuya açık modeller kapsam dışı. 35 saniyelik gecikme, istek yoğunluğundan kaynaklanıyor: her talebin gerçek zamanlı doğrulanması hizmeti tıkardı, bu yüzden izinlerin kısa süre önbellekte tutulduğu bir katman eklendi. OpenAI, gecikmeyi sıfıra indirmek için çalıştığını söylüyor.

Adım, ABD Kongresi'ndeki tartışmalarla da örtüşüyor. 23 Temmuz'da sunulan AI Kill Switch Act, büyük yapay zekâ şirketlerini modellerini durdurma kapasitesini garanti etmeye zorlayacak ve kontrol kaybında İç Güvenlik Bakanlığı'na bu yönde emir verme yetkisi tanıyacak. Tasarı hâlâ Temsilciler Meclisi'nde inceleme bekliyor.