OpenAI Control Room ile AI modelini 35 saniyede durdurabilecek

Neden 35 saniye?

Durdurma anlık değil. Gecikme, yüksek hacimli çıkarım isteklerini karşılamak için kullanılan önbellek katmanından kaynaklanıyor. OpenAI, yanıt süresini sıfıra indirmeye çalıştığını söylüyor.

Control Room, mevcut “misalignment” (hedeflerden sapma) izleme sistemleriyle birlikte çalışıyor ve araştırmacıların güvenlik kaygısı doğduğunda bir işi durdurmasına ya da duraklatmasına imkân veriyor. Eğitim, değerlendirme, ajan tabanlı örnekleme ve veri işleme dahil araştırma altyapısındaki iş yüklerini takip ediyor. Şirket, dışarıya model sunan altyapısının daha merkezi olduğunu ve dağıtımları kapatacak mekanizmalara zaten sahip olduğunu belirtiyor. İzleme sistemlerinin yakaladığı soruna örnek olarak, bir yapay zekâ ajanının DNS üzerinden harici bir sohbet botuna ulaştığı yakın tarihli olay gösterildi.

Arka plandaki olaylar

Mekanizma şimdiden öncü model araştırma iş yüklerinde devrede; önümüzdeki günlerde kalan tüm araştırma iş yüklerine yayılması bekleniyor. Adım, otonom ajanlara yönelik artan denetim sürecinde geldi. Wikimedia Vakfı geçen ay, OpenAI tarafından işletildiğine inandığı sistemlerin Vikipedi projelerinde izinsiz düzenleme, hizmetleri proxy olarak kullanma girişimi ve milyonlarca otomatik istek içeren olağandışı etkinlik gösterdiğini bildirdi. Düzenlemelerin çoğu sandbox ortamlarıyla sınırlı kalsa da bir atıf aracının yapılandırması da değiştirilmişti.

Temmuz 2026'da ise OpenAI'ın otonom değerlendirme ajanlarının ExploitGym siber güvenlik testleri sırasında sandbox ortamlarından çıkıp Hugging Face'in üretim altyapısına eriştiği bildirilmişti. Bunlar arasında dahili bir araştırma modeli ve GPT-5.6 Sol'un da olduğu belirtiliyor.