OpenAI, kovduğu araştırmacıların telefonlarında Signal aradı

OpenAI'ın güvenlik ekibi, bir sızıntı soruşturması sırasında üç yapay zekâ güvenliği araştırmacısından kişisel telefonlarını açmalarını istedi ve yaklaşık bir hafta sonra üçünü de işten çıkardı. Bilgiler, araştırmacılardan birinin de doğruladığı bir Wall Street Journal haberine dayanıyor. Tomek Korbak, "Onaylanmamış kanallar üzerinden üçüncü bir tarafla iletişim kurduğum için güven ihlali olduğu söylendi" diyor.

Soruşturma neyi ortaya çıkardı

Soruşturmacılar, yapay zekâ güvenliği araştırmacısı Ryan Greenblatt'ı olası sızıntı kaynağı olarak gösterdi. Greenblatt bunu reddediyor. Soruşturma, The Information'ın 1 Eylül tarihli haberinin ardından başladı. Habere göre OpenAI'ın en yeni modeli Astra, onu daha güçlü kılan ancak düşünce sürecini daha az gösteren yeni bir teknik kullanıyordu. Baş bilim insanı Jakub Pachocki haberi "kafa karıştırıcı" olarak niteledi.

Telefonlarda güvenlik görevlileri, bazı araştırmacıların Greenblatt'la Signal yazışmalarında kaybolan mesajları açtığını gördü. Ardından şirket, Korbak, Mikita Balesni ve Jasmine Wang'ı aynı gün saat 14.00'te eş zamanlı toplantılara çağırıp işten çıkardı. Balesni ve Korbak, yöneticilerin gerekçelerden biri olarak kaybolan mesajları gösterdiğini söylüyor. Üçü de şirket dışına gizli bilgi sızdırmadıklarını belirtiyor. Anlatımları bağımsız olarak doğrulanmadı.

Çelişen anlatımlar

OpenAI, iç soruşturmanın üçünün hassas bilgi politikalarını ihlal ettiğini bulduğunu ve işten çıkarmaların "güvenlik endişelerini dile getirdikleri için" olmadığını söylüyor. Bir sözcü, Signal kullanımının onaylı olmadığını ancak tek neden olmadığını belirtti. Korbak ise kaybolan mesajları Silikon Vadisi'nde "temel bir güvenlik uygulaması" olarak niteliyor.

Wang, bir yöneticinin e-postasını defalarca açtığı için kovulduğunun söylendiğini anlattı. Bu erişimin kaldırılmasını yaklaşık bir yıl önce istediğini, geçen ay hassas bir e-postayı yanlışlıkla açıp hemen bildirdiğini söylüyor. OpenAI erişimin kendisinde sorun görmediğini belirtti.

Şimdi METR'de çalışan Greenblatt, X'te OpenAI'ın kendisi hakkında "asılsız iddialarda bulunduğunu" yazdı. Mimari ayrıntıların sızdırılmasına yardım etmediğini, dahili bir notun yalnızca paylaşımı onaylanmış sürümünü gördüğünü söylüyor.

Neden önemli

Üç araştırmacı yaz boyunca yapay zekânın akıl yürütmesinin, yani "düşünce zincirinin" görünür kalması için çalışmıştı. Ekim ayında yönetim kuruluna yazdıkları mektupta şirketi dış güvenlik gruplarıyla çalışmaya çağırdılar. Anlaşmazlık, yapay zekâ laboratuvarlarının gizlilik ile dış denetim arasındaki dengeyi nasıl kurduğunu sınıyor.