OpenAI CSAM Image Classifier, yapay zekâ ürünü istismar görsellerini yakalıyor
OpenAI'ın CSAM Image Classifier aracı daha önce görülmemiş ve yapay zekâyla üretilmiş istismar görsellerini işaretliyor. ChatGPT'de bu içeriği arayan hesap 24 saat askıya alınıyor.

OpenAI, çocuk cinsel istismarı içeriklerini (CSAM) tespit eden OpenAI CSAM Image Classifier adlı yeni bir görsel sınıflandırma aracını duyurdu. Araç, daha önce hiç görülmemiş görselleri ve yapay zekâyla üretilenleri de hedefliyor. Ayrıca ChatGPT'de bu tür içerik arayan kullanıcının hesabı 24 saat askıya alınıyor.
Şirket duyuruyu 16 Kasım'da yaptı. Sınıflandırıcı, görseldeki istismara ait görsel özellikleri inceleyip CSAM olma ihtimalini bir skorla gösteriyor. Yapay zekâ üretimi CSAM için ayrı bir skor da veriyor. Şimdiye kadarki yöntemler görseli bilinen yasa dışı dosyaların hash değerleriyle, yani dijital parmak izleriyle karşılaştırıyordu. Yeni görselleri yakalamak bu yüzden zordu. OpenAI, yapay zekâ üretimi CSAM için ayrı ölçüt sunan ve geniş bir kurum kesimince kullanılabilen ilk sınıflandırıcı olduğunu söylüyor.
Araç, ABD'deki Kayıp ve İstismar Edilen Çocuklar Ulusal Merkezi'nin (NCMEC) katkısıyla geliştirildi. Sektör kuruluşu Tech Coalition ve kâr amacı gütmeyen ROOST da destek veriyor. İncelemeden geçen kurumlar aracı OpenAI API üzerinden ücretsiz kullanabilecek.
CSAM sınıflandırıcısı ne kadar isabetli?
Kullanıcıların yüklediği görsellerle yapılan değerlendirmede araç, mevcut araçlarla yaklaşık aynı sayıda istismar görselini buldu. İncelemeye giden görsel sayısını ise tahmini yüzde 48 azaltabiliyor. İşaretlediği görsellerde gerçekten istismar bulunma oranı mevcut araçların yaklaşık iki katı. fal platformunda, yüksek güvenli tespitlerin yüzde 72'sini çalışanlar yeni CSAM olarak doğruladı. SafetyKit'in çocukları cinsel biçimde gösteren çizim ve animasyonlarla yaptığı testte tespit oranı yüzde 90, yasal yetişkin içeriğinde yanlış alarm oranı yüzde 1'in altında kaldı.
Sınırlar da var. Model kartına göre ChatGPT'deki gerçek yazışmalarda kesinlik, çevrimdışı testlerden belirgin biçimde düşük. Bebek görsellerinde tespit oranı yüzde 49,3'te kaldı. Video kareleri test edilmedi. OpenAI, skorun tek başına CSAM kanıtı sayılmamasını, son kararı insan incelemecilerin vermesini öneriyor.
ChatGPT'de CSAM aramak ne olur?
Sistem, bu tür içeriğin zararlı ve yasa dışı olabileceğini, aramanın kullanım şartlarını ihlal ettiğini belirten bir uyarı gösteriyor. Konuşma siliniyor, hesap 24 saat askıya alınıyor. Uyarı ekranında ücretsiz uzman destek hattına yönlendirme de var. İhlal tekrarlanırsa kısıtlama uzayabilir, hesap kapatılabilir ve yetkililere bildirim yapılabilir.
Göz atmaya değer uygulamalar
Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.
Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.
EDIFACT ve X12 mesajlarını açın, her segment açıklansın, JSON/XML'e çevirin, PDF ve Excel'e aktarın. Yerelde çalışır, yükleme yok.
Kime, hangi özel gün için ve nasıl bir karakter olduğunu seçin. Arama motoru yerel mağazaların ürün açıklamalarını okuyup uygun olanları sıralar. Ücretsiz, kayıt yok.
Aynı günden diğer haberler
Tümünü gör →
BOOX Palma 3: Android 16 çalıştıran e-mürekkepli telefon boyutlu cihaz

Endurance Energy deniz tabanı jeotermalini test etti: 8,7 saniye

Rusya'da 20 banka kartı sınırı: yeni kart kaydı nasıl işleyecek

2GIS Neon City: GTA 6 temalı haritada palmiyeler ve motorcu imleç
Daha fazla: Güvenlik
Tümünü gör →
Optimizely saldırısı IKEA, Zoom ve HSBC sitelerine zararlı kod bulaştırdı

Optimizely saldırısı: ünlü markaların sitelerine zararlı betik girdi

NSA Net çöktü: NSA'nın gizli iç ağı hizmet dışı kaldı
