OpenAI CSAM Image Classifier wykrywa też obrazy tworzone przez AI
OpenAI udostępnia narzędzie CSAM Image Classifier, które rozpoznaje nowe i generowane przez AI obrazy wykorzystywania dzieci. ChatGPT blokuje też konto na 24 godziny.

OpenAI pokazało OpenAI CSAM Image Classifier, narzędzie do wykrywania materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM). Ma rozpoznawać także obrazy, których nikt wcześniej nie widział, oraz te wygenerowane przez AI. Jednocześnie ChatGPT zawiesza na 24 godziny konto osoby, która szuka takich treści.
Firma ogłosiła to 16 listopada. Klasyfikator analizuje cechy wizualne obrazu i podaje wynik wskazujący, jak prawdopodobne jest, że mamy do czynienia z CSAM. Osobna ocena dotyczy materiałów wygenerowanych przez AI. Dotychczasowe metody porównywały obraz z hashami, czyli cyfrowymi odciskami znanych nielegalnych plików, więc nowych zdjęć zwykle nie łapały. OpenAI twierdzi, że to pierwszy ogólnodostępny klasyfikator z osobną miarą dla CSAM tworzonego przez AI.
Narzędzie powstało we współpracy z amerykańskim Narodowym Centrum ds. Dzieci Zaginionych i Wykorzystywanych (NCMEC). Pomagają też organizacja branżowa Tech Coalition i fundacja ROOST. Organizacje, które przejdą weryfikację, dostaną je bezpłatnie przez API OpenAI.
Jak skuteczny jest klasyfikator CSAM od OpenAI?
W testach na obrazach wysyłanych przez użytkowników wykrył mniej więcej tyle samo nadużyć co obecne narzędzia, a liczbę zgłoszeń do przeglądu mógłby obniżyć o 48 proc. Trafność wskazań była około dwa razy wyższa. W platformie fal pracownicy potwierdzili 72 proc. pewnych wykryć jako nowe CSAM. W SafetyKit wykrywalność rysunków i animacji z dziećmi wyniosła 90 proc., a fałszywe alarmy przy legalnych treściach dla dorosłych poniżej 1 proc.
Są też zastrzeżenia. Według karty modelu na prawdziwych rozmowach z ChatGPT precyzja była wyraźnie niższa niż w testach offline, a skuteczność wykrywania zdjęć niemowląt wyniosła 49,3 proc. Wideo nie testowano. OpenAI zaleca, by o uznaniu materiału za CSAM zawsze decydował człowiek.
Co się stanie, gdy szukasz CSAM w ChatGPT?
ChatGPT pokaże ostrzeżenie, że takie treści są szkodliwe i mogą być nielegalne, a samo ich szukanie łamie regulamin. Rozmowa zostanie usunięta, a konto zablokowane na 24 godziny. Ekran ostrzeżenia wskazuje bezpłatną pomoc specjalistyczną. Przy powtórzeniach grożą dłuższa blokada, zamknięcie konta i zgłoszenie organom ścigania.
Aplikacje warte uwagi
Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.
Rozmawiaj z partnerem AI; każde zdanie wraca poprawione i wyjaśnione w Twoim języku. 9 języków, od A1 do C2.
Otwieraj komunikaty EDIFACT i X12, każdy segment objaśniony, konwersja do JSON/XML, eksport PDF i Excel. Działa lokalnie, bez wysyłania.
Wybierz dla kogo, okazję i osobowość. Wyszukiwarka czyta opisy produktów lokalnych sklepów i układa to, co pasuje. Za darmo, bez rejestracji.
Więcej z tego dnia
Zobacz wszystkie →
BOOX Palma 3: telefon z ekranem e-ink i Androidem 16 za 54 800 jenów

Endurance Energy: geotermia na dnie oceanu, ale tylko 8,7 s

Limit 20 kart bankowych w Rosji: jak zadziała nowy rejestr

2GIS Neon City: mapa w stylu GTA 6 z palmami i motocyklistą
Więcej w kategorii: Bezpieczeństwo
Zobacz wszystkie →
Atak na Optimizely: złośliwy kod na stronach IKEA, Zoom i HSBC

Atak na Optimizely: złośliwy skrypt trafił na strony znanych marek

Awaria NSA Net: tajna sieć wewnętrzna NSA nie działa
