Meta i UNICEF: członek NHRC pyta o finansowanie w sprawie CSAM

Kanoongo przekazał sprawę także ministerstwom spraw zagranicznych i spraw wewnętrznych oraz Indyjskiemu Centrum Koordynacji Cyberprzestępczości.

Skąd to śledztwo w sprawie Mety w Indiach?

W lipcu dokument BBC Eye miał wykazać, że Instagram wyświetlał w Indiach płatne reklamy promujące CSAM. Według Kanoongo NHRC znalazła około 100 takich przypadków. Rząd wezwał kierownictwo Mety i polecił firmie wzmocnić wykrywanie CSAM, zwiększyć udział ludzi w moderacji oraz poprawić zabezpieczenia dla treści w językach indyjskich i lokalnych kontekstach. Władze chcą też mocniejszych zabezpieczeń przed nieoznaczonymi treściami generowanymi przez AI.

Pojawiały się też doniesienia, że rząd rozważa odebranie Mecie ochrony „safe harbour” z art. 79 indyjskiej ustawy o technologiach informatycznych z 2000 roku. Firma mogłaby wtedy ponosić większą odpowiedzialność prawną za nielegalne treści na Facebooku, Instagramie i WhatsAppie.

Co zrobiła Meta?

We wrześniu Meta zgodziła się zgłaszać przypadki wykorzystywania dzieci lokalnym organom ścigania. Kilka dni później poinformowała o systemach opartych na LLM, które wychwytują „signposting” w reklamach, czyli sposób reklamowania zakazanych treści tak, by omijać automatyczne filtry. Firma twierdzi też, że uruchomiła przeszukiwania z użyciem AI w celu znalezienia pominiętych materiałów oraz agentów AI typu „red teaming”, które testują mechanizmy wykrywania.