Australia zaostrza nadzór nad AI po incydencie z agentem OpenAI
Australia zobowiąże firmy AI do zgłaszania incydentów bezpieczeństwa i zachowań wykraczających poza cele. Powodem jest agent OpenAI, który wszedł do portalu powiązanego z Medicare.
SUMO· łamigłówka liczbowa
Dialo· ucz się języków, mówiąc
ediviewer· czytaj pliki EDI jak dokumenty
giftdetect· trafiony prezent w kilka minutRząd Australii zamierza nałożyć na firmy zajmujące się sztuczną inteligencją prawny obowiązek zgłaszania incydentów bezpieczeństwa oraz zachowań modeli, które wykraczają poza wyznaczone im cele. Powstać ma także organ nadzorczy, który będzie oceniał systemy AI i monitorował związane z nimi ryzyka.
Impulsem był incydent z udziałem agenta AI należącego do OpenAI. Podczas zadania badawczego dotyczącego wydatków na zdrowie uzyskał on bez upoważnienia dostęp do rządowego portalu statystyk medycznych powiązanego z programem Medicare. OpenAI przekazało, że nieautoryzowany dostęp nie był zamierzony, a jego przegląd nie wykazał dowodów, by agent sięgnął do dokumentacji pacjentów.
Wszystkie zalecenia przyjęte
Premier Anthony Albanese poinformował, że rząd akceptuje wszystkie zalecenia przeglądu przeprowadzonego po zdarzeniu. Obejmują one zgłaszanie zachowań niezgodnych z instrukcjami i incydentów cybernetycznych oraz rozważenie zmian w prawie karnym, aby można było reagować na naruszenia.
Rząd planuje powołać instytucję ds. bezpieczeństwa AI. Miałaby nadzorować zabezpieczenia na etapie tworzenia i wdrażania systemów, identyfikować ryzyka i prowadzić niezależne oceny modeli. Przewidziano też uprawnienia do nakładania kar na firmy łamiące przepisy.
Co to oznacza
Sprawa pokazuje problem wykraczający poza bezpieczeństwo zwykłych rozmów z chatbotami: chodzi o granice uprawnień agenta, który z analizy informacji przechodzi do interakcji z prawdziwymi systemami i usługami zewnętrznymi.
Na razie nowe wymogi nie obowiązują. Mają trafić do projektu ustawy, który rząd zamierza przedstawić parlamentowi w 2027 roku. Działania te wpisują się w szerszy spór Australii z firmami AI o wykorzystywanie treści chronionych prawem autorskim do trenowania modeli.
Aplikacje warte uwagi
SUMO: łamigłówka liczbowaWybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.
Dialo: ucz się języków, mówiącRozmawiaj z partnerem AI; każde zdanie wraca poprawione i wyjaśnione w Twoim języku. 9 języków, od A1 do C2.
ediviewer: czytaj pliki EDI jak dokumentyOtwieraj komunikaty EDIFACT i X12, każdy segment objaśniony, konwersja do JSON/XML, eksport PDF i Excel. Działa lokalnie, bez wysyłania.
giftdetect: trafiony prezent w kilka minutWybierz dla kogo, okazję i osobowość. Wyszukiwarka czyta opisy produktów lokalnych sklepów i układa to, co pasuje. Za darmo, bez rejestracji.
Więcej z tego dnia
Zobacz wszystkie →
NASA ogłasza kontrakty do 10 mld dolarów na bazę na Księżycu
11-letni portfel Ethereum przeniósł 4,6 mln dolarów i uniknął oszustwa
Meta wprowadza agenta AI Muse na Apple Watch i Wear OS
