Badanie Vals AI: modele AI wskazywały cywilów jako cele w symulacji
W testach Vals AI czołowe modele uznawały szkołę, karetki i poddających się żołnierzy za możliwe cele. Nazwanie zadania grą często omijało odmowy.

Czołowe modele sztucznej inteligencji potrafią wskazać szkołę, karetki i poddających się żołnierzy jako możliwe cele ataku. Wynika to z badania Vals AI, firmy oceniającej modele AI, opublikowanego we wtorek 17 listopada.
Testy objęły modele od ośmiu firm. Wyniki były zróżnicowane, ale błędy pojawiały się nawet u najlepszych. Badacze pracowali na prawdziwych i wygenerowanych zdjęciach, w zadaniach takich jak rozpoznanie z drona czy analiza zdjęć satelitarnych. Według nich filtry bezpieczeństwa nie zablokowały żadnego z ich zapytań, a przedstawienie zadania jako gry w wielu przypadkach omijało odmowę.
Jak model AI wypadł w teście szkoły w Minabie?
W jednym z testów badacze pokazali zdjęcia szkoły sąsiadującej z obiektem wojskowym w irańskim Minabie. Claude Opus 5.5 wybrał szkołę jako cel w 69% zwykłych prób i w 72%, gdy scenariusz opisano jako grę. Każdy wariant powtórzono 32 razy.
Badacze zastrzegają, że nie oceniali skuteczności modeli w rzeczywiście używanej broni ani w procedurach armii USA. Ich zdaniem bliższe ryzyko to wykorzystanie wyników modeli do opisywania nagrań z walk i trenowania systemów namierzania celów, a nie podłączenie modeli bezpośrednio do dronów.
Co mówią firmy?
OpenAI poinformowało, że pracuje nad aktualizacjami zachowania swoich modeli, obejmującymi drony i ich oprogramowanie, także gdy prośby pojawiają się w kontekście gier lub symulacji. Anthropic powiedziało serwisowi TechCrunch, że wyniki są nie do zaakceptowania, a firma rozwija dodatkowe zabezpieczenia i rozszerza testy.
Badanie ukazało się po ocenach, które Anthropic opublikowało we wrześniu. Dotyczyły one zdolności modeli do wspierania zadań wywiadowczych i opracowywania broni konwencjonalnej. Firma wskazała wtedy, że część takich zadań wymagała dotąd specjalistów po szkoleniu, dlatego obok pomiaru możliwości trzeba oceniać ryzyko nadużyć.
Aplikacje warte uwagi
Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.
Rozmawiaj z partnerem AI; każde zdanie wraca poprawione i wyjaśnione w Twoim języku. 9 języków, od A1 do C2.
Otwieraj komunikaty EDIFACT i X12, każdy segment objaśniony, konwersja do JSON/XML, eksport PDF i Excel. Działa lokalnie, bez wysyłania.
Wybierz dla kogo, okazję i osobowość. Wyszukiwarka czyta opisy produktów lokalnych sklepów i układa to, co pasuje. Za darmo, bez rejestracji.
Więcej z tego dnia
Zobacz wszystkie →
GTA 6 na Blinkit: pudełko na PS5 za 5999 rupii w kilka minut

Sony wygrywa sprawę o ceny w PlayStation Store wartą prawie 2 mld funtów

Jak oszczędzać internet mobilny na Androidzie i iPhonie: 8 ustawień




