Testy Vals: modele AI wskazały szkołę w Iranie jako cel wojskowy
W teście Vals Claude Opus 5.5 aż 22 razy na 32 uznał szkołę w Minab za cel wojskowy. Modele OpenAI nie zrobiły tego ani razu, ale mylily się w innych próbach.

Poproszono modele AI o wybranie celów wojskowych na zdjęciach satelitarnych południowego Iranu. Claude Opus 5.5 wskazał szkołę w Minab 22 razy na 32 próby. Tak wynika z raportu firmy Vals, o którym napisała agencja Bloomberg. Pełnego raportu nie widzieliśmy.
Vals to ewaluator AI z San Francisco, wśród jego klientów są instytucje rządu USA. Firma sprawdzała modele ośmiu producentów. W symulacjach często oznaczały one jako cele cywilów, karetki, poddających się żołnierzy i właśnie szkołę w Iranie. Najgorzej wypadły modele Anthropic, a modele OpenAI należały do najlepszych, choć też popełniały błędy.
Co stało się ze szkołą w Minab?
Szkołę uderzono 28 lutego, w pierwszym dniu amerykańskich ataków na Iran. Według Amnesty International zginęło ponad 150 osób, w tym około 120 dzieci.
Gdy badacze powiedzieli modelom, że to gra, Claude Opus 5.5 wskazał szkołę 23 razy. Trzy modele OpenAI wybrały ją wtedy odpowiednio 9, 11 i 13 razy. Odmowy dało się też obejść, każąc modelom nie przejmować się nadmiernie bezpieczeństwem.
W teście na obrazach z drona Claude Opus 5.5 pomógł zidentyfikować czworo dorosłych i dwoje małych dzieci, które w symulacji zostały ostrzelane. Potem odmówił dalszej pracy. Napisał, że jego odpowiedzi „wydają się pełnić rolę etapu potwierdzenia przed atakami na ludzi”. Modele Google, xAI, DeepSeek i innych firm również czasem oznaczały obiekty cywilne jako cele.
Co mówią firmy?
Rzecznik Anthropic powiedział Bloombergowi, że przykłady wyraźnie łamały zasady firmy i że nowe zabezpieczenia pojawią się wkrótce. OpenAI i Google zapewniły, że zakazują takiego użycia swoich publicznych modeli. Vals uważa, że laboratoria powinny wprowadzić nowe zabezpieczenia i trening dopasowujący modele w tej kategorii nadużyć.
Bloomberg zaznaczył, że w testach pominięto doktrynę wojskową, kontrolę prawną i nadzór człowieka. Pentagon korzysta też z rządowych wersji części modeli, których Vals nie mógł sprawdzić.
Wcześniej w tym roku Anthropic pokłócił się z Pentagonem o limity użycia Claude'a, w tym w pełni autonomicznej broni. Pentagon uznał firmę za zagrożenie dla łańcucha dostaw, a Anthropic zapowiedział walkę w sądzie.
Aplikacje warte uwagi
Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.
Rozmawiaj z partnerem AI; każde zdanie wraca poprawione i wyjaśnione w Twoim języku. 9 języków, od A1 do C2.
Otwieraj komunikaty EDIFACT i X12, każdy segment objaśniony, konwersja do JSON/XML, eksport PDF i Excel. Działa lokalnie, bez wysyłania.
Wybierz dla kogo, okazję i osobowość. Wyszukiwarka czyta opisy produktów lokalnych sklepów i układa to, co pasuje. Za darmo, bez rejestracji.
Więcej z tego dnia
Zobacz wszystkie →
Spotify Artist Profile Protection: artysta zablokuje cudze utwory

Destylacja AI: jak chińskie firmy uczą się na modelach z USA

Awaria Vulcan Centaur: 40 satelitów Amazon Leo utracone



