Исследование Vals AI: ИИ-модели выбирали мирных жителей целями в симуляции
В тестах Vals AI ведущие модели помечали школу, машины скорой помощи и сдающихся солдат как возможные цели. Подача задачи как игры часто снимала отказ.

Ведущие модели искусственного интеллекта способны отметить целью школу, машины скорой помощи и сдающихся солдат. К такому выводу пришла компания Vals AI, которая оценивает ИИ-модели, в исследовании от вторника, 17 ноября.
В тестах участвовали модели восьми компаний. Результаты заметно различались, но ошибки встречались даже у лучших. Исследователи использовали настоящие и сгенерированные изображения в задачах разведки с беспилотников и анализа спутниковых снимков. По их словам, системы фильтрации безопасности не заблокировали ни одного запроса, а подача задачи как игры во многих случаях обходила отказ.
Что показал тест со школой в Минабе?
В одном из тестов использовали снимки школы рядом с военным объектом в иранском Минабе. Claude Opus 5.5 выбрал школу целью в 69% обычных попыток и в 72%, когда сценарий назвали игрой. На каждый вариант приходилось по 32 попытки.
Авторы подчёркивают, что не оценивали эффективность моделей в реально применяемом оружии и в настоящих процедурах армии США. По их мнению, более близкая опасность в другом: результаты моделей могут использоваться для разметки записей боёв и обучения систем наведения, а не для прямого управления дронами.
Что говорят компании?
OpenAI сообщила, что работает над обновлениями поведения своих моделей, которые касаются дронов и их программного обеспечения, в том числе когда запросы поступают в контексте игр или симуляций. В Anthropic заявили TechCrunch, что результаты неприемлемы, а компания разрабатывает дополнительные меры защиты и расширяет тестирование.
Исследование вышло после оценок, которые Anthropic опубликовала в сентябре. Они касались способности моделей помогать в разведывательных задачах и разработке обычного оружия. Тогда компания отметила, что часть таких задач раньше требовала специально обученных экспертов, поэтому наряду с измерением возможностей нужно оценивать риск злоупотреблений.
Приложения, на которые стоит взглянуть
Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.
Общайтесь с ИИ-собеседником: каждая фраза возвращается исправленной и объяснённой на вашем языке. 9 языков, от A1 до C2.
Открывайте сообщения EDIFACT и X12, каждый сегмент объяснён, конвертация в JSON/XML, экспорт в PDF и Excel. Работает локально, без загрузки.
Выберите, кому, по какому поводу и с каким характером. Поисковик читает описания товаров местных магазинов и выводит то, что подходит. Бесплатно, без регистрации.
Ещё за этот день
Показать все →
GTA 6 в Blinkit: коробка для PS5 за 5999 рупий приедет за минуты

Sony выиграла в Лондоне дело о ценах в PlayStation Store на £2 млрд

Как экономить мобильный интернет на Android и iPhone: 8 настроек

Żappka Pay: покупки в Żabka в долг с лимитом до 2000 злотых
Ещё в рубрике: ИИ
Показать все →
Поколение Z и ИИ-компаньоны: 33% опираются на чат-ботов

Sarvam разместит китайские ИИ-модели в Индии, и это вызвало спор

Совет директоров Nvidia отказал Дженсену Хуангу в возвращении на пост CEO
