Макрон собрал лидеров ИИ для подписания Парижского призыва по безопасности

Три обязательства

Первое: власти, разработчики и исследователи берут на себя задачу создать общую независимую и публичную систему оценки и управления рисками передовых моделей. Речь прежде всего о кибератаках и потере разработчиками контроля над мощными моделями.

Второе: усиление существующих механизмов уведомления и оповещения, чтобы быстро делиться сведениями о серьёзных киберинцидентах и случаях потери контроля. По данным Елисейского дворца, власти также обеспечат защищённые и конфиденциальные каналы, по которым информаторы смогут сообщать о системных рисках, не опасаясь преследования.

Третье: больше ответственности для создателей моделей, которые обязуются публиковать известные возможности, ограничения и риски своих систем. В посте на X Макрон заявил, что цель не в отказе от инноваций, а в создании рамок, учитывающих три группы угроз: для детей, для демократической безопасности и для национальной безопасности.

Ограничения для детей

В интервью Les Echos Макрон сказал, что если некоторые применения ИИ опасны для детей, их нужно запретить, а ИИ не должен быть «Диким Западом». Ранее он добивался запрета соцсетей для детей младше 15 лет.

Призывы регулировать ИИ звучат всё чаще. Дональд Трамп добился подписания кодекса поведения от крупнейших американских игроков, а OpenAI, Google и Anthropic, как сообщается, готовят собственный надзорный орган. Какой вес получит хартия, подписанная под эгидой Макрона, пока неясно.