Билл Гейтс призвал ввести обязательные ограничения для ИИ

Сооснователь Microsoft Билл Гейтс предупредил, что искусственный интеллект развивается настолько быстро, что контролировать его возможное вредоносное использование становится всё сложнее. В интервью NBC News он призвал правительства активнее вмешиваться и ввести механизмы надзора и защиты, которые компании будут обязаны встраивать в свои системы.

«Никто не считает саморегулирование достаточным»

По словам Гейтса, «никто не думает, что саморегулирования достаточно». Он уверен, что в выработке мер защиты должны участвовать и политики, и правоохранительные органы, особенно если инструменты ИИ могут применяться для совершения преступлений или кибератак.

Предупреждение Гейтса звучит жёстче: по его мнению, никогда не существовало столь мощного оружия, как сочетание людей с дурными намерениями и продвинутых инструментов ИИ. Среди рисков он называет кибератаки на инфраструктуру, а также возможность того, что небольшие группы получат возможности, прежде доступные лишь крупным государствам.

Надзор вместо остановки разработок

При этом Гейтс не предлагает приостанавливать развитие ИИ. Он выступает за системы наблюдения, позволяющие понимать, что делают модели, и за обязательные меры безопасности. По его словам, такие требования увеличат расходы компаний, но заметно не затормозят прогресс.

Главная трудность — добиться того, чтобы правительства и компании приняли общие критерии, особенно на фоне международной технологической конкуренции. Гейтс полагает, что достичь глобальных договорённостей может оказаться даже сложнее, чем вести переговоры об ядерном оружии во времена холодной войны.

Его слова затрагивают ключевой вопрос будущего искусственного интеллекта: кто должен контролировать его возможности и как далеко ему можно позволять действовать без участия человека.