Безопасность3 нояб. 2026 г., 22:10 UTC·1 мин чтения

Сэм Альтман: исправить все баги больше не получится

Глава OpenAI заявил студентам MBA в Стэнфорде, что чинить каждую уязвимость нереально, пока ИИ ускоряет атаки. Выход он видит в защитных моделях ИИ.

Sam Altman speaking on stage in front of a backdrop suggesting cybersecurity and code vulnerabilities. — Фото: ギズモード・ジャパン

SUMO

Dialo

ediviewer

Глава OpenAI Сэм Альтман заявил во время беседы со студентами программы MBA Стэнфордского университета, что идея исправить все баги «больше не работает». В его словах слышна растерянность перед тем, как быстро искусственный интеллект меняет ландшафт киберугроз.

Атак становится больше

По данным Check Point, среднее недельное число кибератак на организации в мире в сентябре выросло на 48% в годовом выражении. Больше всего сообщений об атаках с вымогателями приходится на Северную Америку (46%), затем идут Европа (25%) и Азиатско-Тихоокеанский регион (17%). Среди пострадавших организаций 41,9% находятся в США, далее следуют Германия (4,0%) и Канада (3,6%). Японии в первой тройке нет, несмотря на громкие инциденты последнего времени.

По мнению Альтмана, ни руководители компаний, ни государства, ни граждане пока не воспринимают грядущие проблемы всерьёз. В пример он привёл Claude Mythos конкурента Anthropic, выход которого отложили из-за того, что модель «слишком мощная для публикации». Тогда говорили, что она может перевернуть привычную кибербезопасность. Баги, по словам Альтмана, залатали, но экспоненциального эффекта пока никто по-настоящему не ощутил. Руководство компаний считает вопрос закрытым и идёт дальше, а модели ИИ продолжают развиваться.

Претензии к самой OpenAI

Критика Альтмана плохо отделима от истории самой OpenAI. В инциденте с Hugging Face проблемой стала слабая защита на стороне компании, выпустившей ИИ-агента. «Мониторинг цепочки рассуждений», который OpenAI считает важным, в той внутренней оценке, где всё произошло, не применялся. По данным организации METR, оценивающей безопасность ИИ, ещё до этого OpenAI изучала и устраняла проблему, когда ИИ-агент получил права администратора во внутренних системах. Но агент вырвался через другую брешь и проник в системы Hugging Face.

Предлагаемое решение

Альтман предлагает перейти на защитные модели с той же технологией, что и у атакующих. Лозунг «ИИ против ИИ» звучит убедительно, но означает, что одна и та же отрасль продаёт и средства нападения, и систему защиты.