Osegi
Безопасность·2 мин чтения

ИИ-агенты для взлома, найденные Google, атакуют французские сайты

Команда Google по угрозам нашла инструмент, где ИИ-агенты сами ищут уязвимости и атакуют без участия человека. Всё вскрылось, потому что хакеры оставили сервер открытым.

A dark server room with a glowing screen showing code and a red warning symbol, representing AI-driven hacking.
Фото: 01net.com

Хакеры оставили в открытом доступе свой сервер, и исследователи Google нашли на нём инструмент, где ИИ-агенты сами ищут уязвимости и тут же атакуют. Человек в этом процессе не нужен. Среди целей были французские сайты.

О находке рассказала группа Google Threat Intelligence Group (GTIG) в новом отчёте AI Threat Tracker. По словам исследователей, в прошлом квартале они впервые зафиксировали злоумышленников, которые с помощью инструментов на основе больших языковых моделей (LLM) полностью автоматизировали поиск и эксплуатацию уязвимостей, «без человека в контуре».

Найденный инструмент опирается на разные языковые модели и заставляет работать вместе нескольких ИИ-агентов. На сервере были и данные, украденные у жертв. Злоумышленников «особенно интересовали французские сайты из сферы медиа и развлечений, а также образования». Инструмент был настроен на русском языке, так что операция, возможно, связана с Россией. Но Google не приписывает её ни одной преступной группе и ни одному государству.

Как работает этот ИИ-инструмент для взлома?

Схема простая. Инструмент сравнивает код до и после выхода исправления, анализирует разницу, чтобы выявить возможные уязвимости, пишет эксплойты и запускает их автоматически. Искать новые дыры хакеру больше не нужно. Он ждёт, пока разработчик выпустит обновление безопасности, понимает по нему, что именно закрыли, и бьёт по сайтам, которые обновиться ещё не успели.

Главный аналитик GTIG Джон Халтквист говорит, что злоумышленники работают быстро и в большом масштабе, не нуждаясь в уязвимостях нулевого дня (zero-day, о которых разработчик ещё не знает). По его словам, разобрать патч гораздо проще, чем искать такую уязвимость.

Это единичный случай?

Нет. Исследователи нашли и другие ИИ-инструменты для взлома, которыми пользуются киберпреступники и шпионы: CAIRN, PentAGI и CyberStrikeAI. По данным CrowdStrike, ещё четыре группировки за последние месяцы доверили атаки ИИ. Есть и хорошая новость: часть сгенерированных ИИ программ для атак просто не сработала как задумано.

Google приводит пример PaperCut, программы для управления принтерами. Через четыре дня после раскрытия двух уязвимостей компания GreyNoise заметила кампанию с участием ИИ против сотен организаций. Халтквист предупреждает: в ближайшем будущем компании окажутся под огромным давлением, им придётся ускорять установку патчей, а возможно, и принимать трудные решения, чтобы успевать.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:googlegtigai agentscyberattackvulnerabilitiesfrance

Ещё за этот день

Показать все →

Ещё в рубрике: Безопасность

Показать все →