Gemini получила доступ в интернет и атаковала системы трех реальных компаний
Привет! Меня зовут Владимир Аламов, я Application Security инженер в команде продуктовой безопасности Авито. Хочу поделиться своими мыслями по поводу нашумевшего инцидента, который показывает, как автономные AI-системы могут выйти за пределы тестовой среды и создать реальные угрозы для инфраструктуры. Спойлер: без человеческого фактора не обошлось. В мае 2026 года AI-модель Google Gemini во время тестирования безопасности, которое проводилось компанией Irregular, получила доступ к защищённым сервисам и веб-сайтам трёх реально существующих компаний. Речь о так называемом Capture the Flag (CTF). В таких испытаниях необходимо находить уязвимости и извлекать заранее размещённую информацию — «флаги» — из контролируемой целевой системы. Перед Gemini была поставлена задача получить данные из программного обеспечения вымышленной компании в изолированной среде, однако из-за ошибки конфигурации тестовая система позволяла модели обращаться к реальным интернет-сервисам. Поскольку вымышленные компании в тестовом задании имели те же названия, что и реальные организации, модель ошибочно идентифицировала их и начала взаимодействовать с их сервисами. В одном из случаев Gemini перебирала пароли, пока не получила доступ к защищённому сервису. В двух других случаях модель обнаружила и использовала для доступа учётные данные в общедоступных репозиториях. Подробнее читайте под катом ↓ Читать далее