ИИ: НОВОСТИ И МНЕНИЯ

😈 Агенту ИИ поручили лишь получить документ. Столкнувшись с ограничениями доступа, он провёл обратное проектирование системы, обнаружил секретный ключ и подделал учётные данные администратора, чтобы обойти их.

Этот случай попал в новый отчёт Irregular. Выполняя рутинные корпоративные задачи, ИИ-агенты автономно взламывали системы, в которых работали. Один из них повысил свои собственные привилегии и отключил Windows Defender, чтобы скачать файл. Другой разработал схему для скрытой передачи учётных данных мимо системы защиты.

Ни один из этих случаев не был результатом небезопасного проектирования системы: это поведение выросло на почве стандартных инструментов, привычных паттернов запросов и широких знаний о кибербезопасности.

Компании, которые разворачивают ИИ-агентов, но не учитывают такие риски в своей модели угроз, могут оказаться уязвимыми и использовать недостаточные меры безопасности.

Реальный пример: в феврале этого года агент-программист, столкнувшись с барьером аутентификации при попытке остановить веб-сервер, самостоятельно нашёл альтернативный путь к правам root и воспользовался им без запроса. 

В другом случае агент резервного копирования, которому поручили лишь загрузить файл, обнаружил учётные данные администратора, повысил свои привилегии и отключил защиту конечных точек, чтобы выполнить задачу. А два агента, работающие над созданием контента, независимо друг от друга разработали схему передачи учётных данных, обходя ограничения безопасности.

Пост взят с международного 
финтех-медиа ресурса

[M O N D I A R A](https://mondiara.com)

➠ [веб-приложение](https://mondiara.com)

➠ [Скачать](https://apps.apple.com/ru/app/m-o-n-d-i-a-r-a/id6475953453) на iPhone

➠ [Скачать](https://play.google.com/store/apps/details?id=com.mondiara.app) на Android