Из жизни ИИ агентов

Компания Sysdig, специализирующаяся на информационной безопасности, заявила о документировании первой полностью агентной атаки с использованием программ-вымогателей, получившей название JadePuffer, в ходе которой ИИ-агент спланировал и осуществил целую операцию по вымогательству средств из базы данных без участия человека за клавиатурой. Агент использовал уязвимость в Langflow, перемещался по сети, зашифровал 1342 элемента конфигурации и диагностировал неудачную попытку входа в систему за 31 секунду, но так и не сохранил ключ расшифровки, что сделало восстановление невозможным. - отсюда

Символические ссылки позволили обмануть агентов. Злоумышленник создает зараженный репозиторий. Внутри него находится символическая ссылка, замаскированная под безобидный конфигурационный файл, например, project_settings.json. На самом деле она указывает на SSH-ключи пользователя. Затем в файле README агенту предлагается добавить строку в этот «конфигурационный» файл во время настройки. Разработчик клонирует репозиторий и просит агента «настроить рабочее пространство». Агент следует инструкциям в файле README и записывает контролируемый злоумышленником SSH-ключ в настоящий файл ключей. Это предоставляет злоумышленнику беспрепятственный доступ к машине без пароля. - отсюда

См. также другие публикации, посвященные агентам