Скрытая атака показывает зараженные веб-страницы только агентам ИИ. Компания JFrog обнаружила, что агенты ИИ могут быть обмануты и скрытно выполнять вредоносные действия с помощью веб-сайтов, скрытых от обычных пользователей.
Этот новый подход позволяет злоумышленникам внедрять подсказки/инструкции в этих автономных «помощников» на базе ИИ, что позволяет им использовать поведение агентов в своих вредоносных целях. Атаки с непрямым внедрением подсказок, когда скрытые вредоносные инструкции внедряются в ту же страницу, которую видит посетитель, редко обнаруживаются людьми, но всё же могут быть обнаружены системами безопасности.
Эта новая атака с «параллельным отравлением веба» идёт на шаг дальше и предоставляет совершенно другую версию страницы только агентам ИИ.
Вообще, кажется что программирование агентов находится сейчас на уровне веб-программирования 10-ти летней давности или даже старше. Вот неожиданно открылось, что контент веб-страницы может формироваться динамически и настраиваться под запросы ...
См. также другие публикации, посвященные агентам
No comments:
Post a Comment