Страницы

▼
Monday, June 01, 2026

Адаптивные косквенные инъекции подсказок

›
Агенты на основе LLM все чаще используются для сложных задач, требующих планирования, использования инструментов, и взаимодействия с внешним...
Sunday, May 31, 2026

ИИ в кибербезопасности - хроника событий

›
Данная публикация представляет собой открывает очередной, восьмой по счёту, выпуск периодического аналитического обзора использования Искусс...
Saturday, May 30, 2026

Китайский исследователь

›
Быстрое развитие базовых моделей катализировало сдвиг парадигмы от систем ИИ, которые помогают исследователям, к агентам, способным проводит...
Friday, May 29, 2026

INJOIT vol. 14, no. 6

›
Вышел шестой номер журнала INJOIT в 2026 году. И четырнадцатый год издания журнала. Темы статей: Sleeper Channels and Provenance Gat...

Еще о галлюцинациях

›
Библиографическая ссылка в статье: Куприяновский, В.П. Умные дома как основа умных городов / В.П. Куприяновский, С.А. Тищенко // Internation...
Thursday, May 28, 2026

Контекстные атаки в агентах

›
Появление агентов на основе больших языковых моделей (LLM), дополненных использованием инструментов, навыками, и внешними знаниями, породило...
Wednesday, May 27, 2026

Состязательное машинное обучение сегодня

›
Состязательное машинное обучение (СМО) представляет собой существенное препятствие для крупномасштабного внедрения искусственного интеллекта...
Tuesday, May 26, 2026

Архитектура безопасных ИИ-агентов

›
Агенты ИИ, преимущественно работающие на основе больших языковых моделей (LLM), уязвимы для косвенного внедрения подсказок, когда вредоносны...
Monday, May 25, 2026

ТГ каналы

›
Каналы в Telegram, посвященные безопасности ИИ

Подсудные галлюцинации

›
Компанию из Кемерово оштрафовали на 50 тысяч рублей за ссылки на несуществующую судебную практику — их могла сгенерировать нейросеть. Решен...
Sunday, May 24, 2026

Публикации по теме Искусственный интеллект в кибербезопасности 24.05.2026

›
Вопросы безопасности систем ИИ рассматриваются в двух магистерских программах факультета ВМК МГУ имени М.В. Ломоносова:  Искусственный интел...
Saturday, May 23, 2026

Атаки на VLM

›
Модели визуально-языкового анализа (VLM) все чаще используются в качестве авторитетных источников информации — для проверки фактов на изобра...
Friday, May 22, 2026

Агентские долги

›
Сегодня любой может создать локального агента с минимальными усилиями. С помощью нескольких вызовов LLM, командной строки и нескольких опред...
Thursday, May 21, 2026

Как использовать Gen AI

›
Google опубликовал 1300+ примеров использования генеративного ИИ
Wednesday, May 20, 2026

Состязательная устойчивость LLM

›
Большие языковые модели достигли замечательных успехов, но остаются крайне уязвимыми для атак типа «взлом системы», когда враждебные подска...
Tuesday, May 19, 2026

Об оценке ответов LLM

›
Как создать легковесную систему оценки, которая измеряет достоверность, выявляет галлюцинации и преобразует субъективные результаты LLM в во...

Патчи с произвольной геометрией

›
Глубокие нейронные сети (DNN) уязвимы для атак с использованием состязательных патчей, что вызывает опасения по поводу безопасности систем р...
Monday, May 18, 2026

Майские ресурсы: безопасность Gen AI

›
Top Agentic AI security resources — May 2026 Top MCP security resources — May 2026 Top GenAI security resources — May 2026 /via Adver...

Систематизация знаний по безопасности ИИ-агентов

›
В реальных приложениях быстро появляются агенты ИИ, которые объединяют большие языковые модели с компонентами не-ИИ систем, предлагая беспре...