Объяснимый ИИ для поиска ВПО

Интересная работа - с помощью объяснимых моделей (LIME и т.п.) определяют,какие же из собранных признаков реально используются для поиска вредоносного программного обеспечения

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Проверка дипфейков

Детектор дипфейков. Идея авторов - научить сеть распознавать изображения, созданные с помощью состязательных атак.

С чистой меткой

Бэкдор-атаки с чистой меткой на большие языковые модели. Стиль текста выступает триггером.

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

GAN для балансировки

Генеративные сети для решения проблемы разбалансировки классов

Математика бэкдоров

Теоретический анализ бэкдоров в отравленных данных для сверточных сетей

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

EUCS

Сертификация кибербезопасности для облачных сервисов в Европе - EUCS

Быстрый Питон

Хороший ресурс по оптимизации программ на Python

См. также другие публикации, посвященные Python

Кастомизация LLM

Дообучение LLM планированию активностей в городе. Практический пример построения кастомных моделей

См. также другие публикации, посвященные LLM

Учебник по промптам

Хорошее руководство по подсказкам для LLM

См. также другие публикации, посвященные LLM

Браузер для метавселенной

Хорошая идея для продвижения метавселенных

Инкрементальное обучение

Инкрементальное машинное обучение в определении атак на киберфизические системы: Nie, Zhijie, et al. "Intrusion Detection in Cyber-Physical Grid using Incremental ML with Adaptive Moment Estimation." IEEE Transactions on Industrial Cyber-Physical Systems (2024).

Неизвестное из известного

Объединив Википедию и Оксфордские словари, «вывод (inference» можно определить как «использование известной информации для вывода неизвестной информации». Атаки вывода (inference) - хороший обзор. Получение информации о модели, о тренировочных данных и т.д.

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Операции с данными в R

Практическая книга в открытом доступе: Data Wrangling Recipes in R

См. также другие публикации, посвященные языку R

Двойники пациентов

Интересная идея - использование LLM для создания цифровых двойников пациентов

См. также другие публикации, посвященные digital twins

Практическая объяснимость

Модельный пример - объяснения для модели машинного обучения: SHAP, LIME, ICE

Бэкдоры для LLM

Борьба с бэкдорами для LLM

См. также другие публикации, посвященные LLM

Научный Питон

Scientific Python Lectures. Лекции с примерами по использованию Python

См. также другие публикации, посвященные Python

Конструирование признаков

Еще одно объяснение feature engineering

См. также другие публикации по теме feature

Encoder-Decoder

Хорошее описание использования encoder и decoder (порознь и вместе) в NLP моделях

KAN

Хорошее объяснение новой архитектуры нейронных сетей (на замену MLP)

Бюрократические новости

INJOT vol. 12, no. 6 - в сервисе elibrary.ru

Статистические тесты

Руководство по выбору статистических тестов

См. также другие публикации по теме статистических тестов

О безопасности LLM

Большая коллекция материалов по безопасности LLM:

15 инструментов для состязательного тестирования

LLM Safety Assessment. The Definitive Guide on Avoiding Risk and Abuses. Документ от Elastic Security Labs, сделан на основе OWASP. Elastic Security объясняет свой подход здесь. Есть правила проверки.

Бенчмарк безопасности для LLM от Meta

Как внедрять ИИ - NSA, CISA & FBI Released Best Practices For AI Security Deployment 2024

Датасет на 11 000 диалогов для тестирования безопасности LLM

Датасет для тестирования безопасности от DefCon

Риски кибербезопасности ИИ. Исследование правительства Великобритании

LLM Security 101 - коллекция инструментов для тестирования и защиты LLM

AI Governance & Compliance Resource Links Hub. Ресурсы для CISO - правила и регуляции.

Риски генеративного ИИ. Большой документ от NIST

См. также другие публикации, посвященные LLM

Кого увольняют?

"People talked about why Google let go of the Python team. Then, news came out that Google also let go of people from important Flutter, Dart, and Python teams"

Криминал и LLM

Новый отчет Trend Micro: Как криминал использует Генеративный ИИ

/via Schneier on Security

См. также другие публикации, посвященные LLM

Детектор состязательных атак

Детектирование состязательных атак на IDS. Исходный код - открыт.

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Датасеты для кибербезопасности

Датасеты для задач кибербезопасности: чистые логи и логи, содержащие вредоносные активности

Детекция ВПО

Поиск вредоносного программного обеспечения (ВПО) с помощью машинного обучения - это проблема feature engineering (конструирования признаков). Которое начинается просто со сбора данных. Вот подробнее можно прочесть в свежей статье.

А вот еще один пример этого - An Enhanced Feature-Based Hybrid Approach for Adversarial PDF Malware Detection. В работе речь как раз идет о признаках, которые используются для поиска ВПО в PDF.

Атаки на рекомендательные системы

Очень хороший обзор по состязательным атакам (и защитам) для рекомендательных систем

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

LLM продукты

Как строить LLM - интересные заметки о том, как построить LLМ с точки зрения продукта

См. также другие публикации, посвященные LLM

Контекстные атаки

Интересный материал по новому типу атак LLM: инъекция контекста. Мдифицированная форма инъекции подсказок, где для атакуемой LLM сначала создают нужный контекст.

См. также другие публикации, посвященные LLM

Сертификация систем ИИ

Machine learning systems are today the main examples of the use of Artificial Intelligence in a widevariety of areas. From a practical point of view, we can say that machine learning is synonymous with the con-cept of Artificial Intelligence. The spread of machine learning technologies leads to the need for their appli-cation in the so-called critical areas: avionics, nuclear energy, automatic driving, etc. Traditional software, forexample, in avionics, undergoes special certification procedures that cannot be directly transferred tomachine learning models. The article discusses approaches to the certification of machine learning models. - статья в издательстве Springer Nature

Чей это номер?

Хорошая статья по состязательным атакам на системы распознавания автомобильных номеров

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

LLM и фейки

Большой отчет от OpenAI о том, как их модели используются для генерации и распространения дезинформации

См. также другие публикации, посвященные LLM

JupySQL

Как превратить Jupyter notebook в SQL консоль

P.S. см. также другие публикации о Jupyter

Атаки на системы машинного зрения

Атаки на системы машинного зрения с учетом контекста. Атака черного ящика, которая исходит из того, что на изображении несколько разных объектов. Вот оригинальная работа