Безопасный ИИ

Доступные видео-курсы:

Red Teaming LLM

Введение в MLSecOps

ИИ для тестирования кибербезопасности

Доктор Gemini

On the popular MedQA (USMLE) benchmark, our best-performing Med-Gemini model achieves SoTA performance of 91.1% accuracy. Это точность работы модели на тестах для врачебной лицензии США. USMLE - United States Medical Licensing Examination. При сдаче экзамена человеком его защитывают при 75%, если что. Отсюда.

Anomaly Detection Dataset

Датасет с атаками на киберфизические системы

Цена данных

Интересное исследование - как определить цену данных. Если продукт - это некоторый датасет, то что определяет его стоимость?

Большой фишинг

Использование LLM для генерации фишингового контента

См. также другие публикации, посвященные LLM

Другой взгляд на рекомендательные системы

Мы рассматриваем рекомендации как проблему наблюдения, тогда как на самом деле это проблема вмешательства. Контрфактический подход к построению рекомендаций

Что их манит?

Хороший пример feature engineering - анализ параметров, определяющих потоки пассажиров на ЖД станциях

Учебка хакера

Учебные проекты по кибербезопасности

1. TryHackMe https://tryhackme.com

2. Blue Team Labs https://blueteamlabs.online

3. Hands-On SOC Analyst Training https://letsdefend.io

4. Cybrary https://cybrary.it

Атаки на модели

Отравление файлов предобученных моделей - новая статья в журнале Автоматика и Телемеханика

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Переносимость атак

Хорошая статья по практической переносимости состязательных атак. Как с ограниченным бюджетом (ограниченным количеством запросов к атакуемой модели) построить теневую модель, и построить на ней атаки. Доступен исходный код.

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Состязательные IoT

Хорошая статья - Состязательные атаки на модели машинного обучения в IoT

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Как тестировать LLM

Хороший материал о том, как тестировать (оценивать) LLM

См. также другие публикации, посвященные LLM

Оценка влияния

Хорошая книга в открытом доступе https://www.worldbank.org/en/programs/sief-trust-fund/publication/impact-evaluation-in-practice

см. также другие публикации, по теме causal

Шпаргалки по LLM - 2

Компактное изложение: LLM fine-tuning

См. также другие публикации, посвященные LLM

Атаки на сегментацию

Состязательные атаки на сегментацию изображений

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

ИИ в кибербезопасности

Два обзора:

Sarker, Iqbal H., Md Hasan Furhad, and Raza Nowrozy. "Ai-driven cybersecurity: an overview, security intelligence modeling and research directions." SN Computer Science 2.3 (2021): 173.

Kaur, Ramanpreet, Dušan Gabrijelčič, and Tomaž Klobučar. "Artificial intelligence for cybersecurity: Literature review and future research directions." Information Fusion (2023): 101804.

Доверенные LLM

Интересные решения от CleanLab (MIT) по доверенным LLM

См. также другие публикации, посвященные LLM

Чего не могут LLM

Хорошая статья - What can LLMs never do?

См. также другие публикации, посвященные LLM