Оцени себя

Оценочный лист для приложений ML: Assessment List for Trustworthy Artificial Intelligence (ALTAI) for self-assessment. Хорошая основа для аудита моделей ML

Архив Анны

Самая большая открытая библиотека. Sci-Hub включен

Взгляд со стороны

Интересная работа - изучение того, как человек воспринимает камуфляжный рисунок. Функциональные сети мозга моделируют способность мозга обмениваться информацией между различными областями, помогая в понимании когнитивного процесса зрительного внимания человека во время поиска целей, тем самым способствуя развитию оценки камуфляжа. В этом исследовании изображения с различными камуфляжными эффектами были представлены наблюдателям для генерации сигналов электроэнцефалографии (EEG), которые затем использовались для построения функциональной сети мозга. Впоследствии топологические параметры сети были извлечены и введены в модель машинного обучения для обучения. Результаты показывают, что большинство классификаторов достигли показателей точности, превышающих 70%. В частности, алгоритм Logistic достиг точности 81,67%. Таким образом, можно с высокой точностью прогнозировать эффективность маскировки цели без необходимости расчета вероятности обнаружения. Предлагаемый метод в полной мере учитывает аспекты зрительных и познавательных процессов человека, преодолевает субъективность человеческой интерпретации, добивается стабильной и достоверной точности. Отсюда.

Так можно оценивать маскировку

Новости безопасности

Хронология публикаций об ИБ от ICT.Moscow

Видео-цензура

Маскирование объектов в видео-файле в реальном времени. Атака на сегментацию изображений.

ГигаЧат

Курс от Сьербанка по работе с GigaChat

Вне контекста

Еще один пример физической состязательной атаки: беспилотный автомобиль не понимает контекста, где может быть знак дорожного движения

Борьба с ВПО

Хороший обзор: Глубокое обучение в борьбе с вредоносным программным обеспечением

Распределенные системы

Хороший учебный курс от TU Deft - Современные распределенные системы

Не все так просто

Это системный промпт (запрос) в LLM Claude 3. Эпоха коротких запросов подошла к концу. Короткие запросы, возможно, будут в начале сеанса, чтобы понять, что вообще модель знает. А дальше диалог будет включать уже запросы с подробными инструкциями.

Вот интересная статья, в которой обсуждается ситуация - можно ли с последовательностью уточняющих запросов добиться такого же эффекта, как и при специальной настройке модели.

См. также другие публикации, посвященные LLM

Разведка данных

Конспект лекций по разведочному анализу данных: A Course in Exploratory Data Analysis

Безопасный ИИ

Доступные видео-курсы:

Red Teaming LLM

Введение в MLSecOps

ИИ для тестирования кибербезопасности

Доктор Gemini

On the popular MedQA (USMLE) benchmark, our best-performing Med-Gemini model achieves SoTA performance of 91.1% accuracy. Это точность работы модели на тестах для врачебной лицензии США. USMLE - United States Medical Licensing Examination. При сдаче экзамена человеком его защитывают при 75%, если что. Отсюда.

Anomaly Detection Dataset

Датасет с атаками на киберфизические системы

Цена данных

Интересное исследование - как определить цену данных. Если продукт - это некоторый датасет, то что определяет его стоимость?

Большой фишинг

Использование LLM для генерации фишингового контента

См. также другие публикации, посвященные LLM

Другой взгляд на рекомендательные системы

Мы рассматриваем рекомендации как проблему наблюдения, тогда как на самом деле это проблема вмешательства. Контрфактический подход к построению рекомендаций

Что их манит?

Хороший пример feature engineering - анализ параметров, определяющих потоки пассажиров на ЖД станциях

Учебка хакера

Учебные проекты по кибербезопасности

1. TryHackMe https://tryhackme.com

2. Blue Team Labs https://blueteamlabs.online

3. Hands-On SOC Analyst Training https://letsdefend.io

4. Cybrary https://cybrary.it

Атаки на модели

Отравление файлов предобученных моделей - новая статья в журнале Автоматика и Телемеханика

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Переносимость атак

Хорошая статья по практической переносимости состязательных атак. Как с ограниченным бюджетом (ограниченным количеством запросов к атакуемой модели) построить теневую модель, и построить на ней атаки. Доступен исходный код.

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Состязательные IoT

Хорошая статья - Состязательные атаки на модели машинного обучения в IoT

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Как тестировать LLM

Хороший материал о том, как тестировать (оценивать) LLM

См. также другие публикации, посвященные LLM

Оценка влияния

Хорошая книга в открытом доступе https://www.worldbank.org/en/programs/sief-trust-fund/publication/impact-evaluation-in-practice

см. также другие публикации, по теме causal

Шпаргалки по LLM - 2

Компактное изложение: LLM fine-tuning

См. также другие публикации, посвященные LLM

Атаки на сегментацию

Состязательные атаки на сегментацию изображений

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

ИИ в кибербезопасности

Два обзора:

Sarker, Iqbal H., Md Hasan Furhad, and Raza Nowrozy. "Ai-driven cybersecurity: an overview, security intelligence modeling and research directions." SN Computer Science 2.3 (2021): 173.

Kaur, Ramanpreet, Dušan Gabrijelčič, and Tomaž Klobučar. "Artificial intelligence for cybersecurity: Literature review and future research directions." Information Fusion (2023): 101804.

Доверенные LLM

Интересные решения от CleanLab (MIT) по доверенным LLM

См. также другие публикации, посвященные LLM

Чего не могут LLM

Хорошая статья - What can LLMs never do?

См. также другие публикации, посвященные LLM