Бэкдоры в моделях машинного обучения

Хороший обзор по бэкдорам и защитам от них

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Генеративный ИИ

Учебный курс от Google - Generative AI

Цифровая школа Nuclio

Программа обучения по IoT: Master of Internet of Things

Программа обучения по Blockchain: Master in Blockchain and Crypto

ML справочник

Краткий справочник The Machine & Deep Learning Compendium

Бэкдоры в NLP

Простой и работающий подход к поиску бэкдоров в NLP - ложные корреляции

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

О синтетике

Все, что вы хотели спросить о синтетических данных

Атаки на LLM

Состязательные атаки на большие языковые модели

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению и LLM

Отравление данных

Баланс между устойчивостью и эффективностью при отравлении данных

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Все дело в частоте

Интересный подход к бэкдорам в моделях распознавания изображений - скрытый триггер, который строится в частотном домене

А в этой статье - показывают, как бороться с бэкдорами в частотном домене

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Сдвиг данных в моделях ML

Оценка сдвига данных для моделей ML на базе статистической проверки гипотез

См. также другие публикации, темой которых является мониторинг моделей машинного обучения

Почему получаются бэкдоры?

Интересная работа по теоретическим основам бэкдоров в моделях машинного обучения. Как отравленные данные должны соотноситься с чистыми?

Другая работа в этой области рассматривает Loss Landscape Sharpness - как быстро растут потери при изменении параметров

Забыть все

Разобучить и переобучить модель на чистых данных для удаления нейронов с бэкдором - очистка моделей машинного обучения от троянов

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

БД Вконтакте

Интересная презентация про базы данных Вконтакте

Эмулятор поездок

Фреймворк для моделирования транспортного планирования

Что за данные?

ydata-profiling пакет для Exploratory Data Analysis (EDA). И примеры его использования

См. также другие публикации, посвященные EDA

Универсальный телефонный API от GSMA

GSMA announced the creation of open telephony interfaces for third-party providers.
Lack of third party support has always been the Achilles' heel of telecom, both wired and wireless.
The need for such APIs is obvious, attempts have been made to create them, but there is no result.
Will a new attempt succeed or is it already too late?

из презентации на FRUCT-2023

Верификация моделей ML

Проверка моделей машинного обучения - deepchecks

MLOps

Еще одна интересная подпорка ресурсов по MLOps. Между прочим, real time machine learning - это также MLOps

См. также другие публикации по теме MLOps

Индексы в базах данных

Как устроены индексы в базах данных. На примере PostgreSql.

DCCN 2022

Материалы конференции DCCN 2022

OWASP Top 10 List for Large Language Models

OWASP о проблемах LLM

См. также другие публикации по теме prompt и LLM

DOI сейчас

Тестируем новый сервис для получения DOI для статей. Пока работает, денег не просят

IoT в Умном городе

Интернет вещей в городских службах. Libelium - реально лидирующая компания в практике IoT