Одни двойники

Дорожная карта для постороения цифровых двойников на транспорте в Великобритании

См. также другие публикации, посвященные digital twins

200 ML примеров

Полезный ресурс - описания 200 промышленных проектов машинного обучения

Экономика генеративных моделей

Где деньги в LLM

См. также другие публикации, посвященные LLM

Черные бэкдоры

Black Box backdoor для MLaaS: атакующий строит теневую модель, делает бэкдор для нее и публикует от своего имени уже отравленную модель

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Кибербезопасность на ВМК МГУ

Магистратура по кибербезопасности в МГУ (совместно со Сбербанк)

См. также Кибербезопасность в МГУ и экскурсия в Центр киберзащиты

О семантической сегментации

1. И снова бэкдоры: как отравить данные для семантической сегментации

2. Как сертифицировать устойчивость

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Что было до?

Использование Neo4j для анализа customer journey - поведения пользователей, предшествовавшего какому-то действию

См. также другие публикации, посвященные Neo4j

Учебник по Julia

Интерактивный (нотебук) учебник по Julia

См. также другие публикации по Julia

Бэкдоры с ограниченными данными

Бэкдор атаки с ограниченными данными - интересный подход к подавлению влияния "чистых" характеристик

Не все отравленные данные действуют одинаково - как построить эффективный триггер

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

О регулировании ИИ

Подборка новостей о регулировании ИИ (по факту - ML)

Цифровые двойники для беспилотников

Актуальная тема - цифровой двойник систему управления беспилотниками

См. также другие публикации, посвященные digital twins

Центр киберзащиты Сбер

В рамках запуска новой магистратуры «Кибербезопасность» на ВМК МГУ абитуриентам предлагается уникальная возможность познакомиться с работой Центра киберзащиты Сбера (SOC – Security Operation Center) – крупнейшего в России и Восточной Европе ситуационного центра кибербезопасности.

Специалисты SOC решают задачи кибербезопасности по мониторингу и реагированию на инциденты, киберразведке, инжинирингу средств защиты и процессам управления самим SOC.

Посмотреть 3D-тур по SOC Сбера можно по ссылке.

Зарегистрироваться на экскурсию можно по ссылке в telegram-группе.

Экскурсии в SOC запланированы на 30 июня (10:30 ч.) и 7 июля (12:00 ч.), продолжительность – 1,5 часа.

По вопросам обращайтесь на e-mail: cyberacademy@sberbank.ru

Интервью по ML

Компиляция вопросов для интервью по машинному обучению

См. также другие публикации по теме интервью

Кибербезопасность в МГУ

ВМК МГУ и Сбер открывают новую магистратуру «Кибербезопасность» по направлению подготовки 02.04.02 «Фундаментальная информатика и информационные технологии».

Магистерская программа «Кибербезопасность» разработана факультетом вычислительной математики и кибернетики МГУ имени М.В. Ломоносова совместно с ПАО Сбербанк и предназначена для тех, кто хочет получить глубокие знания и навыки в области информационной безопасности и защиты информации и данных от кибератак. Программа ориентирована на подготовку магистров науки по кибербезопасности. Программа разработана в соответствии с современными международными профессиональными и образовательными стандартами и с учетом действующих национальных стандартов и норм.

Программа включает в себя изучение теоретических и практических аспектов кибербезопасности, включая защиту от вирусов, хакерских атак, фишинга, DDoS-атак и других угроз. Студенты изучают математические модели, современные методы и технологии кибербезопасности, а также учатся анализировать и оценивать риски, связанные с кибербезопасностью. В результате обучения студенты получают необходимые знания и навыки для работы в области кибербезопасности в различных сферах, включая исследовательские центры, государственные организации, частные компании и финансовые учреждения.

Подробнее о программе.

Для желающих обучаться по данной программе проводятся организованные экскурсии в Центр киберзащиты Сбера.

Отсюда

Java 2023

Состояние эко-системы Java в 2023 году

Более 56 % приложений в настоящее время используют Java 11 в производственной среде (по сравнению с 48 % в 2022 г. и 11 % в 2020 г.). Java 8 занимает второе место: почти 33% приложений используют ее в производстве (по сравнению с 46% в 2022 году).

Самый популярный вендор JLK - Амазон

О поиске бэкдоров

Продолжая тему бэкдоров в моделях ML - интересный подход к поиску бэкдоров на основе анализа активации

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Визуализация нейронных сетей

Визуальное объяснение работы feed-forward сетей

См. другие публикации по теме визуализация

Найди то, не знаю что

Открыто-словарное обнаружение объектов - построение модели, способной обнаруживать объекты за пределами набора видимых категорий при обучении, что позволяет пользователю указывать категории интереса при выводе без необходимости перетренировки моделей. Испольуется стандартная двухэтапная архитектура детектора объектов. Авторы рассматривают три способа указания новых категорий: через языковые описания, с помощью образцов изображений или через комбинацию этих двух подходов.

Для описания объектов используется LLM. Также предложен простой метод объединения информации из языковых описаний и образцов изображений с получением мультимодального классификатора.

Отсюда - Multi-Modal Classifiers for Open-Vocabulary Object Detection

По цепочке

Искусственый интеллект в организации цепочек поставок

Эмбединги

Хорошо написанное руководство What are embeddings?

Устойчивые триггеры

Продолжая тему бэкдоров в моделях ML - триггеры, устойчивые к визуальным искажениям

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Объяснимый искусственный интеллект

SHAP
LIME
Permutation Importance
Partial Dependence Plot
Morris Sensitivity Analysis - и другие методы объяснимого искусственного интеллекта. Полезный словарь.

P.S. см. также другие публикации по теме explainable, а также другие публикации, посвященные ответу на вопрос почему?

Семантическая сегментация

Semantic Segmentation - что и как

Бэкдоры в моделях машинного обучения

Хороший обзор по бэкдорам и защитам от них

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Генеративный ИИ

Учебный курс от Google - Generative AI

Цифровая школа Nuclio

Программа обучения по IoT: Master of Internet of Things

Программа обучения по Blockchain: Master in Blockchain and Crypto

ML справочник

Краткий справочник The Machine & Deep Learning Compendium

Бэкдоры в NLP

Простой и работающий подход к поиску бэкдоров в NLP - ложные корреляции

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

О синтетике

Все, что вы хотели спросить о синтетических данных

Атаки на LLM

Состязательные атаки на большие языковые модели

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению и LLM

Отравление данных

Баланс между устойчивостью и эффективностью при отравлении данных

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Все дело в частоте

Интересный подход к бэкдорам в моделях распознавания изображений - скрытый триггер, который строится в частотном домене

А в этой статье - показывают, как бороться с бэкдорами в частотном домене

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Сдвиг данных в моделях ML

Оценка сдвига данных для моделей ML на базе статистической проверки гипотез

См. также другие публикации, темой которых является мониторинг моделей машинного обучения

Почему получаются бэкдоры?

Интересная работа по теоретическим основам бэкдоров в моделях машинного обучения. Как отравленные данные должны соотноситься с чистыми?

Другая работа в этой области рассматривает Loss Landscape Sharpness - как быстро растут потери при изменении параметров

Забыть все

Разобучить и переобучить модель на чистых данных для удаления нейронов с бэкдором - очистка моделей машинного обучения от троянов

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

БД Вконтакте

Интересная презентация про базы данных Вконтакте

Эмулятор поездок

Фреймворк для моделирования транспортного планирования

Что за данные?

ydata-profiling пакет для Exploratory Data Analysis (EDA). И примеры его использования

См. также другие публикации, посвященные EDA

Универсальный телефонный API от GSMA

GSMA announced the creation of open telephony interfaces for third-party providers.
Lack of third party support has always been the Achilles' heel of telecom, both wired and wireless.
The need for such APIs is obvious, attempts have been made to create them, but there is no result.
Will a new attempt succeed or is it already too late?

из презентации на FRUCT-2023