Страницы

Tuesday, June 27, 2023

Черные бэкдоры

Black Box backdoor для MLaaS: атакующий строит теневую модель, делает бэкдор для нее и публикует от своего имени уже отравленную модель

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Saturday, June 24, 2023

Что было до?

Использование Neo4j для анализа customer journey - поведения пользователей, предшествовавшего какому-то действию

См. также другие публикации, посвященные Neo4j

Friday, June 23, 2023

Учебник по Julia

Интерактивный (нотебук) учебник по Julia

См. также другие публикации по Julia

Thursday, June 22, 2023

Бэкдоры с ограниченными данными

Бэкдор атаки с ограниченными данными - интересный подход к подавлению влияния "чистых" характеристик

Не все отравленные данные действуют одинаково - как построить эффективный триггер

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Tuesday, June 20, 2023

Центр киберзащиты Сбер

В рамках запуска новой магистратуры «Кибербезопасность» на ВМК МГУ абитуриентам предлагается уникальная возможность познакомиться с работой Центра киберзащиты Сбера (SOC – Security Operation Center) – крупнейшего в России и Восточной Европе ситуационного центра кибербезопасности.

Специалисты SOC решают задачи кибербезопасности по мониторингу и реагированию на инциденты, киберразведке, инжинирингу средств защиты и процессам управления самим SOC.

Посмотреть 3D-тур по SOC Сбера можно по ссылке.

Зарегистрироваться на экскурсию можно по ссылке в telegram-группе.

Экскурсии в SOC запланированы на 30 июня (10:30 ч.) и 7 июля (12:00 ч.), продолжительность – 1,5 часа.

По вопросам обращайтесь на e-mail: cyberacademy@sberbank.ru

Интервью по ML

Компиляция вопросов для интервью по машинному обучению

См. также другие публикации по теме интервью

Monday, June 19, 2023

Кибербезопасность в МГУ

ВМК МГУ и Сбер открывают новую магистратуру «Кибербезопасность» по направлению подготовки 02.04.02 «Фундаментальная информатика и информационные технологии».

Магистерская программа «Кибербезопасность» разработана факультетом вычислительной математики и кибернетики МГУ имени М.В. Ломоносова совместно с ПАО Сбербанк и предназначена для тех, кто хочет получить глубокие знания и навыки в области информационной безопасности и защиты информации и данных от кибератак. Программа ориентирована на подготовку магистров науки по кибербезопасности. Программа разработана в соответствии с современными международными профессиональными и образовательными стандартами и с учетом действующих национальных стандартов и норм.

Программа включает в себя изучение теоретических и практических аспектов кибербезопасности, включая защиту от вирусов, хакерских атак, фишинга, DDoS-атак и других угроз. Студенты изучают математические модели, современные методы и технологии кибербезопасности, а также учатся анализировать и оценивать риски, связанные с кибербезопасностью. В результате обучения студенты получают необходимые знания и навыки для работы в области кибербезопасности в различных сферах, включая исследовательские центры, государственные организации, частные компании и финансовые учреждения.

Подробнее о программе.

Для желающих обучаться по данной программе проводятся организованные экскурсии в Центр киберзащиты Сбера.

Отсюда

Java 2023

Состояние эко-системы Java в 2023 году

Более 56 % приложений в настоящее время используют Java 11 в производственной среде (по сравнению с 48 % в 2022 г. и 11 % в 2020 г.). Java 8 занимает второе место: почти 33% приложений используют ее в производстве (по сравнению с 46% в 2022 году).

Самый популярный вендор JLK - Амазон

Wednesday, June 14, 2023

О поиске бэкдоров

Продолжая тему бэкдоров в моделях ML - интересный подход к поиску бэкдоров на основе анализа активации

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Tuesday, June 13, 2023

Найди то, не знаю что

Открыто-словарное обнаружение объектов - построение модели, способной обнаруживать объекты за пределами набора видимых категорий при обучении, что позволяет пользователю указывать категории интереса при выводе без необходимости перетренировки моделей. Испольуется стандартная двухэтапная архитектура детектора объектов. Авторы рассматривают три способа указания новых категорий: через языковые описания, с помощью образцов изображений или через комбинацию этих двух подходов.

Для описания объектов используется LLM. Также предложен простой метод объединения информации из языковых описаний и образцов изображений с получением мультимодального классификатора.

Отсюда - Multi-Modal Classifiers for Open-Vocabulary Object Detection

Sunday, June 11, 2023

Объяснимый искусственный интеллект


SHAP
LIME
Permutation Importance
Partial Dependence Plot
Morris Sensitivity Analysis - и другие методы объяснимого искусственного интеллекта. Полезный словарь.

P.S. см. также другие публикации по теме explainable, а также другие публикации, посвященные ответу на вопрос почему?

Цифровая школа Nuclio

Программа обучения по IoT: Master of Internet of Things

Программа обучения по Blockchain: Master in Blockchain and Crypto

Бэкдоры в NLP

Простой и работающий подход к поиску бэкдоров в NLP - ложные корреляции

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Wednesday, June 07, 2023

Tuesday, June 06, 2023

Отравление данных

Баланс между устойчивостью и эффективностью при отравлении данных

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Все дело в частоте

Интересный подход к бэкдорам в моделях распознавания изображений - скрытый триггер, который строится в частотном домене

А в этой статье - показывают, как бороться с бэкдорами в частотном домене

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Monday, June 05, 2023

Сдвиг данных в моделях ML

Оценка сдвига данных для моделей ML на базе статистической проверки гипотез

См. также другие публикации, темой которых является мониторинг моделей машинного обучения

Почему получаются бэкдоры?

Интересная работа по теоретическим основам бэкдоров в моделях машинного обучения. Как отравленные данные должны соотноситься с чистыми?

Другая работа в этой области рассматривает Loss Landscape Sharpness - как быстро растут потери при изменении параметров

Sunday, June 04, 2023

Забыть все

Разобучить и переобучить модель на чистых данных для удаления нейронов с бэкдором - очистка моделей машинного обучения от троянов

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

БД Вконтакте

Интересная презентация про базы данных Вконтакте

Что за данные?

ydata-profiling пакет для Exploratory Data Analysis (EDA). И примеры его использования

См. также другие публикации, посвященные EDA

Friday, June 02, 2023

Универсальный телефонный API от GSMA


GSMA announced the creation of open telephony interfaces for third-party providers.
Lack of third party support has always been the Achilles' heel of telecom, both wired and wireless.
The need for such APIs is obvious, attempts have been made to create them, but there is no result.
Will a new attempt succeed or is it already too late?

из презентации на FRUCT-2023