Tuesday, June 27, 2023

Черные бэкдоры

Black Box backdoor для MLaaS: атакующий строит теневую модель, делает бэкдор для нее и публикует от своего имени уже отравленную модель

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Saturday, June 24, 2023

Friday, June 23, 2023

Tuesday, June 20, 2023

Центр киберзащиты Сбер

В рамках запуска новой магистратуры «Кибербезопасность» на ВМК МГУ абитуриентам предлагается уникальная возможность познакомиться с работой Центра киберзащиты Сбера (SOC – Security Operation Center) – крупнейшего в России и Восточной Европе ситуационного центра кибербезопасности.

Специалисты SOC решают задачи кибербезопасности по мониторингу и реагированию на инциденты, киберразведке, инжинирингу средств защиты и процессам управления самим SOC.

Посмотреть 3D-тур по SOC Сбера можно по ссылке.

Зарегистрироваться на экскурсию можно по ссылке в telegram-группе.

Экскурсии в SOC запланированы на 30 июня (10:30 ч.) и 7 июля (12:00 ч.), продолжительность – 1,5 часа.

По вопросам обращайтесь на e-mail: cyberacademy@sberbank.ru

Интервью по ML

Компиляция вопросов для интервью по машинному обучению

См. также другие публикации по теме интервью

Monday, June 19, 2023

Кибербезопасность в МГУ

ВМК МГУ и Сбер открывают новую магистратуру «Кибербезопасность» по направлению подготовки 02.04.02 «Фундаментальная информатика и информационные технологии».

Магистерская программа «Кибербезопасность» разработана факультетом вычислительной математики и кибернетики МГУ имени М.В. Ломоносова совместно с ПАО Сбербанк и предназначена для тех, кто хочет получить глубокие знания и навыки в области информационной безопасности и защиты информации и данных от кибератак. Программа ориентирована на подготовку магистров науки по кибербезопасности. Программа разработана в соответствии с современными международными профессиональными и образовательными стандартами и с учетом действующих национальных стандартов и норм.

Программа включает в себя изучение теоретических и практических аспектов кибербезопасности, включая защиту от вирусов, хакерских атак, фишинга, DDoS-атак и других угроз. Студенты изучают математические модели, современные методы и технологии кибербезопасности, а также учатся анализировать и оценивать риски, связанные с кибербезопасностью. В результате обучения студенты получают необходимые знания и навыки для работы в области кибербезопасности в различных сферах, включая исследовательские центры, государственные организации, частные компании и финансовые учреждения.

Подробнее о программе.

Для желающих обучаться по данной программе проводятся организованные экскурсии в Центр киберзащиты Сбера.

Отсюда

Java 2023

Состояние эко-системы Java в 2023 году

Более 56 % приложений в настоящее время используют Java 11 в производственной среде (по сравнению с 48 % в 2022 г. и 11 % в 2020 г.). Java 8 занимает второе место: почти 33% приложений используют ее в производстве (по сравнению с 46% в 2022 году).

Самый популярный вендор JLK - Амазон

Tuesday, June 13, 2023

Найди то, не знаю что

Открыто-словарное обнаружение объектов - построение модели, способной обнаруживать объекты за пределами набора видимых категорий при обучении, что позволяет пользователю указывать категории интереса при выводе без необходимости перетренировки моделей. Испольуется стандартная двухэтапная архитектура детектора объектов. Авторы рассматривают три способа указания новых категорий: через языковые описания, с помощью образцов изображений или через комбинацию этих двух подходов.

Для описания объектов используется LLM. Также предложен простой метод объединения информации из языковых описаний и образцов изображений с получением мультимодального классификатора.

Отсюда - Multi-Modal Classifiers for Open-Vocabulary Object Detection

Sunday, June 11, 2023

Устойчивые триггеры

Продолжая тему бэкдоров в моделях ML - триггеры, устойчивые к визуальным искажениям

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Объяснимый искусственный интеллект


SHAP
LIME
Permutation Importance
Partial Dependence Plot
Morris Sensitivity Analysis - и другие методы объяснимого искусственного интеллекта. Полезный словарь.

P.S. см. также другие публикации по теме explainable, а также другие публикации, посвященные ответу на вопрос почему?

Tuesday, June 06, 2023

Отравление данных

Баланс между устойчивостью и эффективностью при отравлении данных

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Все дело в частоте

Интересный подход к бэкдорам в моделях распознавания изображений - скрытый триггер, который строится в частотном домене

А в этой статье - показывают, как бороться с бэкдорами в частотном домене

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Sunday, June 04, 2023

Friday, June 02, 2023

Универсальный телефонный API от GSMA


GSMA announced the creation of open telephony interfaces for third-party providers.
Lack of third party support has always been the Achilles' heel of telecom, both wired and wireless.
The need for such APIs is obvious, attempts have been made to create them, but there is no result.
Will a new attempt succeed or is it already too late?

из презентации на FRUCT-2023