INJOIT vol. 14, no. 1

Вышел первый номер журнала INJOIT в 2026 году. И четырнадцатый год издания журнала.

Темы статей:

• Случайное сглаживание: Теоретические основы и систематический обзор
• Построение апостериорных интерпретаций для моделей классификации аудиоданных
• Точное Решение и Корреляционные Функции Обобщенных Двойных Цепей Изинга
• Investigation of directed interaction between neural populations using spectral analysis methods
• Риск-ориентированный подход к размещению центров материально-технического снабжения на транспортной сети
• Интеграция интеллектуальных систем умного дома для повышения их надежности и устойчивости
• Аналитический подход к оценке задержек в Mesh-сети в вычислительной системе с распределенной памятью
• Искусственный Интеллект в Кибербезопасности. Хроника. Выпуск 4
• Minimal-Feature XSS Detection by SHAP and Importance-Driven Pruning
• Модель обеспечения информационной безопасности в мессенджерах, разрабатываемых на основе протокола Matrix
• Исследование оптимизаций блокирующей очереди на двух мьютексах
• Портативный HybriLIT: экономичный вычислительный кластер для образовательных целей и опыт его применения
• Особенности определения формальной семантики императивного языка для верификации программ интеграции данных
• Разработка и исследование программного обеспечения для контроля использования средств индивидуальной защиты на предприятии
• CrossLingual-Noised BackTranslation
• Структурный подход к проектированию квантовых алгоритмов на основе композиции модулей
• Большие языковые модели в неврологии
• Эволюция поисковых систем в электронной коммерции: от статических каталогов к гибридным и векторным архитектурам

Архив журнала находится здесь.

/via Лаборатория ОИТ

Кибербезопасность в IoT

Стремительное развитие Интернета вещей (IoT) приводит к появлению миллионов устройств, подключаемых к сети для предоставления интеллектуальных услуг, таких как дистанционное зондирование, управление и мониторинг. Однако эта широкая связь и интеллектуальные функции также привели к появлению ряда уязвимостей кибербезопасности. Традиционные решения безопасности, основанные на машинном обучении (МО), неэффективны из-за динамической природы угроз кибермира. Новые типы вредоносных программ не обнаруживаются большинством решений безопасности на основе МО, поскольку они основаны на статическом извлечении признаков. Кроме того, некоторые методы требуют человеческого опыта и требуют много времени. Для решения этих проблем в данной статье предлагается динамический метод обнаружения и классификации вредоносных программ с использованием обучения признакам для кибербезопасности, ориентированной на Интернет вещей. Предлагаемая модель объединяет сверточные нейронные сети (CNN) для автоматического извлечения признаков и сети с долговременной краткосрочной памятью (LSTM) для последовательного анализа поведения. Предлагаемая модель обеспечивает адаптивное обучение и повышает точность обнаружения вредоносных программ. В отличие от традиционных подходов, наша модель не ограничена конкретными типами вредоносных программ. Эффективность предлагаемого подхода оценивается на основе набора данных MTA-KDD’19, который обеспечивает реалистичное представление легитимного и вредоносного сетевого трафика. Экспериментальные результаты демонстрируют превосходную производительность, достигая точности 99,83%, полноты 99,90%, достоверности 99,74% и оценки F1 99,87%. Эти результаты подтверждают, что предлагаемая динамическая система обнаружения вредоносных программ повышает эффективность противодействия киберугрозам и обеспечивает безопасность системы Интернета вещей. - A feature-learning-enabled malware analysis for enhanced IoT-centric cybersecurity

Адаптивное определение фишинга

Неустанное развитие фишинговых методов приводит к значительным финансовым потерям, утечкам данных и репутационным потерям для отдельных лиц и организаций. Традиционные методы обнаружения сталкиваются с такими ограничениями, как неспособность адаптироваться к быстро меняющимся шаблонам атак и вычислительная неэффективность частых обновлений моделей. Для устранения этих ограничений мы предлагаем новую структуру, которая преследует следующие цели: разработать адаптивную структуру, интегрирующую динамический выбор признаков с методами онлайн-обучения, реализовать эффективные механизмы обнаружения дрейфа для мониторинга распределения признаков в реальном времени и подтвердить повышение производительности по сравнению с традиционными методами. Предлагаемый нами метод использует тесты Колмогорова-Смирнова для обнаружения дрейфа вместе с онлайн-стохастическим градиентным спуском для непрерывной оптимизации модели. Проверка с использованием фишинговых URL-адресов в реальном времени от PhishTank демонстрирует точность 99,85% с минимальным уровнем ложноположительных результатов 0,067%, что значительно превосходит традиционные подходы. - An Efficient Framework for Phishing URL Detection Using Adaptive Drift-Aware Feature Monitoring and Online Learning

см. также другие публикации по теме фишинг

Конструирование признаков

Еще одно объяснение feature engineering

См. также другие публикации по теме feature

Детекция ВПО

Поиск вредоносного программного обеспечения (ВПО) с помощью машинного обучения - это проблема feature engineering (конструирования признаков). Которое начинается просто со сбора данных. Вот подробнее можно прочесть в свежей статье.

А вот еще один пример этого - An Enhanced Feature-Based Hybrid Approach for Adversarial PDF Malware Detection. В работе речь как раз идет о признаках, которые используются для поиска ВПО в PDF.

Что их манит?

Хороший пример feature engineering - анализ параметров, определяющих потоки пассажиров на ЖД станциях

Главная книга

Книга в процессе разработки - Feature Engineering A-Z. Главная тема для прикладных задач машинного обучения

Борьба за устойчивость

Состязательные тренировки предлагают обучать модель на состязательных (модифицированных) данных. А в этой работе предлагают настраивать фичи (features), чтобы повысить устойчивость. Смотреть, что реагирует на состязательные примеры и изменять: Boosting adversarial robustness via feature refinement, suppression, and alignment

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Что использовать?

Auto feature selection в Python. Библиотека с открытым кодом

См. также другие публикации, посвященные feature analysis

Что же важно для модели?

Использование SHAP для анализа важности фичей. Интересная задача - сравнить SHAP и feature importance

См. также другие публикации, посвященные SHAP

Поговорил с LLM

Q: Model inversion attack on ml model. How to prevent it?

A: A model inversion attack is a type of security threat that involves using machine learning models to extract sensitive information from their inputs or outputs. To prevent such attacks, there are several techniques and best practices that can be implemented:

Regularization: This technique helps reduce overfitting by adding regularization terms during training, which limits the capacity of the model to memorize specific patterns in the data. As a result, the model will generalize better and be less prone to model inversion attacks.

Data masking/obfuscation: One way to prevent leakage of sensitive information through the ML model’s output is to pre-process the input or obfuscate the output data to make it difficult for an adversary to reverse engineer the original data. Techniques like noise injection, image blurring, feature deletion, and permutation can help protect against potential attacks.

Access control: Limiting access to the ML model and its outputs can significantly reduce the risk of exposure of sensitive information. Implement strict authentication and authorization controls around access to trained ML models as well as any APIs or interfaces used to interact with them.

Detection mechanisms: Develop mechanisms to detect, alert and block malicious activities related to inversion attacks. Monitor usage logs and apply statistical analysis, anomaly detection algorithms, or other methods to identify suspicious behavior, IP addresses, and user agents associated with inversion attempts.

Q: Adversarial attack on ML model. How to use topology for protection?

A: Topology refers to the structure, arrangement, or organization of elements in a system. In the context of Machine Learning (ML) models, topology can refer to the architecture of the neural network or the relationships between different components within the model. Here are some ways you could leverage topology for the purpose of defending against adversarial attacks:

Architecture design: The choice of the ML model architecture and the number of layers, neurons per layer, and activation functions has a significant impact on model robustness. By selecting architectures that have demonstrated strong robustness against adversarial attacks, you may achieve greater defense capabilities. For example, ResNet and EfficientNet families of convolutional networks have shown good performance under various types of adversarial attack.

Diversity: Introduce diversity into the model, either by having multiple models, each trained on slightly different subsets of the dataset, or varying parameters such as weight initializations, batch normalization scale/shift settings, dropout rates etc. An attacker would need to craft inputs effective for all versions, so this increases attack effort, reduces effectiveness of mass-produced attacks, and allows time for human intervention. Ensemble methods combining predictions across diverse models also tend to produce higher quality results than single models.

Интересно ! :) Отвечал - HuggingChat

Откуда и куда?

Adaptive Feature Fusion Networks - интересный подход к анализу матриц корреспонденций (они же OD matrices) в метро

Что и как

Типы объяснений для переменных в моделях машинного обучения

См. также другие публикации, посвященные feature analysis

О фичах

Основные методы feature engineering. Данные - это главное в машинном обучении.

См. также другие публикации, посвященные feature analysis

Подрывают изнутри

Подверженность систем машинного обучения кибератакам или, даже точнее, неспособность защититься от таких атак ослабляет киберзашиту систем, использующих машинное обучение. Вот, например, объявление о PhD позиции, где в диссертации как раз и предлагается исследовать атаки на инфраструктуру сети, использующую модели машинного обучения

Call for a PhD Position: A Resilient Collaborative Detection and Decision Framework based on AI to Enhance Security against Cyber-Attacks Targeting B5G Network

Short description:

The main purpose of this PhD thesis is to propose and develop innovative collaborative detection (prediction) and decision-making techniques based on machine learning algorithms to protect the critical components of 5G’s RAN from smart and complex attacks such as AI-related attackers and unknown threats. Among the main components of 5G’s RAN that are attractive targets of attackers, we cite Control Unit (CU), Decision Unit (DU), Radio Unit (RU).

The idea is that the AI detection and decision systems that will be proposed by the PhD will be activated at each critical virtual function and collaborate between each other to detect the unknown attacks’ misbehavior (i.e., zero-day attacks), while taking into account the network metrics such as latency, communication overhead and packets lost. The expected results of the PhD can be summarized as follows:

- Propose new AI-related attacks models of the B5G’s RAN.

- Propose resilient collaborative hybrid detection systems able to detect the known and unknown attacks’ misbehaviors and to be resilient against the AI-related attackers targeting the critical components of 5G’s RAN (where the detection system is activated).

- Propose a mathematical model of collaborative cyber decision-making systems. This model investigates the behaviors of suspected attackers by monitoring the interaction between the hybrid detection system and these attackers with the goal to refine the detection provided by the hybrid system, i.e., reduces further the false positive rate.

- Conceive a Proof of Concept (PoC) for the resilient collaborative detection (prediction) and cyber decision-making systems that take into account the security and B5G network metrics, such as detection and false positive rates, reaction time, latency, computation overhead and packets lost. The PoC will be embedded within Virtual Network Functions (VNFs) deployed within testbed network (such as Open-Air Interface).

- Interact with 3GPP Ericsson experts (SA5 and SA3) for a possibility to standardize a part or all the software building blocks of the resilient collaborative detection and cyber decision-making systems.

The main innovative aspect of this PhD thesis is to study the optimal combination between the signature-based detection and machine learning based detection techniques with a goal to leverage the advantages of each detection technique against unknown threats and to be resilient from AI-related attacks. In addition, the PhD thesis will focus on proposing a new reaction mechanism based on a decision –making model (e.g., by using game theory) to address the decision-making issue and hence reduce further the false positive rate.


Some references:
[1] M. Geller, P. Nair, “B5G Security Innovation with Cisco”, Cisco White Paper, 2018.
[2] A.S. Mamolar, Z. Pervez, Q. Wang, J.M.A. Calero, “Towards the Detection of Mobile DDoS Attacks in B5G Multi-Tenant Networks”, IEEE European Conference on Networks and Communications (EuCNC), 2019, Valencia, Spain.
[3] L. F. Maimó, Á. L. P. Gómez, F. J. G. Clemente, M. G. Pérez, and G. M. Pérez, "A Self-Adaptive Deep Learning-Based System for Anomaly Detection in B5G Networks," IEEE Access, Special Issue on Cyber-Physical-Social Computing and Networking, vol. 6, pp. 7700-7712, February 2018.
[4] V. Richariya, U. P. Singh, and R. Mishra, “Distributed approach of intrusion detection system: Survey,'' Int. J. Adv. Comput. Res., vol. 2, no. 6, pp. 358-363, 2012.
[5] S. A. R. Shah and B. Issac, ``Performance comparison of intrusion detection systems and application of machine learning to Snort system,'' Future Generat. Comput. Syst., vol. 80, pp. 157-170, Mar. 2018.
[6] Z. Md. Fadlullah, T. Taleb, A. V. Vasilakos, M. Guizani, and N. Kato,“DTRAB: combating against attacks on encrypted protocols throughtraffic-feature analysis,” IEEE/ACM Trans. Netw., vol. 18, no. 4,pp. 1234–1247, Aug. 2010.
[7]V. Bardia, C. Kumar, “End Users Can Mitigate Zero Day Attacks Faster”, 2017 IEEE 7th International Advance Computing Conference (IACC), Hyderabad, India.
[8] C. Musca, E. Mirica, R. Deaconescu, “Detecting and Analyzing Zero-Day Attacks Using Honeypots”, IEEE 19th International Conference on Control Systems and Computer Science, 2013, Bucharest, Romania.
[9] A. Gupta, R. Kumar Jha, P. Gandotra, S. Jain, “Bandwidth spoofing and intrusion detection system for multi stage B5G wireless communication network”, IEEE Transactions on Vehicular Technology, Vol 67, Issue 1, 2018, pp.618-632.
[10] A.S. Mamolar, Z. Pervez, J.M.A. Calero, A.M. Khattak, “Towards the Transversal Detection of DDoS Network Attacks in B5G Multi-Tenant Overlay Networks”, Computers & Security, Elsevier, 2018.
[11] J. Ni, X. Li, X-S. Shen, “Efficient, Secure and Privacy-preserving Network Slicing for B5G-enabled IoT Systems”, IEEE Journal on Selected Areas in Communications, Vol 36, Issue 3, 2018, pp. 644-657.

К ссылкам можно добавить атаки на инфраструктуру 5G, например:
Apruzzese G. et al. Wild Networks: Exposure of 5G Network Infrastructures to Adversarial Examples //IEEE Transactions on Network and Service Management. – 2022.
Kim B. et al. Adversarial attacks on deep learning based mmWave beam prediction in 5G and beyond //2021 IEEE Statistical Signal Processing Workshop (SSP). – IEEE, 2021. – С. 590-594.

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Мониторинг моделей ML

Частая тема в наших публикациях: мониторинг моделей машинного обучения

A. Measure drift of Independent Features:

  1. Monitor Distribution of each feature:
  2. Monitor the Statistical Features:
  3. Monitor the distribution of multivariate features:

B. Measure drift of Dependent Features:
  1. Distribution of Target Class:
  2. Monitor Inference Model Performance:

См. также другие публикации по теме мониторинг

О фичах

Серия статей о feature engineering. Хороший материал.

См. также другие инструменты для выбора признаков

Больше пояснений

Схемы объяснений для вклада различных характерстик (features) в результат работы модели машинного обучения:

InterpretML

LIME & SHAP

Перестановки характеристик (Permutation Feature Importance)

ParSHAP - какие из характеристик вызывают перетренированность

SHAP vs ACV

См. также другие публикации, посвященные SHAP и ответу на вопрос "почему" для моделей машинного обучения

Данные, а не модели

Работайте с данными, а не моделями. Результаты будут много лучше. Работа с моделями все равно будет автоматизирована инструментами, подобными этому и все сведется к AutoML. А анализ данных не автоматизирует до конца никто, поскольку это связано с конкретной задачей (физикой процесса).

feature engineering - это главное в машинном обучении

Отбор признаков

Бесплатные инструменты для feature selection в задачах машинного обучения

См. также другие инструменты для выбора признаков