О статистических тестах

SMOTE

Работа с несбалансированными данными

Стандарты SQL

/via ByteByteGo

ИИ риски

Казначейство США: Managing Artificial Intelligence-Specific Cybersecurity Risks in the Financial Services Sector

Pathways

Новая многозадачная архитектура ИИ систем

Безопасные контракты

Проверка безопасности смарт-контрактов. Горячая тема.

ИИ агенты

Open Source AI агент для машинного обучения. Половину участников Kaggle сгенеренные им программы (модели) обгоняют. А есть вообще агенты для GigaChat или Яндексовской LLM?

RUSCADASEC 2024

Презентации конференции RUSCADASEC

MITRE ATLAS

Анализ MITRE ATLAS в борьбе с отравлениями данных

DT & CPS

Цифровые двойники для безопасности кибер-физических систем

Атаки на транспортные модели

Интересный материал - атаки отравления на транспортные модели оценки трафика

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Анализ продаж

Шаблон для проекта по анализу продаж

Генеративный ИИ

Курс из 18 уроков Generative AI for Beginners. От Микрософт.

AI Index 2024

Ежегодный отчет Стенфордского университета по развитию ИИ

AI Cookbook

AI Cookbook от Huggingface. Нотебуки для различных задач.

ИБ стартапы

Обзор российских стартапов в Информационной безопасности

Враг в розетке

Кибер-физические атаки на электрические сети

Атаки на рекомендательные системы

Wang, Yanling, et al. "ClusterPoison: Poisoning Attacks on Recommender Systems with Limited Fake Users." IEEE Communications Magazine (2024).

Data Drift - Frouros

Open Source Python библиотека для определения data drift Код и документация - здесь

Улучшение робастности

Формальная модель и реализация состязвтельных тренировок для NLP моделей

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Графы и поиск

Поиск в графовых базах данных

GAN на транспорте

Порождающие модели в транспортных системах

iTransformer

Интересная идея по анализу временных рядов

Фишинговые URL

Полезная модель - Определение фишинговых URL с учетом контента страницы

Атаки социальной инженерии

Атаки социальной инженерии (SE) в Интернете являются серьезной киберугрозой. Эти атаки часто служат первым шагом в сложной последовательности атак, которые нацелены, среди прочего, на учетные данные жертв и могут привести к финансовым потерям. В последние годы этой проблеме уделяется все больше внимания: во многих публикациях предлагается защита от атак SE. Несмотря на это, ситуация не улучшилась. В этой статье мы стремимся понять и объяснить это явление, исследуя основную причину проблемы. С этой целью мы рассматриваем атаки и защиту SE через Интернет через уникальную призму, основанную на психологических факторах (PF) и психологических методах (PT). Мы обнаружили, что существует ключевое несоответствие между атаками и защитой: атаки SE намеренно использовали в общей сложности 46 PF и 16 PT, но существующие средства защиты использовали в общей сложности только 16 PF и семь PT. Это несоответствие может объяснить, почему существующие средства защиты добились ограниченного успеха, и побудить нас предложить систематическую дорожную карту для будущих исследований. - интересный обзор

Сетевой атлас

Книга в открытом доступе: Сети в анализе сложных систем. Хороший прикладной материал по теории графов.

Базовые модели

Термин «базовая модель» введен для описания моделей ML, обученных на широком спектре обобщенных и немаркированных данных и способных выполнять широкий спектр общих задач, таких как понимание языка, генерирование текста и изображений и общение на естественном языке.

Интересный курс от Университета Ватерлоо - CS 886: Recent Advances on Foundation Models

LLM и фишинг

Создание и детектирование фишингового контента с помощью LLM. Хороший обзор.

См. также другие публикации, посвященные LLM

Модели в анализе данных

Хорошая книга в открытом доступе - Демистификация моделей

Анализ состязательных атак

Souri, Hossein, et al. "Identifying Attack-Specific Signatures in Adversarial Examples." ICASSP 2024-2024 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP). IEEE, 2024. - определение сигнатуры состязательных атак.

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Просто говорите об этом

Универсальный метод взлома всех LLM - задание ложного контекста. В контекст зпроса включают фальшивые диалоги, где затрагивают запрещенные для LLM темы и, самое главное, отвечают на такие вопросы.

См. также другие публикации, посвященные LLM

Кибербезопасность 2024

Глобальный обзор от WEF - Кибербезопасность 2024

Шпаргалки по LLM

Компактное изложение: LLM и экосистема

См. также другие публикации, посвященные LLM

Атаки на краю

Хороший обзор по безопасности краевых вычислений: Shang, Ke, et al. "Review on Security Defense Technology Research in Edge Computing Environment." Chinese Journal of Electronics 33.1 (2024): 1-18.

Потоки пассажиров

Интересная работа по пространственно-временному анализу пассажиропотоков

Безопасность мобильного веба

Некоторые ресурсы по безопасности мобильного веба:

HTML5 Security Cheatsheet

Риски HTML5

OWASP об оценке кода. Раздел, посвященный оценке кода JavaScript.

Data Science 2024

Что требуют от соискателя (по данным Medium):

Кругом агенты

Впечатляющая коллекция AI агентов. Это то, что с помощью ChatGPT (LLM) должно изжить программистов.

См. также другие публикации, посвященные LLM

Код ревью

Интересный эксперимент: оценка безопасности кода с помощью LLM

См. также другие публикации, посвященные LLM

Тестирование LLM

Тестирование никогда не было сильной стороной систем машинного обучения. Вот работа, где предлагают подход к тестированию (оценке) продуктов на основе LLM

См. также другие публикации, посвященные LLM

2024 MAD

Интересный обзор The 2024 MAD (Machine Learning, AI & Data) Landscape

Про аналитику

Иллюстрации понятий для аналитики

INJOIT том 12, номер 4

Вышел четвертый номер журнала INJOIT в 2024 году. И двенадцатый год издания журнала.

Темы статей:

• Тематический выпуск: 2024 Всероссийская школа-семинар «Системный анализ и обработка данных в психологии и образовании»
• Организация сбора и обработки данных социодинамических процессов с возможной самоорганизацией и наличием памяти и анализ наблюдаемых характеристик их временных рядов
• Stochastic Models of Traffic Management
• Критериальный анализ моделей обработки данных радиационного неразрушающего контроля
• Выбор мета параметров в плохо обусловленной задаче идентификации на примере раздельного оценивания тяги летательного аппарата
• Критерии устойчивости платформы с реконфигурируемой трехколесной трансмиссией
• 3D дескриптор и его применение в алгоритме контурного анализа для автоматической посадки летательного аппарата
• Программное обеспечение синтеза SQL запросов на основе метамодели инструментария BlockSet
• Разработка репозитория метаданных на основе объектно-ориентированной логической модели для оценки качества данных
• An Approach to Generating Recommendations for Improving the Performance of Software for Heterogeneous Computing Platforms
• Модель классификации ученых как мера значимости научных объединений, мероприятий и изданий
• Технология повышения качества обучения искусственной нейронной сети в задачах управления объектами дорожно-транспортной инфраструктуры
• Оценивание функционального состояния пилота по сигналам датчиков различной природы
• Модель пилота как средство валидации перспективной кабины и бортового оборудования воздушного судна
• Моделирование взаимодействия человека и реабилитационного экзоскелета
• Сравнительный анализ платформ для цифровизации государственных услуг
• Программный комплекс распределенного тестирования веб-приложений

/via Лаборатория ОИТ

Архив журнала находится здесь.

DCCN 2023

Стали доступны материалы конференции DCCN 2023

Проверка связи

Проверка доступности сайта из различных уголков сети. Вдруг стало актуально для сайта журнала INJOIT

Разреженные атаки

Hammoudeh, Zayd, and Daniel Lowd. "Provable Robustness against a Union of L_0 Adversarial Attacks." Proceedings of the AAAI Conference on Artificial Intelligence. Vol. 38. No. 19. 2024. Атаки l0 - количество пикселей, которое отличает возмущенное изображение от исходного.

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению