SMOTE

Работа с несбалансированными данными

Стандарты SQL

/via ByteByteGo

ИИ риски

Казначейство США: Managing Artificial Intelligence-Specific Cybersecurity Risks in the Financial Services Sector

Pathways

Новая многозадачная архитектура ИИ систем

Безопасные контракты

Проверка безопасности смарт-контрактов. Горячая тема.

ИИ агенты

Open Source AI агент для машинного обучения. Половину участников Kaggle сгенеренные им программы (модели) обгоняют. А есть вообще агенты для GigaChat или Яндексовской LLM?

RUSCADASEC 2024

Презентации конференции RUSCADASEC

MITRE ATLAS

Анализ MITRE ATLAS в борьбе с отравлениями данных

DT & CPS

Цифровые двойники для безопасности кибер-физических систем

Атаки на транспортные модели

Интересный материал - атаки отравления на транспортные модели оценки трафика

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Анализ продаж

Шаблон для проекта по анализу продаж

Генеративный ИИ

Курс из 18 уроков Generative AI for Beginners. От Микрософт.

AI Index 2024

Ежегодный отчет Стенфордского университета по развитию ИИ

AI Cookbook

AI Cookbook от Huggingface. Нотебуки для различных задач.

ИБ стартапы

Обзор российских стартапов в Информационной безопасности

Враг в розетке

Кибер-физические атаки на электрические сети

Атаки на рекомендательные системы

Wang, Yanling, et al. "ClusterPoison: Poisoning Attacks on Recommender Systems with Limited Fake Users." IEEE Communications Magazine (2024).

Data Drift - Frouros

Open Source Python библиотека для определения data drift Код и документация - здесь

Улучшение робастности

Формальная модель и реализация состязвтельных тренировок для NLP моделей

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Графы и поиск

Поиск в графовых базах данных

GAN на транспорте

Порождающие модели в транспортных системах

iTransformer

Интересная идея по анализу временных рядов

Фишинговые URL

Полезная модель - Определение фишинговых URL с учетом контента страницы

Атаки социальной инженерии

Атаки социальной инженерии (SE) в Интернете являются серьезной киберугрозой. Эти атаки часто служат первым шагом в сложной последовательности атак, которые нацелены, среди прочего, на учетные данные жертв и могут привести к финансовым потерям. В последние годы этой проблеме уделяется все больше внимания: во многих публикациях предлагается защита от атак SE. Несмотря на это, ситуация не улучшилась. В этой статье мы стремимся понять и объяснить это явление, исследуя основную причину проблемы. С этой целью мы рассматриваем атаки и защиту SE через Интернет через уникальную призму, основанную на психологических факторах (PF) и психологических методах (PT). Мы обнаружили, что существует ключевое несоответствие между атаками и защитой: атаки SE намеренно использовали в общей сложности 46 PF и 16 PT, но существующие средства защиты использовали в общей сложности только 16 PF и семь PT. Это несоответствие может объяснить, почему существующие средства защиты добились ограниченного успеха, и побудить нас предложить систематическую дорожную карту для будущих исследований. - интересный обзор

Сетевой атлас

Книга в открытом доступе: Сети в анализе сложных систем. Хороший прикладной материал по теории графов.

Базовые модели

Термин «базовая модель» введен для описания моделей ML, обученных на широком спектре обобщенных и немаркированных данных и способных выполнять широкий спектр общих задач, таких как понимание языка, генерирование текста и изображений и общение на естественном языке.

Интересный курс от Университета Ватерлоо - CS 886: Recent Advances on Foundation Models

LLM и фишинг

Создание и детектирование фишингового контента с помощью LLM. Хороший обзор.

См. также другие публикации, посвященные LLM

Модели в анализе данных

Хорошая книга в открытом доступе - Демистификация моделей

Анализ состязательных атак

Souri, Hossein, et al. "Identifying Attack-Specific Signatures in Adversarial Examples." ICASSP 2024-2024 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP). IEEE, 2024. - определение сигнатуры состязательных атак.

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Просто говорите об этом

Универсальный метод взлома всех LLM - задание ложного контекста. В контекст зпроса включают фальшивые диалоги, где затрагивают запрещенные для LLM темы и, самое главное, отвечают на такие вопросы.

См. также другие публикации, посвященные LLM

Кибербезопасность 2024

Глобальный обзор от WEF - Кибербезопасность 2024

Шпаргалки по LLM

Компактное изложение: LLM и экосистема

См. также другие публикации, посвященные LLM

Атаки на краю

Хороший обзор по безопасности краевых вычислений: Shang, Ke, et al. "Review on Security Defense Technology Research in Edge Computing Environment." Chinese Journal of Electronics 33.1 (2024): 1-18.

Потоки пассажиров

Интересная работа по пространственно-временному анализу пассажиропотоков

Безопасность мобильного веба

Некоторые ресурсы по безопасности мобильного веба:

HTML5 Security Cheatsheet

Риски HTML5

OWASP об оценке кода. Раздел, посвященный оценке кода JavaScript.

Data Science 2024

Что требуют от соискателя (по данным Medium):

Кругом агенты

Впечатляющая коллекция AI агентов. Это то, что с помощью ChatGPT (LLM) должно изжить программистов.

См. также другие публикации, посвященные LLM

Код ревью

Интересный эксперимент: оценка безопасности кода с помощью LLM

См. также другие публикации, посвященные LLM

Тестирование LLM

Тестирование никогда не было сильной стороной систем машинного обучения. Вот работа, где предлагают подход к тестированию (оценке) продуктов на основе LLM

См. также другие публикации, посвященные LLM

2024 MAD

Интересный обзор The 2024 MAD (Machine Learning, AI & Data) Landscape

Про аналитику

Иллюстрации понятий для аналитики

INJOIT том 12, номер 4

Вышел четвертый номер журнала INJOIT в 2024 году. И двенадцатый год издания журнала.

Темы статей:

• Тематический выпуск: 2024 Всероссийская школа-семинар «Системный анализ и обработка данных в психологии и образовании»
• Организация сбора и обработки данных социодинамических процессов с возможной самоорганизацией и наличием памяти и анализ наблюдаемых характеристик их временных рядов
• Stochastic Models of Traffic Management
• Критериальный анализ моделей обработки данных радиационного неразрушающего контроля
• Выбор мета параметров в плохо обусловленной задаче идентификации на примере раздельного оценивания тяги летательного аппарата
• Критерии устойчивости платформы с реконфигурируемой трехколесной трансмиссией
• 3D дескриптор и его применение в алгоритме контурного анализа для автоматической посадки летательного аппарата
• Программное обеспечение синтеза SQL запросов на основе метамодели инструментария BlockSet
• Разработка репозитория метаданных на основе объектно-ориентированной логической модели для оценки качества данных
• An Approach to Generating Recommendations for Improving the Performance of Software for Heterogeneous Computing Platforms
• Модель классификации ученых как мера значимости научных объединений, мероприятий и изданий
• Технология повышения качества обучения искусственной нейронной сети в задачах управления объектами дорожно-транспортной инфраструктуры
• Оценивание функционального состояния пилота по сигналам датчиков различной природы
• Модель пилота как средство валидации перспективной кабины и бортового оборудования воздушного судна
• Моделирование взаимодействия человека и реабилитационного экзоскелета
• Сравнительный анализ платформ для цифровизации государственных услуг
• Программный комплекс распределенного тестирования веб-приложений

/via Лаборатория ОИТ

Архив журнала находится здесь.

DCCN 2023

Стали доступны материалы конференции DCCN 2023

Проверка связи

Проверка доступности сайта из различных уголков сети. Вдруг стало актуально для сайта журнала INJOIT

Разреженные атаки

Hammoudeh, Zayd, and Daniel Lowd. "Provable Robustness against a Union of L_0 Adversarial Attacks." Proceedings of the AAAI Conference on Artificial Intelligence. Vol. 38. No. 19. 2024. Атаки l0 - количество пикселей, которое отличает возмущенное изображение от исходного.

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Заметки биостатистика

Интересные публикации по статистике:

Что предполагают статистические методы? У автора есть целый ряд интересных публикаций

Статистический форум для медиков

Уроки статистических рассуждений

Хорошая книга в открытом доступе: Lessons in Statistical Thinking

Про DevOps

Хорошо сделанная визуализация

Safe coding

Инструменты безопасной разработки

Контратака

Интересная модель защиты от состязательных атак - обманывать атакующего с ответом

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Финансовый ИИ

Кибербезопасность систем ИИ в финансовой сфере. FS-ISAC, некоммерческая организация, которая продвигает кибербезопасность и устойчивость глобальной финансовой системы, объявила о выпуске шести официальных документов, призванных помочь учреждениям финансовых услуг понять угрозы, риски и варианты ответственного использования. искусственного интеллекта (ИИ).

Ресурсы кибербезопасности

Лучшие бесплатные ресурсы для изучения этичного хакинга и кибербезопасности

Безопасность базовых моделей

Интересная работа по исследованию безопасности агентов LLM

См. также другие публикации, посвященные LLM

Безопасность ИИ

Новое подразделение в Google DeepMind: AI Safety and Alignment. Перед организацией AI Safety and Alignment поставлена задача интегрировать реальные меры защиты в модели Google GenAI, уделяя особое внимание предотвращению распространения неточных медицинских рекомендаций, обеспечению безопасности детей и уменьшению предвзятости и несправедливости. Организация, возглавляемая Анкой Драган, стремится углубить понимание систем искусственного интеллекта и привести их в соответствие с человеческими предпочтениями и ценностями. Проблемы с безопасностью генеративных моделей потребовали нового подхода.

Вот, например, какие задачи ставятся в объявлении о поиске работников:

Определение и исследование возможных способов отказа базовых моделей, начиная от социотехнического ущерба (например, справедливости, дезинформации) до неправильного использования (например, разработки оружия, преступной деятельности) и потери контроля (например, сбоев с высокими ставками, мошеннического ИИ).

Разработка и внедрение технических подходов для снижения этих рисков, такие как бенчмаркинг и оценки, дизайн наборов данных, масштабируемый надзор, интерпретируемость, состязательная устойчивость, мониторинг и многое другое, в координации с более широкой технической программой команды.

Создание инфраструктуры, которая ускорит скорость исследований, позволяя быстро экспериментировать с моделями фундаментов, а также упрощая регистрацию и анализ результатов экспериментов.

Сотрудничество с другими внутренними командами, чтобы гарантировать, что системы и продукты Google DeepMind AI (например, Gemini) основаны на самых передовых исследованиях и протоколах безопасности и соответствуют им.

Глубокие траектории

"Удар у него не получился, и мяч полетел по траектории" (c) футбольный комментатор Маслаченко

Хороший обзор: Deep Learning for Trajectory Data Management and Mining: A Survey and Beyond

Автономный интеллект

"Нет, мозги не строит генеративные модели на уровне пикселей. Они изучают абстрактные представления, которые *устраняют* шум, непредсказуемые вещи и ненужную информацию." - Yann LeCun

Yann LeCun об автономном интеллекте и самообучении моделей

Все разом

Bloom - коллективно разрабатываемая открытая LLM

См. также другие публикации, посвященные LLM

Горшочки с медом

Большая коллекция Open Source Honeypots

Векторные базы данных

Хорошая иллюстрация работы векторных баз данных

Городская сетка

Интересная модель городского анализа на гео-сетке

Безопасность LLM

Русскоязычный материал по безопасности LLM Часть 1 и Часть 2

См. также другие публикации, посвященные LLM

Open Source BMS

Обновленный раздел Литий-ионные батареи и BMS

Генеративные прогнозы

Генеративные модели в предсказании дорожной обстановки

Облачные архитектуры

Как устроены приложения в AWS:

VPC (виртуальное частное облако)
В основе сетевых сервисов AWS лежит Amazon VPC, который позволяет пользователям выделять логически изолированный раздел облака AWS. В этой изолированной среде пользователи могут запускать ресурсы AWS в определенной ими виртуальной сети.

АЗ (зона доступности)
Под зоной доступности в AWS понимается один или несколько отдельных центров обработки данных с резервным питанием, сетью и возможностями подключения в регионе AWS. Mbr>

Теперь давайте пройдемся по сетевому подключению одно за другим:

Подключение к Интернет — Интернет-шлюз (IGW)
IGW служит связующим звеном между вашим AWS VPC и Интернетом, обеспечивая двустороннюю связь.

Удаленные работники — конечная точка клиентского VPN AWS предлагает услугу Client VPN, которая позволяет удаленным работникам безопасно получать доступ к ресурсам AWS или локальной сети через Интернет. Он обеспечивает безопасное и простое в управлении решение VPN.

Подключение корпоративного центра обработки данных — виртуальный шлюз (VGW)
VGW — это VPN-концентратор на стороне Amazon VPN-соединения типа «сеть-сеть» между вашей сетью и вашим VPC.

Пиринг VPC
Пиринг VPC позволяет соединить два VPC и маршрутизировать трафик между ними, используя частные адреса IPv4 или IPv6.

Транзитный шлюз
AWS Transit Gateway действует как сетевой транзитный узел, позволяя объединить несколько аккаунтов VPC, VPN и AWS.

Конечная точка VPC (шлюз)
Конечная точка VPC (тип шлюза) позволяет вам конфиденциально подключать ваш VPC к поддерживаемым сервисам AWS и сервисам конечных точек VPC на базе PrivateLink без необходимости использования интернет-шлюза или VPN.

Конечная точка VPC (интерфейс)
Конечная точка интерфейса VPC (на базе AWS PrivateLink) обеспечивает частные соединения между вашим VPC и поддерживаемыми сервисами AWS, другими VPC или сервисами AWS Marketplace без необходимости использования устройства IGW, VGW или NAT.

Подключение по частной ссылке SaaS
AWS PrivateLink обеспечивает частное соединение между VPC и сервисами, размещенными на AWS или локально, что идеально подходит для безопасного доступа к приложениям SaaS.

/via ByteByteGo.com

ИИ в защите

Языковые модели для разбора и анализа логов

Какая ваша топология?

Топологический подход к поиску бэкдоров

См. также другие публикации по бэкдор атакам

Прикладные задачи LLM

Прогноз развития по анализу тематических публикаций

См. также другие публикации, посвященные LLM

Ложные признаки

Производительность модели на данных ID (in-distribution) и OOD (out-of distribution) не обязательно прямо связаны. Может быть и обратная картина - для достижения лучшей производительности OOD необхоимо поступиться производительностью ID. Причина - ложные признаки. Например, на тренировочных данных какой-то признак является определяющим для отнесения объекта к классу A, а на реальных - этот же признак является определяющим для отнесения объекта к классу B.

Надежность ML

Что же понимается под надежностью систем машинного обучения. Версия от Google

ИИ в защите

Машинное обучение в определении вредоносного ПО. Весьма практическая статья

INJOIT vol. 12, no. 2

INJOIT vol.12 no.2 - на сайте elibrary.ru

Causal ML

Книга в открытом доступе Causal ML Book

см. также другие публикации, посвященные каузальности

Контратака

Состязательные атаки на детектор дипфейков

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Чистильщик кода

Как определить, что в тренировочном наборе данных для LLM есть код?

См. также другие публикации, посвященные LLM

О вопрошании

An Introduction to Prompting for LLMs

См. также другие публикации, посвященные LLM

Тотальное наступление

Кибератаки в виртуальной реальности. Реальные.

Про Адама

Математика Adam Optimizer

Открытая наука: INJOIT том 12, номер 2

Очередной номер журнала INJOIT появился на сайте Киберленинка.

Это том 12, номер 2 за 2024 год.

/via Лаборатория ОИТ

Python в дороге

Анализ данных о перемещениях в Python. Открытые библиотеки.

См. также другие публикации, посвященные Python

Чистильщик бэкдоров

Интересная идея по очистке бэкдоров в онлайне. Готовят теневую модель, дообучая базовую модель на гарантированно чистых примерах. Далее параллельно подают ходные данные базовой модели и теневой модели. Из сравнения результатов работы делают заключение о наличии бэкдора.

См. также другие публикации по бэкдор атакам

Нейротехнологии

Новый журнал МФТИ: Нейротехнологии и Нейроэлектроника

Литий-ионные батареи и BMS

Литий-ионные батареи имеют несколько преимуществ по сравнению с другими типами аккумуляторов, в том числе:

• Высокая энергоплотность: Литий-ионные батареи обладают высокой плотностью энергии, что означает, что они могут хранить больше электрической энергии на единицу объёма или веса по сравнению с другими батареями. Это делает их идеальными для использования в устройствах с ограниченным пространством, таких как ноутбуки, телефоны и электромобили.
• Долгая продолжительность службы: Литий-ионные батареи обычно имеют более длительный срок службы по сравнению с другими типами аккумуляторов, такими как NiCd и NiMH. Они также сохраняют свою ёмкость лучше при полном заряде и разряде, чем многие другие типы батарей.
• Низкий саморазряд: Литий-ионные батареи имеют низкий уровень саморазряда, особенно по сравнению с NiCd и NiMH батареями. Это значит, что они сохраняют заряд дольше, даже если они не используются месяцами.
• Быстрая зарядка: Литий-ионные батареи можно быстрее заряжать, чем многие другие типы батарей.
• Безопасность: Литий-ионные батареи считаются безопасными в использовании, хотя были случаи теплового разгона и возгорания в некоторых системах литий-ионных аккумуляторов. Однако эти инциденты относительно редки, и большинство современных литий-ионных аккумуляторов оснащены функциями безопасности, предотвращающими такие проблемы.
• Легкость: Литий-ионные батареи обычно легче по весу по сравнению с другими типами аккумуляторов с той же ёмкостью. Это важное преимущество для устройств, где минимизация веса важна. Например, электромобили и портативная электроника.
• Многоразовая перезарядка: Литий-ионные батареи можно многократно перезаряжать, что делает их экономически эффективнее, чем одноразовые батареи. Кроме того, они не страдают от памяти, как NiCd батареи, что означает, что они не теряют способность хранить заряд после повторной зарядки.

Вот здесь можно еще почитать о сравнении литий-ионных батарей с традиционными свинцово-кислотными

Производители:

Аренков И.А., Иванова Д.В. Жеребчикова П.Е. Аналитический обзор рынка производителей литий-ионных аккумуляторов

Список на сайте Производитель.рф

Энергон

Лиотех

Virtus Tec

Volts

Ренера

Нетер

Neovolt

САЭ

BatteryCraft

Сервисный центр

Системы управления батареями (BMS) — это электронные системы, использующиеся для управления и мониторинга производительности, безопасности и зарядки аккумуляторных батарей. Они необходимы для обеспечения того, чтобы устройства или транспортные средства с питанием от батарей работали эффективно, безопасно и имели длительный срок службы. BMS можно найти в различных приложениях, таких как электромобили, портативная электроника, хранение энергии из возобновляемых источников, медицинское оборудование и другие.

Основные функции BMS включают:

• Мониторинг напряжений, температур, токов и состояния заряда (SoC) каждой отдельной клетки или батарейного пака.
• Равномерное выравнивание клеток внутри батарейного пака для гарантии равномерной зарядки и разрядки.
• Защищает аккумулятор от перенапряжения, недозаряда, перегрузки, короткого замыкания и превышения допустимой температуры.
• Управление алгоритмами зарядки в соответствии с определенными требованиями, такими как постоянное напряжение, постоянный ток или широтно-импульсная модуляция.
• Предоставление пользовательского интерфейса для связи с другими компонентами или внешними устройствами.
• Оценка остающегося времени автономной работы и состояния здоровья (SoH) системы аккумулятора.
• Реализация стратегий теплового менеджмента для поддержания оптимальных операционных температур.
• Обнаружение сбоев, диагностика и отчетность.
• Включение функций умных аккумуляторов, таких как адаптивная зарядка и управление нагрузкой.

Типичное решение БМС состоит из нескольких аппаратных и программных компонентов:

• Датчики: Единицы измерения, отвественные за мониторинг критических параметров, таких как напряжение, ток и температура каждой отдельной ячейки или всего батарейного пака.
• Балансировщики для выравнивания ячеек: Убеждаются в равенстве напряжений ячейками клетками за счет перераспределения избыточной энергии между ними через пассивные или активные методы.
• Схема защиты: Предотвращает повреждения из-за аномальных условий, прерывая поток мощности, когда превышены заданные пределы. Это может включать в себя фигурные вышивки, полупроводниковые выключатели или система защиты на основе реле.
• Источники питания и цепей обработки сигналов: Конвертируют исходные сигналы датчиков в использоваемые форматы для обработки микроконтроллерами или цифровыми сигнальными процессорами. Эти же схемы также обеспечивают стабильные питающие напряжения для внутренней логики и интерфейсов связи BMS.
• Микроконтроллерное устройство (MCU): Центральный процессинговый компонент, контролирующий все аспекты работы BMS, включая сбор данных, расчеты, принятие решений и управление действиями. MCUs обычно содержат аналогово-цифровые преобразователи (АЦП) для преобразования сигнала, таймеры, счетчики и периферийные коммуникационные устройства.
• Интерфейсы связи: Позволяют BMS общаться с другими устройствами или компонентами, такими как зарядные устройства, дисплеи, телематические системы или контроллеры транспортных средств. Общие протоколы включают CAN-шину, UART, SPI, I²C и Ethernet.
• Программное обеспечение: алгоритмы, встроенное ПО и прикладной код, работающие на микроконтроллере, реализующие такие функции, как балансировка ячеек, обнаружение неисправностей, методы оценки и пользовательские интерфейсы.
• Механическая конструкция: включает корпус, разъемы, жгуты проводов, решения для охлаждения и физическую интеграцию с аккумуляторным блоком и окружающими компонентами.

Таким образом, системы управления батареями играют решающую роль в оптимизации эффективности, надежности и долговечности систем перезаряжаемых батарей во многих отраслях. Управляя такими важными факторами, как балансировка ячеек, защита, зарядка и связь, эти передовые электронные системы помогают обеспечить безопасную, эффективную и устойчивую работу.

• Обзор схемотехнических решений BMS для литиевых батарей
• Обратный инжиниринг карты BMS
• ENNOID - BMS - Open source BMS
• foxBMS - Open source BMS
• SmartBMS - Open source BMS
• Китайский производитель Poyohoto

/при поддержке компании Абсолютные решения. ABSolite - это профессиональный бренд инжиниринговой компании «Абсолютные Решения», специализирующейся в области проектирования и поставки систем бесперебойного и гарантированного электроснабжения для высокотехнологических комплексов. Бренд ABSolite предлагает передовые технологические новинки в производстве источников бесперебойного питания (ИБП), аккумуляторных батарей (АКБ) и дизельных генераторов (ДГУ), что позволяет создавать эффективные комплексы автономного энергообеспечения.

Безопасность 2024

Тренды безопасности 2024

Состязательное машинное обучение

Таксономия от NIST по состязательному машинному обучению

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

INJOIT том 12, номер 3

Вышел третий номер журнала INJOIT в 2024 году. И двенадцатый год издания журнала.

Темы статей:

• О применении нескольких предикторов в методе ветвей и границ (на примере случайного варианта задачи коммивояжёра)
• О стойкости ключевых криптоалгоритмов на основе хэш-функции "Стрибог" к атакам со связанными ключами
• Алгоритмы и программы анализа и синтеза устройств на основе распределенно-сосредоточенных цепей
• Using an artificial neural network to improve the orientation accuracy of unmanned aerial vehicles
• Исследование методов коррекции геометрических искажений на видеоизображении
• Организационное и программное обеспечение издания сборника трудов научной конференции
• Comparison of K-Nearest Neighbors (KNN) and Decision Tree with Binary Particle Swarm Optimization (BPSO) in Predicting Employee Performance
• Сравнительный анализ применяемых технологий обработки естественного языка для улучшения качества классификации цифровых документов
• Isometric Contraction ankle joint in Cerebral Palsy using Naive Bayes
• Детектирование и распознавание лиц в системах видеонаблюдения
• Об улучшении робастности моделей машинного обучения
• Методы восстановления и визуализации архитектуры программной системы
• Обзор открытых наборов данных для выявления атак на веб-приложения
• Решение задачи размещения-распределения зарядных станций для электромобилей на картах с помощью машинного обучения
• The Theory of S-symbols in the Methodological Arsenal of Artificial Intelligence
• Интернет военных вещей: концепт, функционально-целевое назначение, структура, регуляторика

/via Лаборатория ОИТ

Архив журнала находится здесь.

О водяных знаках

Водяные знаки в эпоху генеративного ИИ

Главная книга

Книга в процессе разработки - Feature Engineering A-Z. Главная тема для прикладных задач машинного обучения

Интернет всего

Пример IoE (Internet of Everything) - Интернет военных вещей

Технологии и безопасность 2024

Презентации конференции "Искусственный интеллект: вызовы и возможности. Опыт использования AI/ML в различных отраслях, вопросы доверия и информационной безопасности".

В частности - презентация С. Гарбука "О национальной системе оценки соответствия технологий искусственного интеллекта требованиям в области функциональной корректности и безопасности"

Робастнее некуда

Статья в журнале INJOIT о робастности моделей машинного обучения

Открытая наука: INJOIT том 12, номер 1

Очередной номер журнала INJOIT появился на сайте Киберленинка.

Это том 12, номер 1 за 2024 год.

/via Лаборатория ОИТ

Другая жизнь трансформеров

Интересная идея - заменить обучение с подкреплением новой моделью трансформеров. Вот оригинальная статья по Decision Transformer

Цифровая война

Рои дронов в военном деле

Из книги Digital War

Масштабирование ChatGPT

Интересный материал - как масштабировали ChatGPT

См. также другие ссылки по теме масштабирование

Космоснимки

Машинное обучение в анализе космических снимков. Обзор.

Энциклопедия LLM

В этой статье мы рассматриваем некоторые из наиболее известных LLM, в том числе три популярных семейства LLM (GPT, LLaMA, PaLM), и обсуждаем их характеристики, вклад и ограничения. Мы также даем обзор методов, разработанных для создания и расширения LLM. Затем мы изучаем популярные наборы данных, подготовленные для обучения, тонкой настройки и оценки LLM, рассматриваем широко используемые показатели оценки LLM и сравниваем эффективность нескольких популярных LLM по набору репрезентативных критериев. Наконец, мы завершаем статью обсуждением открытых проблем и будущих направлений исследований.

См. также другие публикации, посвященные LLM

Инверсия моделей

Атаки на извлечение тренировочных данных из DNN

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению и LLM

Диффузионные трояны

Бэкдор атаки на диффузионные модели

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению и LLM

INJOIT 2024

Первый и второй номера журнала INJOIT на сайте elibrary.ru

За науку

Учебник: машинное обучение с учителем в научных исследованиях. Как перестать беспокоиться и полюбить свой черный ящик.

Желают знать, что будет

Хорошо написанное руководство по предсказаниям значений временных рядов с помошью машинного обучения. Интересный раздел по data leakage.

100 запросов

Хорошая идея для обучения - 100 SQL запросов, которые охватывают все

Поясни за вывод

Survey on Explainable Ai: Techniques, Challenges and Open Issues

P.S. см. также другие публикации по теме explainable, а также другие публикации, посвященные ответу на вопрос почему?

INJOIT том 12, номер 2

Вышел второй номер журнала INJOIT в 2024 году. И двенадцатый год издания журнала.

Темы статей:

• Восемь вариантов конечных автоматов для проверки выполнения отношения покрытия итераций двух конечных языков. Часть II
• Обзор и сравнительный анализ алгоритмов атак и защиты на графовые архитектуры ИНС
• Comparative analysis of Jacobi and Gauss-Seidel iterative methods
• Development and Analysis of a Fuzzy Controller for Mobile Robots in Heterogeneous Soils
• Информационная система подачи заявок на гранты
• Analysis of NFC technology evolution
• Разработка программного комплекса для решения задачи планирования траектории при управлении движением манипуляционного механизма
• An Investigation into Router Firmware Security and the Embedded Device Challenge
• Цифра и тенденции развития военных технологий и соответствующей регуляторики: взгляд на зарубежный опыт
• Архитектурные модели Web3

/via Лаборатория ОИТ

Архив журнала находится здесь.

Фейк или нет?

Интересная статья по определению deep fake, созданных диффузионными моделями

На чем учили?

Атаки на LLM - извлечение тренировочных данных. Вот здесь есть описание этой атаки.

Вот здесь описана другая модель подобной атаки

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению и LLM

Собственные данные или настройка?

Что лучше для LLM - добавлять собственные данные к запросу (RAG - Retrieval-Augmented Generation) или проводить тонкую настройку (добавлять знания)? Сравнительный анализ.

Общая идея RAG:

1. Пользователь вводит вопрос.

2. Система ищет подходящие документы, которые могут содержать ответ на этот вопрос. Эти документы часто включают в себя собственные данные компании, которая разработала систему, а хранятся они обычно в некоем каталоге документов.

3. Система создаёт промпт для LLM, в котором скомбинированы данные, введённые пользователем, подходящие документы и инструкции для LLM. Модель должна ответить на вопрос пользователя, применив предоставленные ей документы.

4. Система отправляет промпт LLM.

5. LLM возвращает ответ на вопрос пользователя, основанный на предоставленных контекстных сведениях. Это — выходные данные системы.

См., например, здесь

См. также другие публикации, посвященные LLM

IIoT

Хороший обзор Индустриального интернета вещей

Сбор данных телефоном

Интересное приложение для сбора физических данных сенсорами телефона - Phyphox

Так могут или нет?

LLM - это стохастические попугаи или все-таки они могут чему-то научиться? Авторы описываемой в статье работы считают, что таки да, новые познания возникают. И предлагают метрики на основе случайных графов.

См. также другие публикации, посвященные LLM

Цифровые двойники и прототипы

Интересная работа с формализацией понятий: physical twins, digital models, digital templates, digital threads, digital shadows, digital twins, and digital twin prototypes

См. также другие публикации, посвященные digital twins

Серый и состязательный

Gray-box Adversarial Training - подготовка состязательных примеров в процессе обучения модели

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Локальная LLM

Использование Ollama для развертывания локальной LLM

См. также другие публикации, посвященные LLM

Борьба за устойчивость

Состязательные тренировки предлагают обучать модель на состязательных (модифицированных) данных. А в этой работе предлагают настраивать фичи (features), чтобы повысить устойчивость. Смотреть, что реагирует на состязательные примеры и изменять: Boosting adversarial robustness via feature refinement, suppression, and alignment

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Use cases 2.0

Навая жизнь вариантов использования

Что по мутациям?

Мутации в тестах для Deep Learning моделей

См. также другие публикации по теме тестирование

Врет, зараза

Тестирование достоверности ответов ChatGPT. Тестовый набор - опубликован. Вот еще статья об этом проекте.

См. также другие публикации, посвященные LLM

DAMDID 2023

Опубликованы видеозаписи докладов конференции DAMDID-2023

И снова бэкдоры

Пара интересных работ по бэкдор-атакам для систем ML:

Sample-specific Backdoor Attack - в качестве триггера выступает само изображение. В данном случае авторы рассматривают так-называемую атаку с чистой меткой - метка отравленного изображения не отличается от настоящей.

Интересная работа по использованию генеративных моделей для создания физических триггеров: Synthesizing Physical Backdoor Datasets: An Automated Framework Leveraging Deep Generative Models

См. также другие публикации по бэкдор атакам

Понимание глубокого обучения

Книга в открытом доступе Understanding Deep Learning. С презентациями и нотебуками.

См. другие публикации по теме глубокое обучение

Защита критической инфраструктуры

Обзор: Защита критической морской инфраструктуры

Дифференциальная приватность

Стандарт NIST на дифференциальную приватность

Тестирование знаний LLM

Тестирование галлюцинаций в LLM. И статья, где это описано: HaluEval: A Large-Scale Hallucination Evaluation Benchmark for Large Language Models

См. также другие публикации, посвященные LLM

Подобное - подобным

Использование LLM для атаки других LLM

См. также другие публикации, посвященные LLM

Шифры и квантовые компьютеры

Все шифры превратятся в тыкву. NIST выпускает документы по оценке криптобезопасности современных систем - насколько они устойчивы к квантовым вычислениям.

Рекомендации призваны помочь организациям внедрить квантово-устойчивые алгоритмы в существующие инфраструктуры безопасности.

Национальный институт стандартов и технологий (National Institute of Standards and Technology) выпустил два проекта публикаций, чтобы помочь организациям, стремящимся изменить свои схемы шифрования на те, которые предназначены для предотвращения атак с потенциального квантового компьютера, открыв документы для общественного обсуждения, поскольку агентство работает над тем, чтобы открыть следующую эру кибербезопасности.

В двух документах — «Квантовая готовность: криптографическое обнаружение» и «Квантовая готовность: тестирование проектов стандартов совместимости и производительности» — представители NIST описывают конкретные проблемы, которые могут возникнуть при переходе на новый постквантовый криптографический стандарт, и предлагают потенциальные решения.

В документе Quantum Readyiness: Cryptographic Discovery описывается план функционального тестирования, в котором криптографическим средствам поручается поиск ошибочных конфигураций безопасности в цифровых сетях. В нем также описываются сценарии использования, которые предоставляют контекст для демонстрации успешных миграций постквантовых систем. Во втором проекте документа «Квантовая готовность: тестирование проектов стандартов совместимости и производительности» особое внимание уделяется тому, как гармонизировать квантово-устойчивые алгоритмы с существующей сетевой инфраструктурой, а также предлагаются решения проблем совместимости в контролируемой непроизводственной среде.

NIST находится на переднем крае стандартизации первых шагов в постквантовой криптографической миграции. Инициатива, которая была приоритетной в Национальной стратегии кибербезопасности президента Джо Байдена, направлена на то, чтобы агентства и организации опережали появление отказоустойчивого квантового компьютера. Эксперты опасаются, что эти системы, которые обрабатывают большие объемы данных в виде кубитов, а не стандартных двоичных цифр, прорвутся через современные конфигурации безопасности без достаточного обновления кодов открытых ключей сетей.

«Алгоритмы PQC стандартизируются, потому что достижения в области квантовых вычислений могут позволить скомпрометировать многие из существующих криптографических алгоритмов, широко используемых для защиты цифровой информации», — говорится в пресс-релизе NIST о документе Cryptographic Discovery.

Официальные лица добавили, что проект руководства по совместимости «предполагает, что вы поддерживаете модернизацию использования квантово-уязвимых криптографических реализаций с открытым ключом, и вы хотите построить свое понимание аспектов совместимости и производительности для стандартизированных алгоритмов PQC, которые вскоре будут стандартизированы, чтобы определить ваш подход к тому, чтобы сделать ваши криптографические реализации с открытым ключом квантово-устойчивыми».

Отсюда

Военный ИИ

Стратегия Пентагона в области Искусственного интеллекта. И новая аббревиатура - Chief Digital and Artificial Intelligence Office (CDAO)

Prompt-тренировки

Интересная игра от Google - тренировка по составлению заданий для порождающих моделей. Игрокам показываются рисунок, фотография, картина или другое изображение, сгенерированное искусственным интеллектом, но не подсказка, которая использовалась для создания сцены. Задача игрока состоит в том, чтобы выступить в роли инженера-подсказчика и объяснить ИИ, как идеально воссоздать изображение. Как только вы настроите подсказку, которая ограничена 120 символами, игра загрузит ее в ИИ Google и сгенерирует новое изображение. Затем игроки оцениваются в зависимости от того, насколько их изображение соответствует оригиналу.

Семантический поиск

Интересная работа: семантический поиск - от архитектуры до реализации

ChatGPT в атаке

Обзорная статья Unveiling the Dark Side of ChatGPT: Exploring Cyberattacks and Enhancing User Awareness

См. также другие публикации, посвященные LLM

Антифишинг

Стилометрия — исследование стилистики, обычно включающее статистический анализ и относящееся к письменному тексту. В работе представлен стилометрический анализ для определения фишинговых писем.

У - бунту!

О дивный мир установки *nix ! При создании iso образа Ubuntu всегда вызывайте Rufus от имени администратора! Иначе он не докладывает файлов :(

Мне нужен ваш беспилотник

Атаки на киберфизические системы: беспилотники

Кибербезопасность 2024

Тренды кибербезопасности в 2024

Причины и следствия

Несколько работ по каузальности Причинно-следственный анализ в машинном обучении (рус)

Привнесение причинно-следственной связи в аналитику

Causal AI

см. также другие публикации, посвященные каузальности

Графовые сети и время

A Time-Sensitive Graph Neural Network for Session-Based New Item Recommendation

Проблемы ML

Несколько устаревающий, но годный материал от ODS: Проблемы современного машинного обучения

Табличный ML

Книга в открытом доступе - машинное обучение для табличных данных

Донести знания

Еще об обогащении LLM фактической информацией: LangChain и LlamaIndex

См. также другие публикации, посвященные LLM

Ничего святого

Backdoor-атаки на системы распознавания объектов

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

AI HSE

AI портал ВШЭ

Тренды AI 2024

Как будет развиваться ИИ в 2024 году. Из предложенных 13 направлений отметим TRiSM (TRiSM stands for Artificial Intelligence Trust, Risk, and Security Management) и борьбу с галлюцинациями LLM. Предсказывается, что страхование от галлюцинаций принесет большие деньги в 2024 году

Лучшие практики ML

Как разрабатывать модели машинного обучения - 43 совета от Google

Цель этого документа – помочь тем, у кого есть базовые знания в области машинного обучения, воспользоваться преимуществами лучших практик Google в области машинного обучения.

Что объяснять?

Объяснения (интерпретация) моделей машинного обучения - она для людей. Соответственно, это должно формулироваться в терминах домена (предметной области), а не статистики.

А здесь можно найти открытые библиотеки для объяснимого AI

P.S. см. также другие публикации по теме explainable, а также другие публикации, посвященные ответу на вопрос почему?