Thursday, March 28, 2024

Контратака

Интересная модель защиты от состязательных атак - обманывать атакующего с ответом

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Wednesday, March 27, 2024

Финансовый ИИ

Кибербезопасность систем ИИ в финансовой сфере. FS-ISAC, некоммерческая организация, которая продвигает кибербезопасность и устойчивость глобальной финансовой системы, объявила о выпуске шести официальных документов, призванных помочь учреждениям финансовых услуг понять угрозы, риски и варианты ответственного использования. искусственного интеллекта (ИИ).

Monday, March 25, 2024

Безопасность ИИ

Новое подразделение в Google DeepMind: AI Safety and Alignment. Перед организацией AI Safety and Alignment поставлена задача интегрировать реальные меры защиты в модели Google GenAI, уделяя особое внимание предотвращению распространения неточных медицинских рекомендаций, обеспечению безопасности детей и уменьшению предвзятости и несправедливости. Организация, возглавляемая Анкой Драган, стремится углубить понимание систем искусственного интеллекта и привести их в соответствие с человеческими предпочтениями и ценностями. Проблемы с безопасностью генеративных моделей потребовали нового подхода.

Вот, например, какие задачи ставятся в объявлении о поиске работников:

Определение и исследование возможных способов отказа базовых моделей, начиная от социотехнического ущерба (например, справедливости, дезинформации) до неправильного использования (например, разработки оружия, преступной деятельности) и потери контроля (например, сбоев с высокими ставками, мошеннического ИИ).

Разработка и внедрение технических подходов для снижения этих рисков, такие как бенчмаркинг и оценки, дизайн наборов данных, масштабируемый надзор, интерпретируемость, состязательная устойчивость, мониторинг и многое другое, в координации с более широкой технической программой команды.

Создание инфраструктуры, которая ускорит скорость исследований, позволяя быстро экспериментировать с моделями фундаментов, а также упрощая регистрацию и анализ результатов экспериментов.

Сотрудничество с другими внутренними командами, чтобы гарантировать, что системы и продукты Google DeepMind AI (например, Gemini) основаны на самых передовых исследованиях и протоколах безопасности и соответствуют им.

Глубокие траектории

"Удар у него не получился, и мяч полетел по траектории" (c) футбольный комментатор Маслаченко

Хороший обзор: Deep Learning for Trajectory Data Management and Mining: A Survey and Beyond

Sunday, March 24, 2024

Автономный интеллект

"Нет, мозги не строит генеративные модели на уровне пикселей. Они изучают абстрактные представления, которые *устраняют* шум, непредсказуемые вещи и ненужную информацию." - Yann LeCun

Yann LeCun об автономном интеллекте и самообучении моделей

Saturday, March 23, 2024

Все разом

Bloom - коллективно разрабатываемая открытая LLM

См. также другие публикации, посвященные LLM

Горшочки с медом

Большая коллекция Open Source Honeypots

Monday, March 18, 2024

Облачные архитектуры

Как устроены приложения в AWS:

VPC (виртуальное частное облако)
В основе сетевых сервисов AWS лежит Amazon VPC, который позволяет пользователям выделять логически изолированный раздел облака AWS. В этой изолированной среде пользователи могут запускать ресурсы AWS в определенной ими виртуальной сети.

АЗ (зона доступности)
Под зоной доступности в AWS понимается один или несколько отдельных центров обработки данных с резервным питанием, сетью и возможностями подключения в регионе AWS. Mbr>

Теперь давайте пройдемся по сетевому подключению одно за другим:

Подключение к Интернет — Интернет-шлюз (IGW)
IGW служит связующим звеном между вашим AWS VPC и Интернетом, обеспечивая двустороннюю связь.


Удаленные работники — конечная точка клиентского VPN AWS предлагает услугу Client VPN, которая позволяет удаленным работникам безопасно получать доступ к ресурсам AWS или локальной сети через Интернет. Он обеспечивает безопасное и простое в управлении решение VPN.

Подключение корпоративного центра обработки данных — виртуальный шлюз (VGW)
VGW — это VPN-концентратор на стороне Amazon VPN-соединения типа «сеть-сеть» между вашей сетью и вашим VPC.

Пиринг VPC
Пиринг VPC позволяет соединить два VPC и маршрутизировать трафик между ними, используя частные адреса IPv4 или IPv6.

Транзитный шлюз
AWS Transit Gateway действует как сетевой транзитный узел, позволяя объединить несколько аккаунтов VPC, VPN и AWS.

Конечная точка VPC (шлюз)
Конечная точка VPC (тип шлюза) позволяет вам конфиденциально подключать ваш VPC к поддерживаемым сервисам AWS и сервисам конечных точек VPC на базе PrivateLink без необходимости использования интернет-шлюза или VPN.

Конечная точка VPC (интерфейс)
Конечная точка интерфейса VPC (на базе AWS PrivateLink) обеспечивает частные соединения между вашим VPC и поддерживаемыми сервисами AWS, другими VPC или сервисами AWS Marketplace без необходимости использования устройства IGW, VGW или NAT.

Подключение по частной ссылке SaaS
AWS PrivateLink обеспечивает частное соединение между VPC и сервисами, размещенными на AWS или локально, что идеально подходит для безопасного доступа к приложениям SaaS.

/via ByteByteGo.com

ИИ в защите

Языковые модели для разбора и анализа логов

Friday, March 15, 2024

Ложные признаки

Производительность модели на данных ID (in-distribution) и OOD (out-of distribution) не обязательно прямо связаны. Может быть и обратная картина - для достижения лучшей производительности OOD необхоимо поступиться производительностью ID. Причина - ложные признаки. Например, на тренировочных данных какой-то признак является определяющим для отнесения объекта к классу A, а на реальных - этот же признак является определяющим для отнесения объекта к классу B.

Надежность ML

Что же понимается под надежностью систем машинного обучения. Версия от Google

Sunday, March 10, 2024

Wednesday, March 06, 2024

Python в дороге

Анализ данных о перемещениях в Python. Открытые библиотеки.

См. также другие публикации, посвященные Python

Чистильщик бэкдоров

Интересная идея по очистке бэкдоров в онлайне. Готовят теневую модель, дообучая базовую модель на гарантированно чистых примерах. Далее параллельно подают ходные данные базовой модели и теневой модели. Из сравнения результатов работы делают заключение о наличии бэкдора.

См. также другие публикации по бэкдор атакам

Monday, March 04, 2024

Литий-ионные батареи и BMS

Литий-ионные батареи имеют несколько преимуществ по сравнению с другими типами аккумуляторов, в том числе:

  • Высокая энергоплотность: Литий-ионные батареи обладают высокой плотностью энергии, что означает, что они могут хранить больше электрической энергии на единицу объёма или веса по сравнению с другими батареями. Это делает их идеальными для использования в устройствах с ограниченным пространством, таких как ноутбуки, телефоны и электромобили.
  • Долгая продолжительность службы: Литий-ионные батареи обычно имеют более длительный срок службы по сравнению с другими типами аккумуляторов, такими как NiCd и NiMH. Они также сохраняют свою ёмкость лучше при полном заряде и разряде, чем многие другие типы батарей.
  • Низкий саморазряд: Литий-ионные батареи имеют низкий уровень саморазряда, особенно по сравнению с NiCd и NiMH батареями. Это значит, что они сохраняют заряд дольше, даже если они не используются месяцами.
  • Быстрая зарядка: Литий-ионные батареи можно быстрее заряжать, чем многие другие типы батарей.
  • Безопасность: Литий-ионные батареи считаются безопасными в использовании, хотя были случаи теплового разгона и возгорания в некоторых системах литий-ионных аккумуляторов. Однако эти инциденты относительно редки, и большинство современных литий-ионных аккумуляторов оснащены функциями безопасности, предотвращающими такие проблемы.
  • Легкость: Литий-ионные батареи обычно легче по весу по сравнению с другими типами аккумуляторов с той же ёмкостью. Это важное преимущество для устройств, где минимизация веса важна. Например, электромобили и портативная электроника.
  • Многоразовая перезарядка: Литий-ионные батареи можно многократно перезаряжать, что делает их экономически эффективнее, чем одноразовые батареи. Кроме того, они не страдают от памяти, как NiCd батареи, что означает, что они не теряют способность хранить заряд после повторной зарядки.

Вот здесь можно еще почитать о сравнении литий-ионных батарей с традиционными свинцово-кислотными

Производители:

Аренков И.А., Иванова Д.В. Жеребчикова П.Е. Аналитический обзор рынка производителей литий-ионных аккумуляторов

Список на сайте Производитель.рф

Энергон

Лиотех

Virtus Tec

Volts

Ренера

Нетер

Neovolt

САЭ

BatteryCraft

Сервисный центр

Системы управления батареями (BMS) — это электронные системы, использующиеся для управления и мониторинга производительности, безопасности и зарядки аккумуляторных батарей. Они необходимы для обеспечения того, чтобы устройства или транспортные средства с питанием от батарей работали эффективно, безопасно и имели длительный срок службы. BMS можно найти в различных приложениях, таких как электромобили, портативная электроника, хранение энергии из возобновляемых источников, медицинское оборудование и другие.

Основные функции BMS включают:

  • Мониторинг напряжений, температур, токов и состояния заряда (SoC) каждой отдельной клетки или батарейного пака.
  • Равномерное выравнивание клеток внутри батарейного пака для гарантии равномерной зарядки и разрядки.
  • Защищает аккумулятор от перенапряжения, недозаряда, перегрузки, короткого замыкания и превышения допустимой температуры.
  • Управление алгоритмами зарядки в соответствии с определенными требованиями, такими как постоянное напряжение, постоянный ток или широтно-импульсная модуляция.
  • Предоставление пользовательского интерфейса для связи с другими компонентами или внешними устройствами.
  • Оценка остающегося времени автономной работы и состояния здоровья (SoH) системы аккумулятора.
  • Реализация стратегий теплового менеджмента для поддержания оптимальных операционных температур.
  • Обнаружение сбоев, диагностика и отчетность.
  • Включение функций умных аккумуляторов, таких как адаптивная зарядка и управление нагрузкой.

Типичное решение БМС состоит из нескольких аппаратных и программных компонентов:

  • Датчики: Единицы измерения, отвественные за мониторинг критических параметров, таких как напряжение, ток и температура каждой отдельной ячейки или всего батарейного пака.
  • Балансировщики для выравнивания ячеек: Убеждаются в равенстве напряжений ячейками клетками за счет перераспределения избыточной энергии между ними через пассивные или активные методы.
  • Схема защиты: Предотвращает повреждения из-за аномальных условий, прерывая поток мощности, когда превышены заданные пределы. Это может включать в себя фигурные вышивки, полупроводниковые выключатели или система защиты на основе реле.
  • Источники питания и цепей обработки сигналов: Конвертируют исходные сигналы датчиков в использоваемые форматы для обработки микроконтроллерами или цифровыми сигнальными процессорами. Эти же схемы также обеспечивают стабильные питающие напряжения для внутренней логики и интерфейсов связи BMS.
  • Микроконтроллерное устройство (MCU): Центральный процессинговый компонент, контролирующий все аспекты работы BMS, включая сбор данных, расчеты, принятие решений и управление действиями. MCUs обычно содержат аналогово-цифровые преобразователи (АЦП) для преобразования сигнала, таймеры, счетчики и периферийные коммуникационные устройства.
  • Интерфейсы связи: Позволяют BMS общаться с другими устройствами или компонентами, такими как зарядные устройства, дисплеи, телематические системы или контроллеры транспортных средств. Общие протоколы включают CAN-шину, UART, SPI, I²C и Ethernet.
  • Программное обеспечение: алгоритмы, встроенное ПО и прикладной код, работающие на микроконтроллере, реализующие такие функции, как балансировка ячеек, обнаружение неисправностей, методы оценки и пользовательские интерфейсы.
  • Механическая конструкция: включает корпус, разъемы, жгуты проводов, решения для охлаждения и физическую интеграцию с аккумуляторным блоком и окружающими компонентами.

Таким образом, системы управления батареями играют решающую роль в оптимизации эффективности, надежности и долговечности систем перезаряжаемых батарей во многих отраслях. Управляя такими важными факторами, как балансировка ячеек, защита, зарядка и связь, эти передовые электронные системы помогают обеспечить безопасную, эффективную и устойчивую работу.

/при поддержке компании Абсолютные решения. ABSolite - это профессиональный бренд инжиниринговой компании «Абсолютные Решения», специализирующейся в области проектирования и поставки систем бесперебойного и гарантированного электроснабжения для высокотехнологических комплексов. Бренд ABSolite предлагает передовые технологические новинки в производстве источников бесперебойного питания (ИБП), аккумуляторных батарей (АКБ) и дизельных генераторов (ДГУ), что позволяет создавать эффективные комплексы автономного энергообеспечения.

Friday, March 01, 2024

INJOIT том 12, номер 3

Вышел третий номер журнала INJOIT в 2024 году. И двенадцатый год издания журнала.

Темы статей:

  • О применении нескольких предикторов в методе ветвей и границ (на примере случайного варианта задачи коммивояжёра)
  • О стойкости ключевых криптоалгоритмов на основе хэш-функции "Стрибог" к атакам со связанными ключами
  • Алгоритмы и программы анализа и синтеза устройств на основе распределенно-сосредоточенных цепей
  • Using an artificial neural network to improve the orientation accuracy of unmanned aerial vehicles
  • Исследование методов коррекции геометрических искажений на видеоизображении
  • Организационное и программное обеспечение издания сборника трудов научной конференции
  • Comparison of K-Nearest Neighbors (KNN) and Decision Tree with Binary Particle Swarm Optimization (BPSO) in Predicting Employee Performance
  • Сравнительный анализ применяемых технологий обработки естественного языка для улучшения качества классификации цифровых документов
  • Isometric Contraction ankle joint in Cerebral Palsy using Naive Bayes
  • Детектирование и распознавание лиц в системах видеонаблюдения
  • Об улучшении робастности моделей машинного обучения
  • Методы восстановления и визуализации архитектуры программной системы
  • Обзор открытых наборов данных для выявления атак на веб-приложения
  • Решение задачи размещения-распределения зарядных станций для электромобилей на картах с помощью машинного обучения
  • The Theory of S-symbols in the Methodological Arsenal of Artificial Intelligence
  • Интернет военных вещей: концепт, функционально-целевое назначение, структура, регуляторика

/via Лаборатория ОИТ

Архив журнала находится здесь.

О водяных знаках

Водяные знаки в эпоху генеративного ИИ