IIoT

Хороший обзор Индустриального интернета вещей

Сбор данных телефоном

Интересное приложение для сбора физических данных сенсорами телефона - Phyphox

Так могут или нет?

LLM - это стохастические попугаи или все-таки они могут чему-то научиться? Авторы описываемой в статье работы считают, что таки да, новые познания возникают. И предлагают метрики на основе случайных графов.

См. также другие публикации, посвященные LLM

Цифровые двойники и прототипы

Интересная работа с формализацией понятий: physical twins, digital models, digital templates, digital threads, digital shadows, digital twins, and digital twin prototypes

См. также другие публикации, посвященные digital twins

Серый и состязательный

Gray-box Adversarial Training - подготовка состязательных примеров в процессе обучения модели

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Локальная LLM

Использование Ollama для развертывания локальной LLM

См. также другие публикации, посвященные LLM

Борьба за устойчивость

Состязательные тренировки предлагают обучать модель на состязательных (модифицированных) данных. А в этой работе предлагают настраивать фичи (features), чтобы повысить устойчивость. Смотреть, что реагирует на состязательные примеры и изменять: Boosting adversarial robustness via feature refinement, suppression, and alignment

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Use cases 2.0

Навая жизнь вариантов использования

Что по мутациям?

Мутации в тестах для Deep Learning моделей

См. также другие публикации по теме тестирование

Врет, зараза

Тестирование достоверности ответов ChatGPT. Тестовый набор - опубликован. Вот еще статья об этом проекте.

См. также другие публикации, посвященные LLM

DAMDID 2023

Опубликованы видеозаписи докладов конференции DAMDID-2023

И снова бэкдоры

Пара интересных работ по бэкдор-атакам для систем ML:

Sample-specific Backdoor Attack - в качестве триггера выступает само изображение. В данном случае авторы рассматривают так-называемую атаку с чистой меткой - метка отравленного изображения не отличается от настоящей.

Интересная работа по использованию генеративных моделей для создания физических триггеров: Synthesizing Physical Backdoor Datasets: An Automated Framework Leveraging Deep Generative Models

См. также другие публикации по бэкдор атакам

Понимание глубокого обучения

Книга в открытом доступе Understanding Deep Learning. С презентациями и нотебуками.

См. другие публикации по теме глубокое обучение

Защита критической инфраструктуры

Обзор: Защита критической морской инфраструктуры

Дифференциальная приватность

Стандарт NIST на дифференциальную приватность

Тестирование знаний LLM

Тестирование галлюцинаций в LLM. И статья, где это описано: HaluEval: A Large-Scale Hallucination Evaluation Benchmark for Large Language Models

См. также другие публикации, посвященные LLM

Подобное - подобным

Использование LLM для атаки других LLM

См. также другие публикации, посвященные LLM

Шифры и квантовые компьютеры

Все шифры превратятся в тыкву. NIST выпускает документы по оценке криптобезопасности современных систем - насколько они устойчивы к квантовым вычислениям.

Рекомендации призваны помочь организациям внедрить квантово-устойчивые алгоритмы в существующие инфраструктуры безопасности.

Национальный институт стандартов и технологий (National Institute of Standards and Technology) выпустил два проекта публикаций, чтобы помочь организациям, стремящимся изменить свои схемы шифрования на те, которые предназначены для предотвращения атак с потенциального квантового компьютера, открыв документы для общественного обсуждения, поскольку агентство работает над тем, чтобы открыть следующую эру кибербезопасности.

В двух документах — «Квантовая готовность: криптографическое обнаружение» и «Квантовая готовность: тестирование проектов стандартов совместимости и производительности» — представители NIST описывают конкретные проблемы, которые могут возникнуть при переходе на новый постквантовый криптографический стандарт, и предлагают потенциальные решения.

В документе Quantum Readyiness: Cryptographic Discovery описывается план функционального тестирования, в котором криптографическим средствам поручается поиск ошибочных конфигураций безопасности в цифровых сетях. В нем также описываются сценарии использования, которые предоставляют контекст для демонстрации успешных миграций постквантовых систем. Во втором проекте документа «Квантовая готовность: тестирование проектов стандартов совместимости и производительности» особое внимание уделяется тому, как гармонизировать квантово-устойчивые алгоритмы с существующей сетевой инфраструктурой, а также предлагаются решения проблем совместимости в контролируемой непроизводственной среде.

NIST находится на переднем крае стандартизации первых шагов в постквантовой криптографической миграции. Инициатива, которая была приоритетной в Национальной стратегии кибербезопасности президента Джо Байдена, направлена на то, чтобы агентства и организации опережали появление отказоустойчивого квантового компьютера. Эксперты опасаются, что эти системы, которые обрабатывают большие объемы данных в виде кубитов, а не стандартных двоичных цифр, прорвутся через современные конфигурации безопасности без достаточного обновления кодов открытых ключей сетей.

«Алгоритмы PQC стандартизируются, потому что достижения в области квантовых вычислений могут позволить скомпрометировать многие из существующих криптографических алгоритмов, широко используемых для защиты цифровой информации», — говорится в пресс-релизе NIST о документе Cryptographic Discovery.

Официальные лица добавили, что проект руководства по совместимости «предполагает, что вы поддерживаете модернизацию использования квантово-уязвимых криптографических реализаций с открытым ключом, и вы хотите построить свое понимание аспектов совместимости и производительности для стандартизированных алгоритмов PQC, которые вскоре будут стандартизированы, чтобы определить ваш подход к тому, чтобы сделать ваши криптографические реализации с открытым ключом квантово-устойчивыми».

Отсюда

Военный ИИ

Стратегия Пентагона в области Искусственного интеллекта. И новая аббревиатура - Chief Digital and Artificial Intelligence Office (CDAO)

Prompt-тренировки

Интересная игра от Google - тренировка по составлению заданий для порождающих моделей. Игрокам показываются рисунок, фотография, картина или другое изображение, сгенерированное искусственным интеллектом, но не подсказка, которая использовалась для создания сцены. Задача игрока состоит в том, чтобы выступить в роли инженера-подсказчика и объяснить ИИ, как идеально воссоздать изображение. Как только вы настроите подсказку, которая ограничена 120 символами, игра загрузит ее в ИИ Google и сгенерирует новое изображение. Затем игроки оцениваются в зависимости от того, насколько их изображение соответствует оригиналу.

Семантический поиск

Интересная работа: семантический поиск - от архитектуры до реализации

ChatGPT в атаке

Обзорная статья Unveiling the Dark Side of ChatGPT: Exploring Cyberattacks and Enhancing User Awareness

См. также другие публикации, посвященные LLM

Антифишинг

Стилометрия — исследование стилистики, обычно включающее статистический анализ и относящееся к письменному тексту. В работе представлен стилометрический анализ для определения фишинговых писем.

У - бунту!

О дивный мир установки *nix ! При создании iso образа Ubuntu всегда вызывайте Rufus от имени администратора! Иначе он не докладывает файлов :(

Мне нужен ваш беспилотник

Атаки на киберфизические системы: беспилотники

Кибербезопасность 2024

Тренды кибербезопасности в 2024

Причины и следствия

Несколько работ по каузальности Причинно-следственный анализ в машинном обучении (рус)

Привнесение причинно-следственной связи в аналитику

Causal AI

см. также другие публикации, посвященные каузальности

Графовые сети и время

A Time-Sensitive Graph Neural Network for Session-Based New Item Recommendation

Проблемы ML

Несколько устаревающий, но годный материал от ODS: Проблемы современного машинного обучения

Табличный ML

Книга в открытом доступе - машинное обучение для табличных данных

Донести знания

Еще об обогащении LLM фактической информацией: LangChain и LlamaIndex

См. также другие публикации, посвященные LLM

Ничего святого

Backdoor-атаки на системы распознавания объектов

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

AI HSE

AI портал ВШЭ

Тренды AI 2024

Как будет развиваться ИИ в 2024 году. Из предложенных 13 направлений отметим TRiSM (TRiSM stands for Artificial Intelligence Trust, Risk, and Security Management) и борьбу с галлюцинациями LLM. Предсказывается, что страхование от галлюцинаций принесет большие деньги в 2024 году

Лучшие практики ML

Как разрабатывать модели машинного обучения - 43 совета от Google

Цель этого документа – помочь тем, у кого есть базовые знания в области машинного обучения, воспользоваться преимуществами лучших практик Google в области машинного обучения.

Что объяснять?

Объяснения (интерпретация) моделей машинного обучения - она для людей. Соответственно, это должно формулироваться в терминах домена (предметной области), а не статистики.

А здесь можно найти открытые библиотеки для объяснимого AI

P.S. см. также другие публикации по теме explainable, а также другие публикации, посвященные ответу на вопрос почему?