Акселерометр в телефоне

Контекстно-зависимые приложения с ипользованием данных акселерометра

Анализ матриц корреспонденции

Анализ матриц корреспонденции метро: Evaluation Indexes and Correlation Analysis of Origination–Destination Travel Time of Nanjing Metro Based on Complex Network Method

VR на практике

Интересный обзор - приложения виртуальной реальности в конкретной медицинской области

Агрегатор для Jupyter Notebooks

Elyra - pipeline for Jupyter Notebooks

Расстояние в анализе данных

Измерение расстояний в data science - преимущества, недостатки, подводные камни

Витрина в озере

Архитектуры данных - озеро, хранилище, витрина

Состязательные атаки - демонстрация

Демонстрация работы состязательных атак непосредственно в браузере. Интересно, что все работает исключительно на клиентской стороне, сервера - нет. Отсюда

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Этюды на Python

Упражнения на Python. Классная идея!

См. также другие публикации, посвященные Python

Чем сердце успокоится

Так долго продолжаться не будет. Деплоймент моделей машииного обучения не может быть столь запутанным.

Вот, что про это думает Google: Five Principles for Machine Learning to Go Mainstream

Все должно превратиться в нормальное программное обеспечение.

И еще о SHAP

SHAP для табличных данных

См. также другие публикации, посвященные SHAP

Графовые сети

Алгоритмы на графовых нейронных сетях

См. также другие публикации, посвященные графовым нейронным сетям

Алгоритмы ML

Сжато - об основных алгоримах машинного обучения

Другие публикации по теме алгоритмы

Интерпретируемые модели

Интерпретируемые модели в машинном обучении - 1

Интерпретируемые модели в машинном обучении - 2

Интерпретируемые модели в машинном обучении - 3

См. также другие публикации, посвященные ответу на вопрос почему для систем машинного обучения

Как машины видят нас

Xinming Huang - домашняя страница профессора WPI с интересными работами по семантической сегментации данных лидаров

Здесь есть пример сегментации и датасет для тестирования

Стандарты для цифровых двойников

Как описывать цифровых двойников

Открытые модели ML

Интересный материал - модели машинного обучения как программное обеспечение с открытым кодом

Поездки на метро

В московском метро существуют предпочтения пассажиров по маршрутам. Для многих станций конечная точка маршрута известна с большой вероятностью. Отсюда

В живом режиме

Interactive Tools for machine learning, deep learning, and math. Можно, например, посмотреть как работает GAN непосредственно в браузере.

См. также другие публикации об интерактивных моделях

Моделирование сдвига данных

Реальные данные для систем машинного обучения часто оказываются отличными от тех, на которых тренировали модель. В работе предлагается способ расширения тренировочного набора данных "сдвинутыми" элементами.

Измерение причины

Causal inference - как это измерить?

См. также другие публикации, посвященные каузальности

Качество систем машинного обучения

Важная тема - как оценивать качество систем машинного обучения? Это имеет прямое отношение к использованию ML в критических приложениях

102-й пример машинного обучения

В дополнение к практическим примерам использования ML - хороший учебный пример, полностью рассматривающий построение модели машинного обучения с использованием PyCaret

Дети цветов

Универсальный патч (цветок), который выглядит естественно, но при этом обманывает _любой_ классификатор изображений на основе глубинного обучения. Это то, чем в итоге заменят камуфляж на военной технике :)

Вот здесь есть видео с процессом.

Что там, на краю?

AI Edge - обзорная статья

Что они собираются делать?

Интересный патент по определению намерений пользователя на основании его сессии (лога событий)

Темная сторона ML

Цена ошибки в модели предсказания для временных рядов. По данным Bloomberg, компания Zillow потеряла 381 миллион долларов после того, как модель данных "вышла из строя".

FSOD

Few Shots Object Detection - распознавание объектов по небольшому числу примеров. Результаты пока не превышают 25%

О мультиколлинеарности

Поиск зависимостей между "независимыми" переменными

Как все это объяснить?

Прододжая тему объяснения результатов машинного обучения и ответов на вопрос "почему": обзор инструментов интерпретации моделей машинного обучения

101 пример - машинное обучение на практике

Классная идея - 101 пример использования машинного обучения на практике. Список подобранных статей по практическим аспектам применения ML

GLOM

Новая архитектура для обработки визуальной информации в нейронных сетях. И это - не трансформеры

NLP конвейер

Готовый NLP pipeline (для английского языка)

Качество данных

Библиотеки Python для проверки качества данных. Важный элемент пайплайна в машинном обучении

Больше пояснений

Схемы объяснений для вклада различных характерстик (features) в результат работы модели машинного обучения:

InterpretML

LIME & SHAP

Перестановки характеристик (Permutation Feature Importance)

ParSHAP - какие из характеристик вызывают перетренированность

SHAP vs ACV

См. также другие публикации, посвященные SHAP и ответу на вопрос "почему" для моделей машинного обучения

Данные, а не модели

Работайте с данными, а не моделями. Результаты будут много лучше. Работа с моделями все равно будет автоматизирована инструментами, подобными этому и все сведется к AutoML. А анализ данных не автоматизирует до конца никто, поскольку это связано с конкретной задачей (физикой процесса).

feature engineering - это главное в машинном обучении

О трансформерах

Подробное объяснение трансформеров

Мониторинг моделей

Простое объяснение мониторинга сдвига данных (с примерами)

Много звука

Размеченные аудио-датасеты

Разъяснения по состояниям ИИ

Мы уже публиковали делали отчета о состоянии исследований по искусственному интеллекту в 2021 году - AI 2021. Вот еще один материал, который разбирает этот отчет: State of AI Report 2021 Summary. Хорошо читаемый материал. Автор группирует отчет по слайдам и темам.

Моделирование неопределенности

Неопределенность в нейронных сетях - как с этим работать? Толковый материал по моделированию неопределенности в нейронных сетях

См. также предыдущие публикации, посвященные работе с неопределенностью

Deep Learning

История и краткий обзор

См. также другие публикации, посвященные deep learning

Нарисовать текст

Интересная модель отрисовки текста - сопоставление текста и картинок. Удивительно, что Сбер еще скопировал :). Исходные корни - в OpenAI

Открытая наука том 9, номер 11

Очередной номер журнала INJOIT появился на сайте Киберленинка. В этом номере опубликована, в частности, очередная статья из нашего нового цикла работ, посвященного устойчивому машинному обучению.

Это том 9, номер 11 за 2021 год. По данным elibrary.ru, журнал INJOIT занимает второе место в разделе Кибернетика и второе в разделе Автоматика и вычислительная техника

/via Лаборатория ОИТ

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Overfitting

Как его определить переобучение - весьма простой подход. Используется SHAP — SHapley Additive exPlanations. Вот здесь можно прочитать про него

Вот здесь можно посмотреть другие публикации, посвященные SHAP

Пример платформы данных

Пример собственной платформы данных в компании, занимающейся маркетингом в ecommecrce. Собрана целиком из открытых инструментов.

Цифровой двойник для беспилотников

Цифровой двойник и 3D моделирование для транировки беспилотных автомобилей

ИИ в 2021

Подборка достижений в Искусственном Интеллекте за 2021 год - статьи, код, видео с пояснениями

Пара интересных работ:

DefakeHop: A Light-Weight High-Performance Deepfake Detector
Мы уже представляли эту работу здесь

The Cocktail Fork Problem: Three-Stem Audio Separation for Real-World Soundtracks
Вы когда-нибудь настраивались на видео или телешоу, и актеры были совершенно не слышны, или музыка была слишком громкой? Что ж, эта проблема, также называемая проблемой коктейльной вечеринки, может больше никогда не повториться. Mitsubishi и Университет Индианы только что опубликовали новую модель, а также новый набор данных, решающий задачу определения правильного саундтрека. Например, если мы возьмем тот же аудиоклип, который мы только что запустили, со слишком громкой музыкой, вы можете просто увеличить или уменьшить звуковую дорожку, которую хотите придать речи больше, чем музыке.

Проблема здесь в том, чтобы изолировать любой независимый источник звука от сложной акустической сцены, такой как сцена из фильма или видео на YouTube, где некоторые звуки не сбалансированы. Иногда вы просто не слышите некоторых актеров из-за музыки, взрывов или других звуков на заднем плане. Что ж, если вы успешно изолировали разные категории в саундтреке, это означает, что вы также можете повышать или понижать только одну из них, например, немного приглушить музыку, чтобы правильно слышать всех других актеров. Именно этого и добились исследователи. И получилась довольно ясная архитектура

Данные, данные - 2

В продолжение публикации об инструментах Google для работы с данными:

Анализатор датасетов. Вот здесь есть информация об этом продукте

Дрифт данных

Все системы делают это. Данные на этапе использования не те, что были при обучении.

Почему важно определять дрейф данных

Как автоматизировать процесс определения изменения в данных

Missing Data

Пропущенные данные - что делать на практике и почему просто взять среднее значение соседей не есть хорошо.

У автора статьи есть целая книга в свободном доступе, где рассматривается именно такой итеративный процесс, когда пропущенные значения вычисляются как функция от других значений в датасете.

Внимательный телезритель

Multimodal Event Representation Learning Over Time (MERLOT) - метод предварительного обучения, который концентрирует знания, полученные из видео, без необходимости использования помеченных данных. Полученные в результате представления помогли точно настроенным моделям проводить различные суждения по видео с высочайшей точностью.

Как это работает: авторы разделили шесть миллионов видеороликов YouTube на 180 миллионов отдельных кадров, каждый из которых соединен с соответствующим текстом из расшифровки стенограммы.

Во время предварительного обучения ResNet-50 (кодировщик изображений на иллюстрации выше) генерировал начальное представление каждого кадра.

Трансформер (кодировщик только для языка) произвел представление связанного текста (с учетом всей транскрипции до этого момента). Функция потерь поощряла совпадение кадров и текстовых представлений быть похожими, а несоответствия - несхожими.

Другой трансформер получил представление каждого кадра и соответствующий ему текст (но не текстовое представление). Он научился угадывать замаскированные слова в тексте, а также правильный порядок кадров.

Результаты: MERLOT установил новый уровень достижимых результатов для 14 задач, которые включали ответы на вопросы об отдельных кадрах, ответы на вопросы о последовательностях кадров и упорядочивание неупорядоченных кадров. Особенно хорошо он справился с задачами с ответами на вопросы, предназначенными для проверки пространственных и временных рассуждений на GIF-файлах с Tumblr. Например, MERLOT ответил на вопросы с несколькими вариантами ответов о действии, выполняемом в клипе, с точностью 94,0 процента по сравнению с предыдущим лучшим результатом в 82,8 процента точности. В других областях улучшение было менее значительным. Например, в Drama-QA (датасет для тренировки понимания видео-историй) он ответил на вопросы с несколькими вариантами ответов об истории в клипах телешоу с точностью 81,4 процента по сравнению с предыдущим лучшим результатом в 81,0 процента.

Почему это важно: MERLOT научился упаковывать ряд важной информации о видеоизображениях, сопроводительном тексте и порядке кадров в создаваемые им представления. Количество неразмеченных видео и аудио данных - огромно, и такие алгоритмы обучения с самоконтролем, как этот, могут раскрыть огромную ценность таких данных.

А зависимость от публичных м легко модицируемых датасетов является хорошим примеров для иллюстрации проблем кибербезопасности. Текстовые описания для видео никто ведь не проверяет ...

Tensor Chip

Машинное обучение непосредственно в процессоре мобильного телефона

Лицедейство в браузере

Лице-слежение непосредственно в браузере. Еще один пример использования машинного обучения в JavaScript.

Машинное обучение на потоке

MediaPipe - Open Source кроссплатформенный пакет для машинного обучения на потоковых медиа. От Google, с хорошей документацией и со множеством примеров.

Не все так просто

Маска - я вас не знаю. Для авторизации в банковском приложении лицо в маске не подходит. Нужны другие устройства.

См. публикацию о физических атаках на системы машинного обучения.

Физические атаки на системы машинного обучения

Физические атаки на системы распознавания лиц

Весьма богатая тема. Естественные изменения для лиц используются как состязательные примеры. Здесь "одевают" маску.

Другие варианты:
маска с изображением другого лица (такой метод маскировки использовался в военном флоте - на борту корабля рисовали контур другого, более мелкого)
очки
повороты головы
кепка с козырьком
наушники
серьги
косметика

См. также другие публикации по теме adversarial, посященные устойчивому машинному обучению

Данные, данные

Анализ того, как проблемы с данными отражаются на моделях машинного обучения. Google называет это каскадами данных

Google также выпустил руководство по сбору и оценке данных - PAIR AI Guidebook, предназначенное для разработчиков и дизайнеров машинного обучения.

Deep fake космоснимков

Использование GAN для генерации поддельных космических снимков

См. также другие публикации по теме adversarial

Pandas в JavaScript

Danfo.js - анализ данный на JavaScript

Ленивая загрузка

Ускорение загрузки сайта через использование CSS свойства content-visibility

content-visibility: auto гарантирует максимальный возможный прирост производительности рендеринга страницы при минимальных усилиях.

Прокладка пути

Модуль прокладки маршрутов для OSM - Open Source Routing Machine

Состязательные атаки на системы машинного обучения

Machine learning adversarial attack. Введение

P.S. см. также другие публикации по теме adversarial

Мета-чтиво

Агрегаторы для статей в AI. Как читать больше?

GNN - введение

Как начать работать с GNN (и не стесняться этого)

См. также другие публикации, посвященные графовым нейронным сетям

Печатные новости

Пара статей из свежего номера журнала INJOIT:

Физический браузер: концепция и обзор существующих решений API - как использовать в веб-браузере информацию о физическом обружении. Например, различать с помощью JavaScript, открыта страница магазина (торгового центра и т.п.) в обычном десктоп-браузере, или же это мобильный веб-браузер и пользователь находится сейчас в помещении магазина.

Устойчивое машинное обучение - почему это стало самым важным.

Теория вероятностей для анализа данных

Учебник в свободном доступе Introduction to Probability for Data Science

О дип фейках

Facebook о поиске deep fakes. Ищут следы работы GAN в изображениях

См. также другие публикации, посвященные GAN

Марковские модели в городе

Марковское моделирование дорожного трафика

Разрыв нейронов

Новая модель объяснения того, как мозг обучается

Тренды в машинном обучении

Согласно Google Cloud’s Applied ML Summit:

Более развитые библиотеки компонентов, которые можно комбинировать.

Снижение ручных усилий: позвольте инструментам выполнять настройку гиперпараметров за вас или даже использовать AutoML, чтобы выполнить всю машинную обработку за вас.

Использование облака для массового параллельного обучения и конвейеров машинного обучения.

Развертывание моделей в TensorFlow Lite и TensorFlow.js.

про то, что все идет к AutoML, мы уже однократно писали

Отсюда

Карта ИИ

Гигантская карта искусственного интеллекта (кликабельна)

Отсюда

Тренды в аналитике данных

Отсюда

Causal Inference и Python

Визуализация каузальности - почему в графическом исполнении

Поиск причин - Causal discovery

см. также другие публикации, посвященные каузальности

Тайные общества

Поиск сообществ на графах. Новый вариант использования рекуррентной графовой нейронной сети.

Агентное моделирование

Пример агентного моделирования с использование Mesa в Python

Водяные знаки

Пометка изображений с использованием состязательного машинного обучения, так что попытки редактирования защищенного изображения становятся видны.

Нейронные сети с самых основ

Классно сделанный интерактивный учебник по нейронным сетям

Анализ логов

LogMine - извлечение шаблонов из логов

P.S. и интересная дискуссия со ссылками на другие продукты на YC

P.P.S. См. также другие публикации, посвященные анализу логов

Больше смещений, хороших и разных

Какой он бывает - bias

См. также другие публикации по теме bias

Вейвлеты

Простое и толковое описание - How Wavelets Allow Researchers to Transform, and Understand, Data

Почему - по версии Netflix

Вычислительные причинно-следственные выводы - как это понимает Netflix. Вот исходная статья, представляющая программый инструмент для анализа каузальности

см. также другие публикации, посвященные каузальности

Think different

Будущее ИИ - не в новых моделях, а в новом (ином) использовании существующих

Обогащение данных

Об одном подходе к улучшению качества данных. Имея изначально небольшой набор изображений для обучения, автор искусственно создавал изображения, проверял модель на них и добавлял к исходноиму набору данных нераспознанные изображения с правильными, вручную проставленными метками. Фактически - состязательная тренировка для улучшения качества данных.

Наше общее детство прошло на одних букварях

Атаки на система машинного обучения позволяют, в частности, выяснить - а был ли интересующий нас объект в тренировочном наборе? То есть по результатам работы системы можно оценить тренировочный набор данных. Вот пример такой атаки, которая называется Identity Membership Attack. Волшебная технология ...

Открытая наука, том 9, номер 10

Очередной номер журнала INJOIT появился на сайте Киберленинка. В этом номере опубликована, в частности, первая статья из нашего нового цикла работ, посвященного устойчивому машинному обучению.

Это том 9, номер 10 за 2021 год. По данным elibrary.ru, журнал INJOIT занимает второе место в разделе Кибернетика и второе в разделе Автоматика и вычислительная техника

/via Лаборатория ОИТ

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Ядерные методы

Хорошие рассуждения на тему - почему же глубинное обучение работает?

Интерпретация результатов машинного обучения

Интерпретация и объяснения для машинного обучения:

Отчет Cloudera Fast forward labs - Interpretability

XAI методы

Интегрированные градиенты

См. также другие публикации на тему "почему"

State of AI

Еще один отчет по Искусственному интеллекту: AI 2021. Интересен весьма глубокой технической экспертизой. Авторы - из мира венчурного капитала. То есть за выводы им отвечать своими деньгами.

Ключевые темы отчета за 2021 год включают:

ИИ развивается более конкретными способами, в том числе применяется в критически важной инфраструктуре, такой как национальные электрические сети, и в автоматизированной оптимизации складских помещений в супермаркетах во время пандемий.

Подходы, ориентированные на ИИ, взяли штурмом биологию благодаря более быстрому моделированию клеточных механизмов человека (белков и РНК). Это может изменить открытие новых лекарств и здравоохранение.

Трансформеры появились как архитектура общего назначения для машинного обучения, превзойдя современные достижения во многих областях, включая НЛП, компьютерное зрение и даже предсказание структуры белков.

Инвесторы обратили на ИИ внимание: рекордное финансирование в этом году стартапов в области ИИ и два первых в истории IPO компаний, занимающихся открытием новых лекарств, а также блокбастерные IPO для компаний, занимающихся инфраструктурой данных и кибербезопасностью, которые помогают предприятиям переоснащаться для перехода на эру ИИ.

Недостаточные ресурсы усилий по согласованию ИИ со стороны ключевых организаций, которые продвигают ИИ в целом, а также озабоченность по поводу наборов данных, используемых для обучения моделей ИИ, и предвзятость в контрольных показателях оценки моделей поднимают важные вопросы о том, как лучше всего отображать прогресс ИИ.

ИИ теперь представляет собой настоящую гонку вооружений, а не фигуральную форму. Исследователи ИИ традиционно рассматривали гонку вооружений ИИ как образную - имитированные воздушные бои между конкурирующими системами ИИ, проводимые в лабораториях, - но это меняется с сообщениями о недавнем использовании автономного оружия различными вооруженными силами.

В рамках соперничества между США и Китаем примечателен рост качества исследований и подготовки талантов Китая, при этом китайские институты теперь опережают наиболее известные западные. Зависимость мира от полупроводниковой промышленности Тайваня, которая производит микросхемы искусственного интеллекта для глобальных технологических гигантов, является центральной точкой геополитической напряженности.

Как и в случае с другими аспектами так называемого «фрагментированного интернета», происходит появление и национализация крупных языковых моделей.

См. также публикации про альманах искусственного интеллекта

Монография по Байесовской оптимизации

Книга в открытом доступе: Bayesian Optimization Book

См. также другие публикации по теме Байес

Python vs Swift

Проблемы Python, которые Google предлагает решать с помощью Swift

Веб-чат для Telegram

Симпатичный инструмент отправки запросов с сайта в Telegram

Альманах ИИ N 9

Альманах Искусственного интеллекта, посвященный аппаратному обеспечению

За пояснить

Почему это так - модерируемый список по explainability & interpretability для систем машинного обучения

Всех не просканируешь

Использование GAN для медицинских изображений. Для машинного обучения нужны данные (изображения), собирать трудно и дорого. Остается делать их самим.

Использование SHAP

Объяснение на примерах - как использовать SHAP для объяснения результатов машинного обучения. И делать это можно на разных уровнях: на этапе тренировки, при валидации и при использовании

См. также другие ссылки по теме "почему"

Академия графов

Хороший учебный сайт от Neo4j: графовая база данных и алгоритмы на графах

См. также другие публикации, посвященные Neo4j

Дата-журналистика

The Data Journalism Handbook

См. также другие публикации по теме журналистика

А что делать?

Программные инструменты имитации пространства для физического общения

ML поисковик

Мета-поиск по моделям ML и исходному коду. Вот, например, статьи и код по теме adversarial

Парковки в городах

Весма подробный и тольковый обзор решений для парковок в Умном городе

Wi-Fi sensing

Хороший обзор по использованию стандартных Wi-Fi устройств длдя мониторинга активности

См. также другие публикации, посвященные Wi-Fi

Устойчивое машинное обучение

Академические и индустриальные проекты, посвященные устойчивому машинному обучению. Обзорная статья.

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Реальный ИИ

Про искусственный интеллект: "Несмотря на утверждения об обратном, у беспилотных автомобилей в настоящее время больше аварий, чем у автомобилей, управляемых людьми, но травмы менее серьезные. В среднем происходит 9,1 ДТП с участием беспилотных автомобилей на миллион пройденных километров, в то время как такой же показатель составляет 4,1 ДТП на миллион миль для обычных транспортных средств."

Отсюда

См. также предыдущую публикацию по этой теме

О нейронных сетях на графах

Пара статей:

1. Обзор GNN

2. О кодировке графов

См. также другие публикации, посвященные GNN

Печальная реальность

Реальное состояние систем искусственного интеллекта - без человека пока никак. Или это должны быть системы с низкой ценой ошибки.

"Жидкие" нейронные сети

Нейронные сети, которые обучаются в процессе работы. Вот здесь есть подробнее об этом проекте из MIT. Выглядит как вариация на тему онлайн обучения. И совсем непонятно, как в такой модели бороться за устойчивость.

Online ML

Онлайн системы машинного обучения. Это ситуация, когда у нас нет полного датасета. Данные поступают последовательно

Состязательная косметика

Наглядный пример атак на систем машинного обучения

Состязательный макияж. Что нового: исследователи из Университета Бен-Гуриона и NEC разработали систему для нанесения естественного макияжа, который делает людей неузнаваемыми по моделям распознавания лиц.

Как это выглядит: работая с 20 добровольцами, исследователи использовали FaceNet, которая изучает сопоставление изображений лиц с компактным евклидовым пространством, для создания тепловых карт, показывающих, какие области лица наиболее важны для идентификации.

Они использовали приложение для виртуального преобразования потребительского уровня YouCam Makeup, чтобы преобразовать тепловые карты в цифровые шаблоны макияжа, наложенные на изображение каждого добровольца. Они скармливали FaceNet копии этих цифровых снимков лица до тех пор, пока объект не стал неузнаваемым. Затем визажист физически нанес эти узоры на настоящие лица в нейтральных тонах.

Добровольцы шли по коридору, сначала без макияжа, а затем с макияжем, пока их снимали две камеры, которые транслировали свои снимки на распознаватель лиц ArcFace. Результаты: ArcFace распознал участников с нанесенным макияжем в 1,2% кадров. Он распознал тех, кто не использовал макияж в 47,6 процентах кадров видео, и тех, кто использовал случайный рисунок макияжа в 33,7 процента кадров.

Почему это важно: эта новая техника требует только обычного ненавязчивого макияжа и отказа от аксессуаров, которые могут вызвать подозрения у сотрудников службы безопасности. Он предлагает, пожалуй, самый простой способ для обычных людей помешать распознаванию лиц - по крайней мере, до тех пор, пока алгоритмы не приспособятся (то есть будут обучены распознавать такие случаи).

См. также другие публикации по теме adversarial, посященные устойчивому машинному обучению

И о статистике

Интересный практический материал - ошибки статистиков. Изложение иллюстрируется соответствующей тетрадкой для непосредственной работы с кодом

Распределитель

Интересная и практическая статья Spatial-Temporal Demand Forecasting and Competitive Supply. Распределение заказов в логистике, такси по клиентам и т.д.

Евро IoT

IoT 2.0 and the INTERNET of TRANSFORMATION (Web of Things and Digital Twins) - технический отчет EU по современному состоянию систем IoT

Ученый рейтинг

Рейтингование исследователей по данным Google Scholar. Вот, например, Computer Science в России за 2021 год

Аппроксимация по перцентилям

Практический метериал: How percentile approximation works (and why it's more useful than averages). Все дело в длинных хвостах.

Свободное место

Поиск свободных парковок по изображениям

МЭМС

МЭМСы. Как устроены современные датчики?. Микроэлектромеханические системы (МЭМС) — устройства, объединяющие в себе микроэлектронные и микромеханические компоненты.

Крайние вещи

Обзор Edge based IoT

Анализ причинных связей

Анализ причинных связей переменных

См. также другие публикации, посвященные каузальности

Автомат перекоса

Регрессия для данных, где много нулевых значений

Ноу криминалити

Общественная палата зачем-то выложила поминутный график электронного голосования в Москве. За одну минуту в 3 часа ночи 18.09 проголосовало 4500 человек. И тут же легли спать - ни до, ни после ничего такого нет. Совсем ноу криминалити. Ну никаких следов взлома.

Данные - отсюда

Декларативный ML

Важная статья. Следующий шаг за AutoML - это декларативный ML

Байесовская оптимизация

Байесовская оптимизация с хорошими иллюстрациями

P.S. см. также другие публикации по теме Байес

Тестирование ML приложений

Важная тема - как тестировать системы машинного обучения.

Правило использования ML

ML strategy tip

When you have a problem, build two solutions - a deep Bayesian transformer running on multicloud Kubernetes and a SQL query built on a stack of egregiously oversimplifying assumptions. Put one on your resume, the other in production. Everyone goes home happy.

Отсюда: Первое правило для машинного обучения - попробуйте без него

Кстати, Google говорит о том же: Rule #1: Don’t be afraid to launch a product without machine learning.

Основы HTTP/3

Толковый перевод статьи по HTTP/3

См. также другие публикации, посвященные HTTP/3

Java 17

Новый релиз Java. Не знаю, как на такие добавления реагировать, точно ли все это нужно?

Как испортить изображение

Модификации данных в системах на базе машинного обучения, которые ломают систему (обманывают классификаторы)

HMM vs LSTM

Для анализа последовательных данных доступно множество инструментов. Один из самых простых, гибких и проверенных временем подходов - это скрытые марковские модели (HMM). Изначально они были разработаны для обработки сигналов, а теперь широко используются в биоинформатике.

В сообществе специалистов по науке о данных есть тенденция отдавать предпочтение вариантам машинного обучения, таким как LSTM. Хотя эти инструменты довольно мощные, они также заведомо сложны и трудны для понимания. В результате вы часто видите, как специалисты по обработке данных изо всех сил пытаются использовать сложный подход, когда простой будет работать лучше.

Скрытые модели Маркова или LSTM?

Атаки на системы распознавания голоса

Как выглядят атаки на системы распознавания речи

Что когда использовать?

Краткое руководство по применению моделей машинного обучения

Пространственно-временные кластеры

Интересная статья: k-NN с учетом времени

Кубик

OLAP Cube - красочное описание

Online ML

River - машинное обучение для потоков данных

CLTC UC Berkeley

Center for Long-Term Cybersecurity University of California, Berkeley. И их исследования в области устойчивого машинного обучения

О маленьком Интернете

Как посторить гиперлокальный Интернет. Ресурсы сети доступны только в некоторой локальной области (в сетевой близости от пользователя). Статья конференции DCCN-2020

Открытая наука том 9, номер 9

Очередной номер журнала INJOIT появился на сайте Киберленинка

Это том 9, номер 9 за 2021 год. По данным elibrary.ru, журнал INJOIT занимает второе место в разделе Кибернетика и второе в разделе Автоматика и вычислительная техника

/via Лаборатория ОИТ

ИИ оптимизатор

Deep learning модель, которая оптимизирует нейронные сети

Инциденты с ИИ

База данных Artificial Intelligence Incident.

Вот здесь есть описание проекта от авторов

Являясь центральным систематизированным хранилищем проблем, возникающих в реальном мире в результате применения ИИ, эта краудсорсинговая база данных может помочь специалистам в области ИИ смягчить или избежать повторения плохих результатов в будущем. Откройте для себя ранее предоставленные отчеты об инцидентах или отправьте свои собственные сегодня.

Обобщение в нейронных сетях

Люди понимают мир с помощью абстракции: если вы усвоите концепцию схватывания палки, вы также поймете, как схватить мяч. Новая работа исследует способность систем глубокого обучения делать то же самое - важный аспект их способности делать обобщения.

Что нового: психологи называют такое мышление систематическим рассуждением. Исследователи из DeepMind, Стэнфордского университета и Университетского колледжа Лондона изучали эту способность в моделях глубокого обучения с подкреплением, обученных взаимодействовать с окружающей средой и выполнять задачу.

Ключевой вывод: Феликс Хилл и его коллеги обучили модель помещать объект 1 в точку 1 с примером выполняемого действия. Во время тестирования они попросили модель поместить объект 2 в позицию 2. Объекта 2 и позиции 2 не было в обучающей выборке, поэтому способность модели выполнять задачу указывает на общее понимание того, как положить.

Как это работает: модель получает представление об окружающей среде вместе с описанием задачи (инструкцией по размещению или поиску данного объекта). Модель обрабатывает эти элементы по отдельности, а затем объединяет свое понимание каждого из них, чтобы определить серию действий для выполнения задачи.
Модель состоит из трех компонентов (обычный выбор для обработки изображений, понимания текста и решений последовательности): CNN обрабатывает представление среды, LSTM интерпретирует описание задачи, а выходы CNN и LSTM объединяются в скрытом слое LSTM для отслеживания прогресса. к выполнению задачи.
Модель учится связывать различные объекты с их именами, выполняя задачи put [object] или find [object]. Исследователи разделяют объекты на тестовые и обучающие наборы. Затем они обучают модель ставить или поднимать предметы в обучающую выборку. Чтобы измерить систематичность рассуждений, они просят его поднять или положить предметы в набор для тестирования.

Результаты: исследователи обучили копии модели в смоделированных 2D и 3D средах. В любом случае более 91% удалось поднять новые объекты. Однако успешность размещения новых объектов упала примерно до 50 процентов в обеих средах.

Да, но: удаление описания задачи и компонента LSTM не сильно повлияло на производительность. То есть, хотя такие слова, как положить и найти, могут помочь людям понять, как нейронные сети работают систематически, язык, по-видимому, не имеет решающего значения для их работы.

Почему это важно: нейронные сети могут делать обобщения, но наше понимание того, как они это делают, неполно. Это исследование предлагает способ оценить роль систематических рассуждений. Результаты предполагают, что модели, которые рассуждают систематически, с большей вероятностью будут обобщать.

Вывод: недавняя серия предварительно обученных языковых моделей приобретает знания, которые позволяют им выполнять различные задачи без переобучения с нуля. Понимание систематических рассуждений в нейронных сетях может привести к повышению производительности в областях, отличных от естественного языка.

Отсюда

TensorFlow + Keras

Учебник в colab: TensorFlow + Keras

Data engineering проекты

5 интересных проектов по выбору создателя инфраструктуры Twitter

Что еще можно подслушать?

Умная звуковая колонка позволяет слушать сердцебиение

Радио - это очень просто

По мотивам знаменитой книги. Как передаются сигналы по радио.

Кто это сделал?

Интересная работа по учету вклада отдельных уровней CNN в результат работы сети. Важно в плане генерации возможных состязательных примеров.

См. также другие статьи, посвященные CNN

ML ресурсы

Интересные ссылки по машинному обучению:

https://paperswithcode.com - соответствует названию. Статьи, изложение которых сопровождается кодом. Cвежие решения задач, ссылки на тестирование проектов на разных референсных датасетах.

https://distill.pub - журнал по ML с хорошо иллюстрированными статьями

https://ruder.io - блог NLP разработчика из DeepMind (Sebastian Ruder)

http://colah.github.io - еще один блог (Christopher Olah) с объяснениями разных прооблем ML

Физический интернет

Паллеты и контейнеры в роли IP-пакетов

Сравнение AutoML продуктов

Сравнительный анализ работы AutoML на открытых датасетах

См. также другие публикации по теме AutoML

А пояснить?

Explainability в машинном обучении.

См. также другие публикации на тему "почему"

О неопределенности в машинном обучении

Типичный пример продукта в машинном обучении - MAPIE. Длинное описание, все хорошо, и последнее предложение, которое все убивает: At the moment, MAPIE can only be used on single-output regression problems. Все это - для одной единственной модели. Самой простой :)

Дрифты в машинном обучении

Интересный и практически полезный отчет от Cloudera по оценке смещения в распределении данных. Обучали модель на одних данных, а тестовые данные имеют другое распределение

И это все?

Нейронные сети при распознавании образов - это всего лишь хэш-таблица с нечеткими ключами.

И еще о pandas

Простые примеры использования Pandas. И самый простой способ использования это, конечно, бесплатные облачные блокноты: IBM Watson Studio и Google Colab

См. также другие публикации, посвященные pandas

Больше учебных программ по ИИ

1. Гранты Минобрнауки на разработку учебных программ бакалавриата и программ магистратуры по профилю «Искусственный интеллект», а также на повышение квалификации педагогических работников образовательных организаций высшего образования в сфере искусственного интеллекта - результаты

2. Яндекс на мехмате МГУ

Классификатор ML алгоритмов

63 алгоритма машинного обучения

Современные проблемы компьютерных и информационных наук

24 - 27 ноября 2021 года на факультете вычислительной математики и кибернетики Московского государственного университета имени М.В. Ломоносова состоится Международный конгресс «СОВРЕМЕННЫЕ ПРОБЛЕМЫ КОМПЬЮТЕРНЫХ И ИНФОРМАЦИОННЫХ НАУК». В рамках Конгресса будут проведены пленарные заседания и серия научных мероприятий, соответствующих приоритетным направлениям развития науки, технологий и техники в Российской Федерации в крупнейшей междисциплинарной области современности - информационно-телекоммуникационные системы - которая объединяет представителей математики, информатики, физики и наук о материалах, компьютерных наук, наук о данных и гуманитарных наук из России и зарубежных стран.

Конгресс проводится в рамках программы деятельности Федерального учебно-методического объединения в системе высшего образования по укрупненной группе специальностей и направлений подготовки 02.00.00 «Компьютерные и информационные науки».

Основная программа научных мероприятий Конгресса включает проведение:

VI Международной научной конференции «Конвергентные когнитивно-информационные технологии»;
XVI Международной научно-практической конференции «Современные информационные технологии и ИТ-образование»;
XI Международной конференции-конкурса «Инновационные информационно-педагогические технологии в системе ИТ-образования» – ИП-2021.

Материалы принимаются только в электронном виде через англоязычную или русскоязычную web-форму. Для прикрепления материалов требуется регистрация на сайте конференции.

Рабочими языками Конгресса являются английский или русский.

По результатам работы VI Международной научной конференции «Конвергентные когнитивно-информационные технологии» и XVI Международной научно-практической конференции «Современные информационные технологии и ИТ-образование» научные доклады, рекомендованные программным комитетом, будут опубликованы в Международном научном журнале «Современные информационные технологии и ИТ-образование» (ISSN 2411-1473), который включён в Перечень ВАК Минобрнауки РФ, и проиндексированы в РИНЦ, EBSCO, DOAJ, Ulrichsweb Global Serials Directory, European Reference Index for the Humanities and the Social Sciences (ERIH PLUS), Index Copernicus International.

С целью повышения видимости публикаций конференций для международного научного сообщества избранные научные доклады VI Международной научной конференции «Конвергентные когнитивно-информационные технологии» и XVI Международной научно-практической конференции «Современные информационные технологии и ИТ-образование» будут опубликованы в издательстве Springer в виде отдельных книг (выпусков) в серии Communications in Computer and Information Science (CCIS) и проиндексированы в базе Scopus.

Правила оформления и подачи работ

И о моделях

Все не так хорошо с натренированными моделями машинного обучения. А что плохо - описано здесь. Спойлер - проблема с устойчивостью (как и везде в современном машинном обучении).

Рекомендации в реальном времени

Хороший обзор - как устроены рекомендации в реальном времени

См. также другие публикации, посвященные анализу данных в реальном времени и сессионным рекомендательным системам

R и анализ данный

Все для (и про) анализа данных на R от The Johns Hopkins Data Science Lab

См. также другие публикации, посвященные языку R

Интеллектуальные двойники

Цифровые двойники по-китайски. Intelligent Twins от Хуавей

См. также другие публикации, посвященные digital twins

BIM-блог

Хороший блог, посявященный информационному моделированию

См. также другие публикации, посвященные BIM

Анализ динамических взаимодействий

Социальный граф естественным образом представляется в виде графовой структуры. Узлы - участники социальной сети, например, а ребра - связи между ними. В данной статье рассматриваются динамические сети, которые отображают текущее (меняющееся во времени) взаимодействие (общение) участников.

Куда дальше?

Yoshua Bengio, Geoffrey Hinton и Yann LeCun - проблемы глубинного обучения и куда двинаться дальше. Одно из направлений - System 2 deep learning.

Современные системы машинного обучения основаны на гипотезе независимо и одинаково распределенных (IID - independently and identically distributed) данных. По сути, алгоритмы машинного обучения работают лучше всего, когда их обучающие и тестовые данные относятся к одному и тому же распределению. Это предположение может хорошо работать в простых средах, таких как подбрасывание монет и бросание игральных костей. Но реальный мир запутан, и распределения почти никогда не бывают однородными.

«Когда мы это делаем, мы уничтожаем важную информацию об изменениях в распределении, которые присущи собираемым нами данным», - сказал Yoshua Bengio. «Вместо того, чтобы уничтожать эту информацию, мы должны использовать ее, чтобы узнать, как меняется мир».

Интеллектуальные системы должны иметь возможность делать выводы для различных распределений данных, точно так же, как человеческие дети учатся приспосабливаться к изменениям своего тела и окружающей среды. «Нам нужны системы, которые могут справиться с этими изменениями и осуществлять непрерывное обучение, обучение на протяжении всей жизни и так далее», - сказал Yoshua Bengio в своем выступлении на NeurIPS. «Это давняя цель машинного обучения, но мы еще не нашли решения этой проблемы».

BIM и IoT

Информационное моделирование развивается весьма быстро. Вот статья с обзором литературы по теме использования BIM и Интернета вещей

Робастные модели

Практический пример - почему нужны устойчивые модели машинного обучения: квадратные автомобильные номера не распознаются

Как изучать ИИ в 2021

Очередная подборка учебных материалов по искусственному интеллекту

Отбор признаков

Бесплатные инструменты для feature selection в задачах машинного обучения

См. также другие инструменты для выбора признаков

Кодо-картинки

Хороший пример визуализации репозиториев программ

Статистическое обучение

Книга в свободном доступе: Введение в статистическое обучение. Вторая редакция. С упражнениями и примерами.

Python для ленивых

Техническое: в этом Python playground помимо самого текста программы можно еще и загружать текстовые файлы данных

См. также другие публикации, посвященные Python

Вас здесь не звучало

Новая волна стартапов (сервисов) по генерации голоса. Актеры для озвучки становятся просто не нужны

Интерпретируемый K-means

Практический материал - что отличает один кластер от другого. Как определить самые важные характеристики кластеров при использовании K-Means

Проще - лучше

Новая архитектура для систем машинного зрения на базе многослойного перцептрона проще, чем CNN

Open Source школа от Самсунг

Хотите прокачать скиллы Open Source-разработчика этим летом? Самсунг приглашает разработчиков поступить в бесплатную летнюю онлайн школу Community of Open Source Newcomers (COMMoN). Open Source стал глобальным трендом развития программного обеспечения как для компаний, так и для разработчиков. Все пользуются open source решениями, а у многих ли за плечами опыт успешного котрибьюторства в большие проекты?

Разработчики смогут это сделать в школе COMMoN! Участники проведут 4 недели, обучаясь у опытных контрибьюторов и работая над своим собственным коммитом в один из трех известных open source проектов: ROS, Arenadata DB, DeepPavlov.

И это не всё, лучшие решения получат награду от компаний-партнеров треков.

Сроки работы онлайн школы: 16 августа – 10 сентября 2021 г.

Возраст участников не ограничен. Как поступить: https://sosconrussia.net/common_ru

Как устроены CNN

Объяснение работы Convolutional Neural Networks. И интересная дискуссия на YC

P.S. см. также другие публикации, посвященные CNN

Листая старые страницы

Сборник: РАСПРЕДЕЛЕННЫЕ КОМПЬЮТЕРНЫЕ И ТЕЛЕКОММУНИКАЦИОННЫЕ СЕТИ: УПРАВЛЕНИЕ, ВЫЧИСЛЕНИЕ, СВЯЗЬ (DCCN-2020)

и интересная статья о построении гиперлокальной сети Интернет

Карты значимости

Все нейроны важны, но некоторые важнее. От чего реально зависи вывод нейронной сети? Это, кстати, имеет прямое отношение к устойчивости систем машинного обучения. Значимые нейроны - это то, что и может быть атаковано.

Языковые модели

Как устроены языковые модели

Курсы Kaggle

Курсы от Kaggle по машинному обучению и связанным вопросам

Приложения GNN

Графовые нейронные сети на практике

См. другие публикации, посвященные GNN

Об устойчивом машинном обучении

Базовая проблема для систем машинного обучения: данные на этапе тренировки модели и при практической эксплуатации - разные. И не похожи друг на друга. Другое распределение - distributional shift. Что же делать?

Соревнование от Яндекса: Если сдвиг распределения данных в реальном мире значителен относительно обучающей выборки (например, модель машинного перевода, которая училась на классической литературе, вдруг возьмется переводить твиты), недостаточно надежные модели будут ошибаться. Поэтому, попадая в реальный мир, модели должны быть готовы справляться со сдвигом, который их там ждет.

Этим, однако, дело не ограничивается. Чтобы модель работала эффективно и безошибочно, о вероятности ошибки лучше знать заранее: следовательно, модель должна давать оценку неопределенности относительно своих решений. Поэтому мы хотим добиться от моделей, с одной стороны, устойчивой работы при сдвиге распределения, а с другой — умения оценивать неопределенность.

Это часть NeurIPS 2021 Competition Track. Вот оригинальная страница Shifts Challenge

Все о регрессии

Большая регрессионная книга. Примеры на Python и R

И об потерях

Все о loss-функциях

Системные архитектуры

Толковые лекции по программной архитектуре

P.S. тут у автора еще есть интересные материалы по программной инженерии

Объявляется прием на программу "Разработчик компьютерных технологий"

Объявляется прием на программы профессиональной переподготовки для получения дополнительной квалификации «Разработчик профессионально-ориентированных компьютерных технологий»
(очно-заочная и дистанционная формы обучения) с 14 июля по 20 сентября 2021 г.

Сроки обучения – 2 года
Форма обучения – вечерняя (очно-заочная) и дистанционная.
Обучение осуществляется на договорной основе (50 000 руб. за 1 семестр, вся программа – 200 000 руб.)
Выпускники получают Диплом о профессиональной переподготовке с присвоением дополнительной квалификации установленного образца.

Прием документов и подробная информация на сайте

Зачисление производится приемной комиссией факультета по факту оплаты за 1й семестр.
Телефон для справок: 8(910)553-6487, dpovmk@cs.msu.ru Якушин Алексей Валериевич

/via Магистратура ВМК МГУ

Долой SQL

Довольно интересная атака на SQL. И бурная дискуссия на YC

Copilot

Обзор текущего состояния системы Copilot (генеративная модель для генерации кода). Пока получается не очень хорошо.

Вам, Юлиеводы

Коллекция алгоритмов data science, реализованных на языке Julia

P.S. см. также другие публикации, посвященные языку Julia

Открытая наука, том 9, номер 7

Очередной номер журнала INJOIT появился на сайте Киберленинка

Это том 9, номер 6 за 2021 год. По данным elibrary.ru, журнал INJOIT занимает второе место в разделе Кибернетика и второе в разделе Автоматика и вычислительная техника

/via Лаборатория ОИТ

NLP курс

Интересный курс по NLP, целиком реализованный на Google Collab

Fake Detector

Это не его лицо - fake face detector всего с 40 000 параметров

Вот здесь подробнее об этой и других похожих работах

А поговорить?

State of the Art: современное состояние систем синтеза речи

О цифровых двойниках

Событийная платформа для цифровых двойников

Современная статистика

Неплохой учебник по современной статистике в открытом доступе

Госуслуги

502 Bad Gateway
nginx

Символично ...

SNAP и другие

Python-библиотеки для интерпретации результатов машинного обучения

О безопасном ИИ

Манифест от CMU, посвященный устойчивому машинному обучению. С интересной библиографией

GitHub MLOps

Использование Github Actions для DevOps

Пространственные запросы в помещении

Интересная работа по Indoor Spatial Queries: Modeling, Indexing, and Processing

Архитектура распределенных систем

Толковое описание архитектуры распределенных систем

Локальный хэш

Хэш, для поиска ближайших (похожих) данных

И интересная дискуссия на YC

См. также другие публикации с темой хэш

О работе в машинном обучении

1. Что спрашивают при приеме: энциклопедия ML interview

2. Как работать - анализ опросов разработчиков на Kaggle. Чем занимаются, какие инструменты используют работающие в области ML

См. также другие публикации, посвященные интервью при приеме на работу

О трансформерах

Трансформеры - как это работает

О важности очистки данных

Хорошая публикация об очистке данных в системах машинного обучения

См. также другие публикации о системах очистки данных

Где-то на краю ...

Edge/Fog computing и приложения IoT

Упрощение траекторий

Спрямление траеторий путем обучения с подкреплением

Байесовские модели и R

Построение Байесовских моделей с помощью R

См. также дркгие публикации по теме Байес

DataOps

Что представляет собой DataOps