Тестирование ML

Giskard - тестирование ML моделей, включая LLM

Тестирование по словарю

Специальгный датачет для тестирования LLM: FLAMES (Fairness, Legality, Data protection, Morality, Safety)

См. также другие публикации, посвященные LLM

Кибербезопасность IoT

Хороший обзор - Internet of Things: Evolution, Concerns and Security Challenges

См. также другие публикации по теме IoT

Международный конгресс «Современные проблемы компьютерных и информационных наук»

Трансляция пленарного заседания здесь

Аудит и сертификация систем машинного обучения

Презентация, посвященная аудиту систем машинного обучения. Аудит должен быть обязательной процедурой для промышленных систем ИИ.

Обучение без учителя

"Для внедрения ИИ в практику нужны серьезные технические решения, к которым готовы далеко не все медучреждения, сказывается и дефицит кадров в этой области, добавляет гендиректор сервиса онлайн-расшифровки снимков «Честная медицина» Дмитрий Росляков. Михаил Виноградов основную проблему видит в том, что ИИ приходится учиться в том числе на снимках, где врач не выделил патологию, никак не прокомментировал данные и не подтвердил диагноз."

Отсюда

Техники допроса

Техники prompt engineering

См. также другие публикации по теме prompt и LLM

Управляемые нейронные сети

Steerable Neural Networks. Расширение для CNN, когда возможна не только трансляция, нои другие преобразования (повороты и т.п.)

Забудь все это

Программные подходы к стиранию памяти LLM

См. также другие публикации, посвященные LLM

ML RIGVIR

Машинное обучение и онковирусы. Статья и презентация для конференции FRUCT 2023

По ситуации

Situational Awareness: Techniques, Challenges, and Prospects. И военные применения этой технологии

Состязательные атаки и защиты для графовых моделей

Коллекция атак и защит для GNN

P.S. см. также другие публикации, посвященные GNN, а также также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Киберугрозы в финансовом секторе

Обзор Классификация киберугроз и меры противодействия им в банковско-финансовом секторе

Табличный граф

Интересная идея - графовое представление табличных данных

Метрики LLM

Простой курс по метрикам безопасности и качества для LLM. От компании Whylabs - проект Langkit

См. также другие публикации, посвященные LLM

LLM оценивает LLM

Использование LLM для оценки LLM

См. также другие публикации, посвященные LLM

Как учить LLM

В порядке борьбы с галлюцинациями: данные берутся из внешних источников. LLM отвечает за интепретацию полученных данных в контексте запроса.

Отсюда

См. также другие публикации, посвященные LLM

Вредные онтологии

Онтологический анализ программ-вымогателей

О качестве поиска

Поведенческий анализ определяет качество поиска. LLM без настройки не дадут большого эффекта.

Векторный поиск

Поиск в неструктурированных текстах в Neo4J

Киберфизический датасет

Набор данных от множества сенсоров для исследования аномалий в киберфизических системах (в Умном доме, например)

Нюансы Redis

Хорошее описание деталей работы с Redis

См. также другие публикации, посвященные Redis

Атаки с подкреплением

A Survey on Attacks and Their Countermeasures in Deep Learning: Applications in Deep Neural Networks, Federated, Transfer, and Deep Reinforcement Learning

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Городские дроны

Платформа для организации движения дронов в Умном городе