Учебник по RL

Reinforcement Learning: From Bandits to LLM Alignment. Есть русский перевод

Графы знаний на русском

Учебный курс на русском языке: Knowledge Graphs

IARIA tutorials

Учебные лекции конференций IARIA

Безопасность ИИ-агентов

Учебное пособие на русском языке. Подготовлено на кафедре ИБ факультета ВМК МГУ имени М.В. Ломоносова. В первую очередь - для слушателей курса Разработка агентов ИИ, который с осени 2025 читается на факультете. Обновленный вариант на декабрь 2025. Охваченные вопросы:

• Структура ИИ-агентов и шаблоны проектирования
• Проблемы с безопасностью ИИ-агентов
• Риски безопасности ИИ-агентов
• Модель угроз
• Уязвимости MCP
• Вопросы безопасности во фреймворках разработки ИИ-агентов и практические рекомендации
• Безопасные шаблоны для ИИ-агентов

Скачать пособие можно здесь

См. также другие публикации, посвященные агентам

Приватные курсы

Интересные курсы от ETH по приватности данных и LLM

Внутреннее техническое устройство LLM

Книга (конспект лекций) в открытом доступе Formal Aspects of Language Modeling

См. также другие публикации, посвященные LLM

Первый курс по причинно-следственной связи

Учебник (почти 500 стр.) в открытом доступе - A First Course in Causal Inference

см. также другие публикации, посвященные каузальности

Безопасность ИИ-агентов

Учебное пособие на русском языке. Подготовлено на кафедре ИБ факультета ВМК МГУ имени М.В. Ломоносова. В первую очередь - для слушателей курса Разработка агентов ИИ, который с осени 2025 читается на факультете. Охваченные вопросы:

• Структура ИИ-агентов и шаблоны проектирования
• Проблемы с безопасностью ИИ-агентов
• Риски безопасности ИИ-агентов
• Модель угроз
• Уязвимости MCP
• Вопросы безопасности во фреймворках разработки ИИ-агентов и практические рекомендации

Скачать пособие можно здесь

См. также другие публикации, посвященные агентам

Учебный курс по LLM

ETH - Large Language Models, Spring 2025.

/via Florian Tramèr. На странице лаборатории в ETH есть и другие интересные курсы

P.S. См. также другие публикации, посвященные LLM

Защита LLM приложений

"Предварительно обученные генеративные модели, особенно большие языковые модели, предоставляют пользователям новые способы взаимодействия с компьютерами. Хотя исследования и приложения генеративной обработки естественного языка ранее были направлены на решения, ориентированные на узкую предметную область или задачи, современные LLM и приложения (например, диалоговые системы, агенты) универсальны и подходят для множества задач и областей. Несмотря на то, что LLM обучены быть полезными и соответствовать предпочтениям человека (например, безвредности), обеспечение надёжных защитных барьеров для LLM остаётся сложной задачей. И даже будучи защищёнными от элементарных атак, как и другое сложное программное обеспечение, LLM могут быть уязвимы для атак с использованием сложных вредоносных входных данных.

В этом руководстве представлен всесторонний обзор ключевых защитных механизмов, разработанных для LLM, а также методологий оценки и подробный протокол оценки безопасности, включая автоматическое объединение приложений на основе LLM. Наша цель — выйти за рамки обсуждения атак с использованием одиночных подсказок и фреймворков оценки и рассмотреть, как можно реализовать защиту в сложных диалоговых системах, использующих LLM.

Мы стремимся предоставить актуальный и полный обзор рисков развертывания, связанных с LLM в производственных средах. Основное внимание будет уделено эффективной защите от угроз безопасности, но мы также рассмотрим более актуальную тему обеспечения диалога и актуальных рельсов, включая соблюдение пользовательских политик. Мы также рассмотрим новые векторы атак, создаваемые диалоговыми системами с поддержкой LLM, например, методы обхода управления диалогом." - Защитные барьеры и безопасность для LLM: Безопасное, надежное и контролируемое управление LLM приложениями. Учебный материал с конференции ACL 2025

См. также другие публикации, посвященные LLM

Курсы по MCP

Anthropic запустили бесплатные курсы, которые охватывают все от использования API до MCP

См. другие публикации, посвященные MCP

Интернет Вещей и все остальное

Магистерский курс "Безопасность инфраструктурных технологий"

Байесовская статистика

4-x дневный курс с примерами из R

P.S. см. также другие публикации по теме Байес

Устройство LLM

Хорошая лекция о принципах работы LLM от Andrej Karpathy

См. также другие публикации, посвященные LLM

Машинное обучение в проде

Курс CMU, который охватывает, как создавать, развертывать, обеспечивать и поддерживать программные продукты с моделями машинного обучения. Включает весь жизненный цикл от прототипа модели ML до целой системы, развернутой в производстве. Охватывает также ответственный ИИ (включая безопасность, защищенность, справедливость, объяснимость) и MLOps. - Machine Learning in Production (17-445/17-645/17-745) / AI Engineering (11-695)

Advanced Natural Language Processing

Курс по обработке естественного языка от CMU. 2025 год, презентации, код

См. также другие публикации, посвященные NLP

ИИ-агенты

Учебный курс от HuggingFace по LLM-агентам

Образование в эпоху LLM

Учебник по линейной алгебре, написанный с участием LLM

Лабораторные работы по IoT

Детально разработанные практические занятия по IoT. На базе Cisco Packet Tracer

Deep Learning c примерами

Материалы нового курса и книга от автора курса