технические проблемы и идеи, родившиеся в бурных водах реки Abava (а равно как и на ее берегах, далеких и близких), выставленные на всеобщее обсуждение
Friday, January 31, 2025
Thursday, January 30, 2025
Большие атаки
Исторически, состязательные атаки рассматривались как малые ("незаметные") возмущения входных данных, которые меняют работу модели. Но ведь модель могут обманывать произвольные модификации. И если в контуре принятия решений нет человека, то "незаметность" вообще ни на что не влияет. Вот одна из немногих работ, где рассматриваются "неограниченные" модификации. Глобальная атака уклонения.
P.S. См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению
Wednesday, January 29, 2025
Российские ИИ продукты
Tuesday, January 28, 2025
Состязательные атаки по-умному
С помощью объяснения работы модели строим состязательные атаки.
P.S. См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению
Monday, January 27, 2025
Родовые проблемы
См. также другие публикации, посвященные LLM
Физические атаки на модели распознавания человека
См. также другие публикации по теме физические атаки
Sunday, January 26, 2025
Open Source ИИ стек
Фронтенд
Для создания красивых пользовательских интерфейсов ИИ чрезвычайно полезны такие фреймворки, как NextJS и Streamlit. Кроме того, Vercel может помочь с развертыванием.
Встраивание и библиотеки RAG
Встраивание моделей и библиотек RAG, таких как Nomic, JinaAI, Cognito и LLMAware, помогает разработчикам создавать точные функции поиска и RAG.
Бэкенд и доступ к моделям
Для разработки бэкенда разработчики могут полагаться на такие фреймворки, как FastAPI, Langchain и Netflix Metaflow. Для доступа к моделям доступны такие продукты, как Ollama и Huggingface.
Данные и извлечение
Для хранения и извлечения данных доступны несколько опций, таких как Postgres, Milvus, Weaviate, PGVector и FAISS.
LLM
Основанные на тестах производительности, модели с открытым исходным кодом, такие как Llama, Mistral, Qwen, Phi и Gemma, являются отличными альтернативами проприетарным моделям LLM, таким как GPT и Claude.
/via bytebytego.com
Saturday, January 25, 2025
Advanced Natural Language Processing
См. также другие публикации, посвященные NLP
Friday, January 24, 2025
Все хуже, чем мы думали
То есть, для состязательных примеров не нужно двигать распределение данных. Примеры существуют на данных с тем же самым распределением, что и тренировочный набор
P.S. См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению
Thursday, January 23, 2025
Новый подход к очистке данных
P.S. См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению
Wednesday, January 22, 2025
Tuesday, January 21, 2025
Безопасность цифровых двойников
См. также другие публикации, посвященные digital twins
Monday, January 20, 2025
Новый подход к физическим атакам
См. также другие публикации по теме физические атаки
Sunday, January 19, 2025
Еще об оценке LLM
См. также другие публикации, посвященные тестированию LLM
Saturday, January 18, 2025
Практика построения ИИ-агентов
См. также другие публикации, посвященные агентам
Friday, January 17, 2025
Агенты: белая книга
Thursday, January 16, 2025
LLM в анализе сетевого трафика
См. также другие публикации, посвященные LLM
Wednesday, January 15, 2025
Атаки черного ящика
(1) наиболее продвинутые атаки черного ящика с трудом достигают успеха даже против простых обученных состязательным образом
моделей;
(2) надежные модели, оптимизированные для противостояния сильным атакам белого ящика, таким как
AutoAttack, также демонстрируют повышенную устойчивость к атакам черного ящика;
(3) надежность соответствия между суррогатными моделями и целевой моделью играет ключевую роль в успехе атак на основе передачи.
Атаки черного ящика, конечно, являются самым реалистичным случаем. Интересная работа, которая исследует - насколько же они эффективны
P.S. См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению
