Проблемы безопасности ML

Системы машинного обучения (МО) стремительно растут в размерах, приобретают новые возможности и всё чаще применяются в условиях высокой ответственности. Как и в случае с другими мощными технологиями, безопасность МО должна быть ведущим исследовательским приоритетом. В ответ на возникающие проблемы безопасности МО, например, вызванные недавними крупномасштабными моделями, мы предлагаем новую дорожную карту безопасности МО и уточняем технические проблемы, которые необходимо решить в этой области. Мы представляем четыре проблемы, готовые для исследования: противостояние опасностям («Робастность»), выявление опасностей («Мониторинг»), управление системами МО («Согласование») и снижение опасностей при развертывании («Системная безопасность»). - Unsolved Problems in ML Safety