Оценка качества данных

Рост автоматизации в различных отраслях приводит к тому, что машины всё чаще выполняют функции, которые делают вмешательство человека ненужным. Искусственный интеллект (ИИ) раскрывает способность машины достигать более высокого уровня автономности, выполняя задачи рассуждения и планирования на основе воспринимаемого ею окружения. Поскольку ИИ всё чаще отвечает за критически важные для безопасности функции, производителям, регулирующим органам и органам по сертификации крайне важно обеспечить безопасное выполнение этих функций. Методы, основанные на сценариях, стали эффективным решением для обучения и тестирования модели ИИ автономных систем. Они позволяют системе подвергаться различным условиям эксплуатации, с которыми она может столкнуться после развертывания в реальном мире. Однако это поднимает вопрос о том, являются ли условия эксплуатации, рассматриваемые для обучения и тестирования модели ИИ, действительно достаточными. Проект OASISS (ODD-based AI Safety In Autonomous Systems) направлен на количественную оценку адекватности данных обучения и тестирования модели ИИ по отношению к её целевой области применения. Структура OASISS выявляет пробелы, которые широко распространены в современных системах обучения и тестирования на основе сценариев, и предоставляет механизм оценки, основанный на свойствах безопасности, связанных с набором данных, описанных в ISO PAS 8800. - Introducing OASISS: ODD-based AI Safety In autonomouS Systems