AI/ML в критических применениях

Существует настоятельная необходимость в согласовании устоявшихся передовых практик функциональной безопасности и требований действующих стандартов безопасности, таких как IEC 61511, с растущим использованием машинного обучения (МО) и других форм искусственного интеллекта (ИИ). Возможное использование ИИ/МО в автоматизации предприятий обусловлено различными целями, такими как улучшение мониторинга безопасности, оптимизация производства и сокращение человеческого контроля. Большинство применений ИИ в этом контексте неизбежно связаны с некоторой степенью неопределенности. Традиционные методы и меры управления рисками безопасности, например, заложенные в IEC 61511, не обязательно помогают устранить эту присущую неопределенность. Другие отрасли, такие как передовая автомобильная промышленность, предприняли шаги по сокращению разрыва между функциональной безопасностью и безопасностью AI/ML – например, недавняя публикация ISO/PAS 8800. Ключевой частью этой стратегии является признание (согласно ISO/PAS 8800), что при использовании AI/ML «невозможно предоставить подробные требования к характеристикам процесса или продукта, необходимым для достижения приемлемо низкого уровня остаточного риска, связанного с использованием систем AI». Вместо этого, сокращение разрыва между функциональной безопасностью и безопасностью AI/ML требует аргументации по обеспечению безопасности, в идеале, в форме структурированной аргументации, которая отражает критическое мышление, связывающее заявления о безопасности с подтверждающими доказательствами. В данной статье описываются стратегии адаптации традиционных методов оценки опасностей и рисков для учета AI/ML при определении уровня целостности оборудования (SIL). В данной статье также объясняется, как аргументацию по обеспечению безопасности можно объединить с традиционной функциональной безопасностью, чтобы сократить разрыв между IEC 61511 и использованием AI/ML в промышленной среде. - Closing the Gap Between IEC 61511 and the Use of Artificial Intelligence in Plant Safety

См. также другие публикации по теме safety