О тестировании ИИ

Программа тестирования от NIST - AITE. будет опираться на вовлечённость участников по двум разным направлениям:

1) Поставщики данных предоставляют оригинальный набор данных в своей области, недоступный для других, и представляет собой значимую задачу, которую нужно выполнить на этом наборе. Поставщики данных получат точные измерения топовых моделей на своих данных, выполняющих их задачи.

2) Поставщики моделей подают ИИ-модели для тестирования на наборах данных и задачах. Поставщики моделей узнают, как их модели работают на всё большем числе наборов данных и задач, а также как их модели работают по сравнению с другими на тех же данных, используя те же метрики, улучшая сравнимость и гарантируя, что данные оценки не будут использоваться для обучения какой-либо модели.