А судьи кто?

Если вы разрабатываете приложения с участием LLM, вы, вероятно, сталкивались с этой проблемой: как оценить качество вывода системы искусственного интеллекта?

Скажем, вы хотите проверить, имеет ли ответ правильный тон. Или безопасен ли он, соответствует ли бренду, полезен или имеет ли смысл в контексте вопроса пользователя. Всё это примеры качественных сигналов, которые непросто измерить.

Проблема в том, что эти качества часто субъективны. Не существует единственно «правильного» ответа. И хотя люди хорошо оценивают их, они не масштабируются. Если вы тестируете или поставляете функции, основанные на LLM, вам рано или поздно понадобится способ автоматизировать эту оценку.

LLM-as-a-judge — популярный метод для этого: вы предлагаете LLM оценить результаты другого LLM. Это гибкий, быстрый в создании прототипа и простой в интеграции в ваш рабочий процесс.

Но есть одна загвоздка: ваш LLM-судья также не является детерминированным. На практике это похоже на запуск небольшого проекта машинного обучения, целью которого является воспроизведение экспертных оценок и решений. - How to Create an LLM Judge That Aligns with Human Labels

См. также другие публикации, посвященные LLM