Как нужно работать с LLM

От Andrej Karpathy: Нам предстоит тратить гораздо больше времени на то, чтобы разобраться в результатах работы языковых моделей (LLM). Вот несколько соображений и полезных приемов:

Тексты. Хороший результат дает такой подход: попросите языковую модель объяснить что-либо, используя стандарт ASD-STE100 — это спецификация контролируемого языка, изначально разработанная для технической документации в аэрокосмической отрасли. Модели отлично владеют этим языком; он накладывает строгие ограничения, благодаря которым текст становится гораздо более понятным и «чистым». Иногда я прошу использовать этот стандарт лишь частично (например, «на 80%»), поскольку полная спецификация довольно жесткая. Но есть варианты еще лучше:

Диаграммы и изображения. Вместо того чтобы просить написать текст, попросите модель создать диаграмму. Воспринимать, анализировать и понимать информацию в таком виде зачастую гораздо проще. Но можно пойти еще дальше:

Веб-страницы. Попросите модель выдать результат в формате HTML — так вы получите красивую интерактивную веб-страницу. Современные языковые модели отлично справляются с фронтендом: они могут создавать эффектные интерфейсы, анимации и многое другое. Но есть кое-что еще лучше:

Пояснительные видеоролики. Формат, в который я верю больше всего — это создание полностью оригинальных, специализированных пояснительных видео на любую тему. Попробуйте, например, такой запрос: «Создай видео с объяснением темы X в стиле канала 3b1b. Для озвучки используй мой API-ключ ElevenLabs». (Для этого понадобится ключ API, либо можно попросить модель подобрать подходящие бесплатные аналоги, работающие на ваших локальных вычислительных мощностях). Это действительно начинает работать!

Подводя итог:
- По мере совершенствования языковых моделей они будут брать на себя все больше рутинной работы, а наша деятельность сместится на более высокий уровень абстракции — к контролю и осмыслению результатов.
- К счастью, здесь модели тоже могут помочь: поскольку интеллектуальные ресурсы и программный код становятся все более доступными, вы можете заказывать создание масштабных, уникальных и «одноразовых» программных продуктов (например, веб-приложений или пояснительных видео) — создание которых раньше было просто нецелесообразным. Экспериментируйте, расширяйте границы возможного — результат вас удивит.

P.S. и интересное замечание от Grady Booch:
«Диаграммы / изображения. Вместо того чтобы писать текст, попросите свою LLM создать диаграмму. Их зачастую гораздо проще воспринимать, анализировать и понимать».
Хм, вообще-то существует такая вещь, как UML...