Friday, October 30, 2026

О проверке программного обеспечения

Большие языковые модели (LLM) делают формальную верификацию программного обеспечения возможной в гораздо более широких масштабах.

Из отчета Anthropic: "Большинство программных продуктов изобилуют ошибками, которые теперь легко могут быть обнаружены и использованы злоумышленниками с помощью ИИ. Стандартные средства защиты от кибератак перестали быть эффективными: необходимы методы, позволяющие доказать отсутствие ошибок в коде. Формальная верификация программного обеспечения могла бы обеспечить такую гарантию, однако исторически она требовала многолетних усилий экспертов, что делало её непрактичной для большинства реальных проектов. В рамках сотрудничества с компанией Theorem мы показали, что ситуация изменилась: теперь LLM способны создавать формальные доказательства в больших масштабах. Это открывает новые подходы к разработке программного обеспечения, включающие подтверждённые гарантии безопасности. Используя модель Claude, мы доказали свойства безопасности на уровне ассемблерного кода (архитектура RISC-V) для более чем 100 реальных библиотек с открытым исходным кодом. Насколько нам известно, это первая масштабная попытка применения ИИ для формальной верификации промышленного программного обеспечения на уровне ассемблерного кода. В процессе подготовки доказательств Claude также обнаружил ошибки, которые оставались незамеченными годами, несмотря на триллионы выполненных тестовых запусков. По мере дальнейшего совершенствования возможностей моделей мы ожидаем, что формальная верификация станет неотъемлемой частью процесса разработки безопасного программного обеспечения."

No comments: