Нельзя так просто ответить на вопрос из кибербезопасности

Большие языковые модели (LLM) недавно продемонстрировали высокий потенциал для решения вопросов и ответов (QA) в области кибербезопасности, поддерживая принятие решений в рабочих процессах обнаружения и реагирования на угрозы в режиме реального времени. Однако их значительные вычислительные требования создают серьёзные проблемы для развертывания на периферийных устройствах с ограниченными ресурсами. Квантование, широко распространённый метод сжатия моделей, может смягчить эти ограничения. Тем не менее, квантование может снизить точность модели и повысить уязвимость к атакам злоумышленников. Тонкая настройка предлагает потенциальный способ смягчить эти ограничения, но её эффективность в сочетании с квантованием остаётся недостаточно изученной. Следовательно, важно понимать компромиссы между точностью, эффективностью и надёжностью. Мы предлагаем AQUA-LLM, оценочную платформу, разработанную для сравнительного анализа нескольких современных малых LLM в четырёх различных конфигурациях: базовой, только квантованной, тонкой настройки и тонкой настройки в сочетании с квантованием, специально для обеспечения качества кибербезопасности. Наши результаты показывают, что квантование само по себе обеспечивает наименьшую точность и надёжность, несмотря на повышение эффективности. Напротив, сочетание квантования с тонкой настройкой повышает как надёжность LLM, так и предсказательную производительность, достигая оптимального баланса точности, надёжности и эффективности. Эти результаты подчеркивают критическую необходимость в методологиях тонкой настройки, учитывающих квантование и сохраняющих надёжность, для обеспечения надёжного и эффективного развертывания LLM для обеспечения качества кибербезопасности. - AQUA-LLM: Evaluating Accuracy, Quantization, and Adversarial Robustness Trade-offs in LLMs for Cybersecurity Question Answering

См. в этой связи статью - Что LLM знают о кибербезопасности