Вайб-кодинг в кибербезопасности

Вайб-кодинг в кибербезопасности
Marat Agranovskiy, Maryam Atalaeva, Maria Varfolomeeva, Kirill Vititnev, Victoria Gorbenko, Artem Goroshko, Mariia Dyskina, Aleksandr Kustenkov, Ekaterina Lavrova, Ilya Lystsov, Mikhail Maister, Darya Mironova, David Muradyan, Maria Oprishko, Ekaterina Orlova, Anastasiia Piontkevich, Ekaterina Pismennaya, Vladislav Riabykin, Dmitrii Fedorov, Uma Khasanova, Dmitry Namiot

Аннотация

В статье представлены результаты масштабного эксперимента, в котором команды студентов магистратуры ВМК МГУ имени М.В. Ломоносова в рамках курса по безопасности систем Интернета Вещей составляли программы классификации сетевого трафика с помощью больших языковых моделей (LLM). Использование моделей машинного (глубокого) обучения является классической историей для систем обнаружения вторжений. В качестве исходных данных на выбор предлагались доступные датасеты сайта Kaggle. Соответственно, на этом же сайте, вместе с датасетами можно было найти запрограммированные “вручную” модели, которые могли послужить базовыми примерами для сравнения с автоматическими решениями. Задача состояла в разработке подсказок (промптов), проверке их на нескольких LLM и, отдельно, проверке работы англоязычного и русскоязычного варианта подсказок. В целом, во всех проведенных экспериментах LLM работающие модели, которые не уступали по метрикам существующим “ручным” вариантам. Тем не менее, полученные результаты требовали проверки, равно как архитектурные решения, выбранные LLM, не всегда были оптимальными, а иногда и просто неверными, например, в части утечки данных. Это оставляет пока пространство для работы программистов (ML-инженеров).

Полный текст - ihttps://injoit.org/index.php/j1/article/view/2803