“`html
Обнаружение уязвимостей ПО с использованием искусственного интеллекта
Обнаружение уязвимостей в программном обеспечении – критическая область, нацеленная на обеспечение безопасности системы и конфиденциальности пользователей путем выявления уязвимостей в программных системах. Гарантия безопасности программных систем от потенциальных атак имеет решающее значение в условиях все более сложных киберугроз. Применение передовых технологий искусственного интеллекта, в частности больших языковых моделей (LLM) и глубокого обучения, стало существенным при повышении эффективности обнаружения уязвимостей в программном обеспечении.
Решения для обнаружения уязвимостей
Основным вызовом в обнаружении уязвимостей программного обеспечения является точная идентификация уязвимостей в все более сложных программных системах для предотвращения потенциальных нарушений. Традиционные методы обнаружения уязвимостей, такие как инструменты статического анализа и модели, основанные на машинном обучении, часто приводят к высоким уровням ложных срабатываний и не могут следить за постоянно изменяющимися угрозами. Существующие инструменты ограничены своей зависимостью от заранее определенных шаблонов или наборов данных, что приводит к неточностям и упущенным уязвимостям.
Текущие исследования в области обнаружения уязвимостей программного обеспечения включают такие структуры, как GRACE и модели, основанные на ChatGPT, которые используют глубокое обучение и LLM для улучшения точности обнаружения. Эти подходы объединяют инженерию запросов с моделями, основанными на машинном обучении, и используют цепочку мыслей для улучшения возможностей обнаружения. Однако существующие структуры часто нуждаются в помощи из-за высоких уровней ложных срабатываний и ограниченной адаптивности, что подчеркивает необходимость более сложных решений в области обнаружения уязвимостей.
Исследователи из Университета Нанкин, Китай, и Университета Южного Кросса, Австралия, представили DLAP, структуру, которая выделяется своим объединением LLM, глубокого обучения и инженерии запросов. DLAP улучшает обнаружение уязвимостей через иерархическую таксономию и цепочку мыслей (COT), позволяя точно направлять LLM. Он использует специальные запросы, адаптированные к конкретным категориям, чтобы помочь моделям эффективно понимать и обнаруживать сложные уязвимости, устраняя ограничения традиционных инструментов.
Структура DLAP использует инструменты статического анализа и модели глубокого обучения для создания запросов, улучшающих работу LLM. Оцененный на наборе данных из более чем 40 000 примеров из четырех крупных программных проектов, DLAP интегрирует результаты статического анализа с LLM для глубокого семантического и логического анализа. Структура использует цепочку мыслей для улучшения точности запросов, обеспечивая эффективную идентификацию уязвимостей программного обеспечения. Это объединение методологий позволяет DLAP обнаруживать уязвимости кода, минимизируя ложные срабатывания.
Четыре набора данных, на которых тестировался DLAP: Chrome, Android, Linux и Qemu, включают тысячи функций и уязвимостей. По сравнению с другими методами, DLAP достигает до 10% более высоких значений F1 и на 20% более высоких значений коэффициента корреляции Мэтью. Для Chrome DLAP достигает точности 40,4% и полноты 73,3%, с F1-оценками 52,1% для Chrome, 49,3% для Android, 65,4% для Linux и 66,7% для Qemu, демонстрируя свою сильную и последовательную производительность на различных наборах данных.
Исследование представило структуру DLAP, объединяющую глубокое обучение и LLM для эффективного обнаружения уязвимостей программного обеспечения. Используя специализированные запросы и цепочку мыслей, DLAP улучшает точность и полноту обнаружения, снижая уровень ложных срабатываний. Его производительность на четырех крупных наборах данных продемонстрировала превосходную точность по сравнению с существующими методами, подчеркивая его значительный потенциал в улучшении практик кибербезопасности.
Полный текст статьи доступен по ссылке.
Вся заслуга за это исследование принадлежит его авторам. Также не забудьте подписаться на нас в Twitter и присоединиться к нашим сообществам в Telegram, Discord и LinkedIn.
Применение ИИ-решений для вашего бизнеса
Если вы хотите, чтобы ваша компания развивалась с использованием искусственного интеллекта и оставалась лидером, обратите внимание на DLAP: A Deep Learning Augmented LLMs Prompting Framework for Software Vulnerability Detection.
Проанализируйте, как ИИ может изменить вашу работу и определите, где можно применить автоматизацию, чтобы ваши клиенты извлекали пользу из ИИ. Определите ключевые показатели эффективности (KPI), которые вы хотите улучшить с помощью ИИ. Подберите подходящее решение, внедряйте его постепенно, анализируйте результаты и опыт, и расширяйте автоматизацию.
Если вам нужны советы по внедрению ИИ, пишите нам на Telegram. Следите за новостями об ИИ в нашем Телеграм-канале и в Twitter.
Попробуйте AI Sales Bot. Этот ИИ-ассистент в продажах помогает отвечать на вопросы клиентов, генерировать контент для отдела продаж и снижать нагрузку на первую линию.
Узнайте, как ИИ может изменить ваши процессы с решениями от AI Lab itinai.ru. Будущее уже здесь!
“`
