“`html
Борьба с атаками на искусственный интеллект: новый метод MALT
Атаки на искусственный интеллект (ИИ) – это попытки обмануть модель машинного обучения, заставив ее дать неправильное предсказание. Они работают путем создания слегка измененных версий реальных данных (например, изображений), которые человек не заметил бы как различия, но которые заставляют модель допускать ошибки. Нейронные сети известны своей уязвимостью к атакам, вызывая опасения относительно надежности и безопасности систем машинного обучения в критических приложениях, таких как классификация изображений. Например, системы распознавания лиц, используемые в целях безопасности, могут быть обмануты атакующими примерами, что позволит несанкционированный доступ.
Новый метод MALT для борьбы с атаками на нейронные сети
Исследователи из Института науки Вейцмана, Израиль, и Центра науки о данных Нью-Йоркского университета представили MALT (Mesoscopic Almost Linearity Targeting) для решения проблемы атак на нейронные сети, которые используют уязвимости в моделях машинного обучения. MALT – новый метод атаки, вдохновленный гипотезой о том, что нейронные сети проявляют практически линейное поведение на мезоскопическом уровне. В отличие от традиционных методов, MALT упорядочивает потенциальные целевые классы на основе нормализованных градиентов с целью идентификации классов, для которых требуются минимальные изменения для неправильной классификации.
Практическое применение MALT и его преимущества
MALT использует принцип “мезоскопической почти линейности” для эффективной генерации атакующих примеров для моделей машинного обучения. Этот принцип предполагает, что для небольших изменений во входных данных поведение модели можно приблизить к линейному. MALT также использует техники оценки градиента, чтобы понять, как небольшие изменения во входных данных повлияют на вывод модели, что помогает идентифицировать пиксели или изменять признаки в изображении для достижения желаемой неправильной классификации. Кроме того, MALT использует итерационный процесс оптимизации, начиная с первоначального изменения входных данных и уточняя их на основе информации о градиенте. Этот процесс продолжается до тех пор, пока модель не уверенно классифицирует данные как целевой класс.
Преимущества MALT перед существующими методами атак
Исследование представляет значительное развитие в технике атак, представляя более эффективную стратегию целевого воздействия. MALT сосредотачивается на малых локальных изменениях данных, что снижает сложность процесса оптимизации по сравнению с методами, исследующими более широкий диапазон изменений. MALT демонстрирует значительные преимущества перед существующими методами атак, особенно в плане скорости и эффективности.
Исследование: Ссылка на статью. Вся заслуга за это исследование принадлежит его авторам.
Следите за нами в Twitter и присоединяйтесь к нашим группам в Telegram и LinkedIn.
Если вас интересует партнерство (контент/реклама/рассылка), заполните эту форму.
Применение ИИ в вашем бизнесе
Используйте MALT для развития вашей компании с помощью искусственного интеллекта (ИИ) и оставайтесь в числе лидеров.
Проанализируйте, как ИИ может изменить вашу работу и определите, где можно применить автоматизацию, чтобы ваши клиенты извлекли выгоду из ИИ.
Определите ключевые показатели эффективности (KPI), которые вы хотите улучшить с помощью ИИ.
Выберите подходящее решение из множества вариантов ИИ и внедряйте его поэтапно, начиная с небольшого проекта, анализируя результаты и KPI.
Используйте полученные данные и опыт для расширения автоматизации.
Если вам нужны советы по внедрению ИИ, пишите нам в Telegram или следите за новостями в наших социальных сетях.
Продукты и решения от AI Lab itinai.ru
Попробуйте использовать AI Sales Bot для автоматизации процессов в отделе продаж. Этот AI ассистент помогает отвечать на вопросы клиентов, генерировать контент и снижать нагрузку на первую линию.
Узнайте, как ИИ может изменить ваши процессы с решениями от AI Lab itinai.ru.
Попробуйте AI Sales Bot прямо сейчас!
“`
