Исследователи Google решают проблему поддержания корректности механизмов дифференциальной конфиденциальности (DP) путем представления масштабной библиотеки для проверки дифференциальной конфиденциальности, DP-Auditorium. Дифференциальная конфиденциальность является важным элементом защиты конфиденциальности данных в свете предстоящих регулирований и увеличенного внимания к вопросам конфиденциальности данных. Проверка механизма на его способность соблюдать дифференциальную конфиденциальность в сложной и разнообразной системе представляет собой сложную задачу.
Существующие техники доказали свою эффективность, но не способны объединить фреймворки для комплексной и систематической оценки. Для сложных сценариев требуются более гибкие и расширяемые инструменты для проверки. Предложенная модель разработана для тестирования дифференциальной конфиденциальности с использованием только черного ящика. DP-Auditorium абстрагирует процесс тестирования на два основных этапа: измерение расстояния между распределениями выводов и поиск соседних наборов данных, максимизирующих это расстояние. Он использует набор тестеров на основе функций, который более гибок, чем традиционные методы на основе гистограмм.
Тестовый фреймворк DP-Auditorium фокусируется на оценке расхождений между распределениями выводов механизма на соседних наборах данных. Библиотека реализует различные алгоритмы для оценки этих расхождений, включая методы на основе гистограмм и техники двойных расхождений. Используя вариационные представления и байесовскую оптимизацию, DP-Auditorium достигает улучшенной производительности и масштабируемости, позволяя обнаруживать нарушения конфиденциальности в различных типах механизмов и определениях конфиденциальности. Экспериментальные результаты демонстрируют эффективность DP-Auditorium в обнаружении различных ошибок и его способность обрабатывать различные режимы конфиденциальности и объемы выборок.
В заключение, DP-Auditorium оказался всесторонним и гибким инструментом для тестирования механизмов дифференциальной конфиденциальности, успешно решающим потребность в обеспечении уверенной и стабильной проверки в условиях растущей озабоченности конфиденциальностью данных. Абстрагируя механизм тестирования и включая новые алгоритмы и техники, модель повышает уверенность в усилиях по защите конфиденциальности данных.
Подробнее ознакомьтесь с научной статьей и блогом. Вся заслуга за это исследование принадлежит его авторам. Также не забудьте подписаться на нас в Twitter и Google News. Присоединяйтесь к нашему сообществу более чем 38 тыс. человек в SubReddit по машинному обучению, более чем 41 тыс. человек в сообществе Facebook, нашем Discord-канале и группе LinkedIn.
Если вам нужны рекомендации по управлению ИИ в бизнесе, свяжитесь с нами по адресу hello@itinai.com. Чтобы быть в курсе последних новостей об ИИ, подписывайтесь на наш Telegram-канал.
Посмотрите на практический пример решения на основе ИИ: бот для продаж, созданный для автоматизации общения с клиентами круглосуточно и управления взаимодействием на всех этапах пути клиента.
Изучите, как искусственный интеллект может улучшить ваши продажи и общение с клиентами. Познакомьтесь с нашими решениями на сайте itinai.ru.
