“`html
Решение проблемы галлюцинаций в диффузионных моделях через интерполяцию режимов
Одной из основных проблем моделей диффузии, особенно при генерации изображений, является появление галлюцинаций. Это ведет к созданию выборок, выходящих за пределы обучающих данных и порождению нереалистичных и не репрезентативных артефактов. Текущие методы решения этой проблемы включают в себя добавление шума к данным в процессе генерации и обучение модели устранять этот шум в процессе обратного преобразования. Однако такие методы сталкиваются с ограничениями, такими как нестабильность обучения, запоминание и неточное моделирование сложных объектов.
Новый подход с центральной концепцией интерполяции режимов
Исследователи из Университета Карнеги-Меллон и DatalogyAI предложили новый подход, основанный на концепции интерполяции режимов, для решения этих ограничений. Они выявили, что высокая вариация в траектории вывода моделей сигнализирует о галлюцинациях. Используя это понимание, исследователи предложили метрику для обнаружения и удаления галлюцинаций в процессе генерации. Этот подход значительно уменьшает появление галлюцинаций, сохраняя при этом качество и разнообразие создаваемых образцов.
Результаты исследования и практические применения
Проведенные эксперименты синтетических и реальных наборов данных показали значительное снижение галлюцинаций при сохранении высокого качества вывода. Ключевые эксперименты на различных наборах данных подтвердили, что предложенная метрика может удалять более 95% галлюцинаций, сохраняя 96% образцов в пределах обучающих данных. Предложенный подход также превосходит существующие методы в обнаружении галлюцинированных образцов.
Заключение
Работа исследователей представляет значительный вклад в область искусственного интеллекта, предлагая надежное решение проблемы галлюцинаций в диффузионных моделях. Этот прогресс открывает новые возможности для более точного и реалистичного генерирования контента с использованием искусственного интеллекта.
Подробнее о работе исследователей можно узнать в этой статье.
“`
