“`html
DiffUCO: Решение для оптимизации комбинаторных задач с использованием модели диффузии
Использование выборок из сложных, высокоразмерных целевых распределений, таких как распределение Больцмана, имеет важное значение во многих научных областях. Например, предсказание молекулярных конфигураций зависит от такого типа выборок. Комбинаторная оптимизация (CO) может быть рассмотрена как проблема обучения распределению, где выборки соответствуют решениям задач CO, но достижение несмещенных выборок представляет сложность. Области, такие как CO или решетчатые модели в физике, включают дискретные целевые распределения, которые могут быть аппроксимированы с использованием произведений категориальных распределений. Хотя произведения распределений вычислительно эффективны, они лишены выразительности, поскольку не могут улавливать статистические взаимосвязи.
Практические решения:
Для решения этой проблемы были предложены несколько методов. В частности, в статье рассматриваются Вариационные автокодировщики, которые являются моделями латентных переменных. Здесь выборки генерируются путем сначала извлечения латентных переменных из априорного распределения, которые затем обрабатываются стохастическим декодером на основе нейронной сети. Также рассматриваются Модели диффузии, другой тип модели латентных переменных, которая обычно обучается с использованием выборок из данных. Нейронная оптимизация – это еще одна техника, которая использует нейронные сети для поиска лучшего решения для заданной цели, что также является подходом, использующим нейронные сети. Кроме того, рассматриваются еще два метода: Приближенные модели правдоподобия в нейронной вероятностной оптимизации и Нейронная комбинаторная оптимизация.
Исследователи из Йоханнес-Кеплер-Университета, Австрия, ELLIS Unit Linz и NXAI GmbH представили метод Diffusion for Unsupervised Combinatorial Optimization (DiffUCO), который позволяет применять модели латентных переменных, такие как модели диффузии, для аппроксимации дискретных распределений без данных. Он использует верхнюю границу обратного расстояния Кульбака-Лейблера в качестве функции потерь, и его производительность улучшается с увеличением числа шагов диффузии во время обучения. Кроме того, качество решения во время вывода может быть улучшено путем применения большего числа шагов диффузии.
DiffUCO решает проблемы CO и достигает передовых показателей производительности на различных бенчмарках. Исследователи также представили метод под названием Conditional Expectation (CE), который является более эффективной версией широко используемой техники выборки. Путем комбинирования этого метода с моделью диффузии можно эффективно генерировать высококачественные решения задач CO. Этот фреймворк предлагает высокоэффективный и общий способ использования моделей латентных переменных, таких как модели диффузии, для аппроксимации дискретных распределений без данных. Из-за дискретной природы UCO применяются два дискретных шумовых распределения: категориальное шумовое распределение и отжигаемое шумовое распределение.
В эксперименте исследователи сосредоточились на множестве, включая Максимальное независимое множество (MIS) и Минимальное доминирующее множество (MDS). В MIS предложенная модель была протестирована на RB-small и RB-large. Варианты CE и CE-ST DiffUCO показали лучшие результаты на RB-large и немного превзошли LTFT на RB-small. В MDS целью было найти множество с наименьшим числом вершин в графе, чтобы каждая вершина имела хотя бы одного соседа внутри множества. Модель была протестирована на наборах данных BA-small и BA-large, где DiffUCO и его варианты превзошли все другие методы на обоих наборах данных.
В заключение, исследователи предложили метод Diffusion for Unsupervised Combinatorial Optimization (DiffUCO). Этот метод позволяет использовать модели латентных переменных, такие как модели диффузии, для аппроксимации дискретных распределений без данных. DiffUCO превосходит недавно представленные методы на широком спектре бенчмарков, и качество его решения улучшается при применении вариационного отжига и дополнительных шагов диффузии во время вывода. Однако модель требует много памяти и времени при обучении на больших наборах данных с высокой связностью. Будущая работа должна сосредоточиться на улучшении этих факторов, чтобы сделать модель более эффективной.
Проверьте статью и код. Вся заслуга за это исследование принадлежит исследователям этого проекта. Также не забудьте подписаться на наш Twitter. Присоединяйтесь к нашему каналу в Telegram, каналу в Discord и группе в LinkedIn.
Если вам нравится наша работа, вам понравится наш рассылка.
Не забудьте присоединиться к нашему 43k+ ML SubReddit.
Этот пост был опубликован на MarkTechPost.
DiffUCO: Решение для оптимизации комбинаторных задач с использованием модели диффузии
Если вы хотите, чтобы ваша компания развивалась с помощью искусственного интеллекта (ИИ) и оставалась в числе лидеров, грамотно используйте DiffUCO: A Diffusion Model Framework for Unsupervised Neural Combinatorial Optimization.
Проанализируйте, как ИИ может изменить вашу работу. Определите, где возможно применение автоматизации: найдите моменты, когда ваши клиенты могут извлечь выгоду из AI.
Определитесь какие ключевые показатели эффективности (KPI): вы хотите улучшить с помощью ИИ.
Подберите подходящее решение, сейчас очень много вариантов ИИ. Внедряйте ИИ решения постепенно: начните с малого проекта, анализируйте результаты и KPI.
На полученных данных и опыте расширяйте автоматизацию.
Если вам нужны советы по внедрению ИИ, пишите нам на https://t.me/itinai. Следите за новостями о ИИ в нашем Телеграм-канале t.me/itinainews или в Twitter @itinairu45358.
Попробуйте AI Sales Bot itinai.ru/aisales. Этот AI ассистент в продажах, помогает отвечать на вопросы клиентов, генерировать контент для отдела продаж, снижать нагрузку на первую линию.
Узнайте, как ИИ может изменить ваши процессы с решениями от AI Lab itinai.ru будущее уже здесь!
“`
