Новый класс моделей для генерации графов на основе большого корпуса данных

 Large Generative Graph Models (LGGMs): A New Class of Graph Generative Model Trained on a Large Corpus of Graphs

“`html

Large Generative Graph Models (LGGMs): A New Class of Graph Generative Model Trained on a Large Corpus of Graphs

Большие генеративные модели (LGMs) такие как GPT, Stable Diffusion, Sora и Suno в последнее время сделали замечательные успехи в создании креативного и значимого контента, значительно повышая эффективность применения в реальных приложениях. В отличие от ранее использованных моделей, таких как Bert/Bart в обработке естественного языка (NLP) и Unet в сегментации изображений, которые обучались на небольших наборах данных из конкретных областей и для узких задач, успех этих LGMs обусловлен их обширным обучением на хорошо отобранных данных из различных областей. Учитывая огромный успех LGMs в других областях и потенциальное практическое использование графовых генеративных моделей, естественно возникает вопрос: можно ли разработать большие генеративные модели для графообразных данных?

Методы генерации контента

1. Большие генеративные модели (LGMs) недавно добились больших успехов в создании значимого контента для различных задач в различных областях. Например, в обработке естественного языка (NLP) большие языковые модели, обученные предсказывать следующее слово, могут генерировать текст, похожий на человеческий, для задач таких как ответы на вопросы и перевод языка.

2. Графовые генеративные модели сосредотачиваются на создании реалистичных графиков для моделирования отношений в реальных данных. Эти модели используются в приложениях, таких как генерация молекулярных структур с желаемыми свойствами и создание тонких атак-перехватов.

Исследователи из университетов Вандербильта, Мичиганского университета, Adobe Research и Intel Labs представили Large Graph Generative Model (LGGM), новый класс графовой генеративной модели, которая обучена на большом корпусе графиков из 13 различных областей. Предварительно обученный LGGM превосходит другие графовые генеративные модели в возможности генерации на нулевом этапе и легко поддаётся дообучению на графиках из конкретных областей, демонстрируя лучшую производительность по сравнению с моделями, обученными с нуля. LGGM может генерировать графики по текстовым подсказкам, таким как описание имени сети и области, а также статистику сети.

Способность генерировать текст в граф помогает пользователям детально управлять созданными графиками. Кроме того, для обучения LGGM необходим обширный и хорошо организованный корпус графиков из различных областей. Графики выбираются из репозитория сетей в 13 различных областях, охватывающих широкий спектр реальных ситуаций, включая Facebook (FB), Animal Social (ASN), Email, Web, Road, Power, Chemical (CHEM) и т. д. Многие реальные графики содержат тысячи и даже миллионы узлов и рёбер. Однако расширенные модели диффузии, такие как DiGress и GDSS, могут обрабатывать только сети с несколькими сотнями узлов. Для решения этой проблемы избирательно выбираются подграфики из определенных областей, чтобы управлять проблемами масштабируемости.

Дообученный LGGM сравнивается с DiGress, обученным непосредственно в каждой области, чтобы показать практическое использование LGGM в генерации графиков для реального внедрения. В большинстве областей LGGM демонстрирует лучшую генеративную производительность на тех же графиках для обучения из-за большего количества знаний, использованных во время предварительного обучения. Это преимущество особенно заметно, когда доступно меньше графиков. Это полезно, особенно в графовых генеративных приложениях, включающих полуспутнические настройки, такие как создание программного обеспечения обнаружения аномалий и разработку лекарств. В этих случаях соответствующие графики составляют всего 0,05%-0,5% и 0,01% от всех потенциальных кандидатов соответственно.

В заключение, исследователи предложили LGGM, новый класс графовой генеративной модели, обученный на более чем 5 000 графиках из 13 различных областей из известного репозитория сетей. LGGM превосходит другие графовые генеративные модели в возможности генерации на нулевом этапе и легко поддаётся дообучению на графиках из конкретных областей. Он также может генерировать текст в граф. Аналогично LGMs в других областях, LGGM не специализируется на генерации графиков для конкретных областей. Поэтому будущим направлением является оценка их практической полезности в прикладных аспектах, таких как создание более качественных сгенерированных графиков для лучшего расширения данных.

Подробнее в статье. Все заслуги за это исследование принадлежат исследователям этого проекта. Также не забудьте подписаться на наш Twitter. Присоединяйтесь к нашему Telegram-каналу, Discord каналу и LinkedIn группе.

Если вам понравилась наша работа, вам понравится наш newsletter.

Не забудьте присоединиться к нашему 44k+ ML SubReddit

The post Large Generative Graph Models (LGGMs): A New Class of Graph Generative Model Trained on a Large Corpus of Graphs appeared first on MarkTechPost.

Large Generative Graph Models (LGGMs): преимущества внедрения

Если вы хотите, чтобы ваша компания развивалась с помощью искусственного интеллекта (ИИ) и оставалась в числе лидеров, грамотно используйте Large Generative Graph Models (LGGMs): A New Class of Graph Generative Model Trained on a Large Corpus of Graphs.

Проанализируйте, как ИИ может изменить вашу работу. Определите, где возможно применение автоматизации: найдите моменты, когда ваши клиенты могут извлечь выгоду из AI.

Определитесь какие ключевые показатели эффективности (KPI): вы хотите улучшить с помощью ИИ.

Подберите подходящее решение, сейчас очень много вариантов ИИ. Внедряйте ИИ решения постепенно: начните с малого проекта, анализируйте результаты и KPI.

На полученных данных и опыте расширяйте автоматизацию.

Если вам нужны советы по внедрению ИИ, пишите нам на itinai.ru. Следите за новостями о ИИ в нашем Телеграм-канале t.me/itinainews или в Twitter @itinairu45358

Попробуйте AI Sales Bot itinai.ru/aisales. Этот AI ассистент в продажах помогает отвечать на вопросы клиентов, генерировать контент для отдела продаж и снижать нагрузку на первую линию.

Узнайте, как ИИ может изменить ваши процессы с решениями от AI Lab itinai.ru будущее уже здесь!

“`

Полезные ссылки: