“`html
Решение проблемы высокой вычислительной сложности в многопользовательских дебатах
Одной из основных проблем в области больших языковых моделей (LLM) является высокая вычислительная сложность, связанная с многопользовательскими дебатами (MAD). В этих дебатах, где несколько агентов общаются для улучшения рассуждений и фактической точности, часто используется полностью связанная топология общения. Это означает, что каждый агент ссылается на решения, сгенерированные всеми другими агентами, что приводит к расширенным контекстам ввода и увеличенным вычислительным требованиям.
Текущие методы для многопользовательских дебатов
Текущие методы многопользовательских дебатов включают полностью связанные топологии, где каждый агент может получить доступ к решениям, сгенерированным всеми другими агентами. Хотя этот подход показал улучшения в задачах рассуждения, он является вычислительно затратным. Техники, такие как “Chain-of-Thought” (CoT) и самосогласованность, были использованы для улучшения производительности LLM путем структурирования их рассуждений. Однако эти методы также сталкиваются с ограничениями, включая увеличенную сложность и необходимость обширных вычислительных ресурсов для обработки расширенного контекста ввода, генерируемого многократным общением агентов.
Новый подход к многопользовательским дебатам
Исследователи из Google DeepMind предлагают новый подход, используя разреженную топологию общения в многопользовательских дебатах. Ограничивая количество видимых решений для каждого агента, они стремятся поддерживать или даже улучшать производительность MAD, существенно снижая вычислительные затраты. Этот подход включает систематическое исследование и реализацию стратегий общения с соседями, где агенты общаются с ограниченным набором сверстников, а не со всеми агентами.
Практические результаты
Этот инновационный метод использует статические графы для представления топологий общения между агентами, количественно оцениваемых с помощью коэффициента разреженности. В экспериментах фокусируются на конфигурациях с шестью агентами, изучая различные степени разреженности. Агенты, созданные с использованием моделей, таких как GPT-3.5 и Mistral 7B, участвуют в нескольких раундах дебатов, включая ответы от своих связанных сверстников для уточнения своих ответов. Для задач рассуждения используются наборы данных, такие как MATH и GSM8K, в то время как задачи маркировки выравнивания используют набор данных Anthropic-HH. В экспериментальной установке используются метрики производительности, такие как точность и экономия затрат, и применяются техники снижения дисперсии для обеспечения надежных результатов.
Практические результаты
Подход, использующий разреженную топологию общения в MAD, достиг значительных улучшений как в производительности, так и в вычислительной эффективности. На наборе данных MATH топология общения с соседями улучшила точность на 2% по сравнению с полностью связанным MAD, снизив средние затраты на ввод токенов более чем на 40%. Для задач маркировки выравнивания с использованием набора данных Anthropic-HH разреженные конфигурации MAD показали улучшения в метриках полезности и безопасности на 0,5% и 1,0% соответственно, при этом уменьшив вычислительные затраты вдвое. Эти результаты демонстрируют, что разреженные топологии общения могут обеспечить сопоставимую или даже более высокую производительность по сравнению с полностью связанными топологиями с существенно сниженной вычислительной нагрузкой.
Выводы и практическая применимость
Это исследование представляет собой значительный прогресс в области ИИ путем внедрения разреженной топологии общения в многопользовательские дебаты. Этот подход эффективно решает вычислительные неэффективности существующих методов, предлагая масштабируемое и ресурсоэффективное решение. Экспериментальные результаты подчеркивают потенциальное влияние этого инновационного подхода на исследования в области ИИ, демонстрируя его способность улучшать производительность и снижать затраты, тем самым продвигая практическую применимость многопользовательских систем.
Проверьте статью. Вся заслуга за это исследование принадлежит исследователям этого проекта. Также не забудьте подписаться на наш Twitter.
Присоединяйтесь к нашему Telegram-каналу и группе LinkedIn.
Если вам нравится наша работа, вам понравится наш бюллетень.
Не забудьте присоединиться к нашему 45k+ ML SubReddit.
Статья This AI Paper from Google DeepMind Explores the Effect of Communication Connectivity in Multi-Agent Systems опубликована на MarkTechPost.
Если вы хотите, чтобы ваша компания развивалась с помощью искусственного интеллекта (ИИ) и оставалась в числе лидеров, грамотно используйте This AI Paper from Google DeepMind Explores the Effect of Communication Connectivity in Multi-Agent Systems.
Проанализируйте, как ИИ может изменить вашу работу. Определите, где возможно применение автоматизации: найдите моменты, когда ваши клиенты могут извлечь выгоду из AI.
Определитесь какие ключевые показатели эффективности (KPI): вы хотите улучшить с помощью ИИ.
Подберите подходящее решение, сейчас очень много вариантов ИИ. Внедряйте ИИ решения постепенно: начните с малого проекта, анализируйте результаты и KPI.
На полученных данных и опыте расширяйте автоматизацию.
Если вам нужны советы по внедрению ИИ, пишите нам на https://t.me/itinai. Следите за новостями о ИИ в нашем Телеграм-канале t.me/itinainews или в Twitter @itinairu45358
Попробуйте AI Sales Bot https://itinai.ru/aisales. Этот AI ассистент в продажах, помогает отвечать на вопросы клиентов, генерировать контент для отдела продаж, снижать нагрузку на первую линию.
Узнайте, как ИИ может изменить ваши процессы с решениями от AI Lab itinai.ru будущее уже здесь!
“`
