Алгоритм автоматического формирования запросов для оценки релевантности текста

 APEER: A Novel Automatic Prompt Engineering Algorithm for Passage Relevance Ranking

“`html

Инновационное решение для повышения эффективности информационного поиска

В области информационного поиска с использованием больших языковых моделей (LLM) существует значительная проблема, связанная с большой зависимостью от созданных людьми запросов для ранжирования релевантности. Эта зависимость требует значительного человеческого труда и экспертизы, делая процесс затратным по времени и субъективным. Кроме того, сложности, связанные с ранжированием релевантности, такие как интеграция запросов и длинных отрывков и необходимость комплексной оценки релевантности, недостаточно учитываются существующими методами. Эти проблемы ограничивают эффективное и масштабируемое применение LLM в реальных сценариях, ограничивая их полный потенциал в улучшении задач информационного поиска.

Автоматизированное создание запросов для повышения релевантности

Команда исследователей из Университета Ратгерса и Университета Коннектикута предлагает APEER (Automatic Prompt Engineering Enhances LLM Reranking), которое автоматизирует создание запросов через итеративную обратную связь и оптимизацию предпочтений. Этот подход минимизирует человеческое вмешательство путем генерации уточненных запросов на основе обратной связи о производительности и их выравнивания с предпочтительными примерами запросов. Систематическое уточнение запросов APEER решает ограничения ручного создания запросов и повышает эффективность и точность LLM в задачах информационного поиска. Этот метод представляет собой значительный прогресс, предоставляя масштабируемое и эффективное решение для оптимизации запросов LLM в сложных сценариях ранжирования релевантности.

Практические результаты и применение

APEER продемонстрировал значительное улучшение производительности LLM в задачах ранжирования релевантности. Ключевые метрики производительности, такие как nDCG@1, nDCG@5 и nDCG@10, показывают существенные приросты по сравнению с современными ручными запросами. Например, APEER достиг среднего улучшения в 5,29 nDCG@10 на восьми наборах данных BEIR по сравнению с ручными запросами на модели LLaMA3. Кроме того, запросы APEER проявляют более высокую переносимость на различные задачи и архитектуры LLM, последовательно превосходя базовые методы на различных наборах данных и моделях, включая GPT-4, LLaMA3 и Qwen2.

В заключение, предложенный метод APEER автоматизирует создание запросов для LLM в информационном поиске, решая критическую проблему зависимости от созданных людьми запросов. Используя итеративную обратную связь и оптимизацию предпочтений, APEER снижает человеческие усилия и значительно улучшает производительность LLM на различных наборах данных и моделях. Эта инновация представляет собой значительный прогресс в области, предоставляя масштабируемое и эффективное решение для оптимизации запросов LLM в сложных сценариях ранжирования релевантности.

Проверьте статью. Вся заслуга за это исследование принадлежит исследователям этого проекта. Также не забудьте подписаться на наш Twitter.

Присоединяйтесь к нашему Telegram каналу и группе в LinkedIn.

Если вам нравится наша работа, вам понравится наш новостной бюллетень.

Не забудьте присоединиться к нашему 45k+ ML SubReddit.

Источник: MarkTechPost.

Применение искусственного интеллекта в вашем бизнесе

Если вы хотите, чтобы ваша компания развивалась с помощью искусственного интеллекта (ИИ) и оставалась в числе лидеров, грамотно используйте APEER: A Novel Automatic Prompt Engineering Algorithm for Passage Relevance Ranking .

Проанализируйте, как ИИ может изменить вашу работу. Определите, где возможно применение автоматизации: найдите моменты, когда ваши клиенты могут извлечь выгоду из AI. Определитесь, какие ключевые показатели эффективности (KPI) вы хотите улучшить с помощью ИИ.

Подберите подходящее решение, сейчас очень много вариантов ИИ. Внедряйте ИИ решения постепенно: начните с малого проекта, анализируйте результаты и KPI. На полученных данных и опыте расширяйте автоматизацию.

Если вам нужны советы по внедрению ИИ, пишите нам на https://t.me/itinai. Следите за новостями о ИИ в нашем Телеграм-канале t.me/itinainews или в Twitter @itinairu45358.

Попробуйте AI Sales Bot https://itinai.ru/aisales. Этот AI ассистент в продажах помогает отвечать на вопросы клиентов, генерировать контент для отдела продаж, снижать нагрузку на первую линию.

Узнайте, как ИИ может изменить ваши процессы с решениями от AI Lab itinai.ru. Будущее уже здесь!

“`

Полезные ссылки: