Новые LLM-модели от LLMWare: специализированные для RAG, с 7B параметров и высокого качества. Они идеально подходят для рабочих процессов с сложными бизнес-документами в предприятиях. Ура, срастись, технологии! #LLMWare #комплексныебизнесдокументы
LLMWare запускает специализированные модели LLM с 7 миллиардами параметров: модели высокого качества, настроенные для рабочих процессов предприятий, связанных с сложными деловыми документами
Привлекательное начало статьи:
В мире искусственного интеллекта происходят важные события! Компания Ai Bloks объявила о запуске своего фреймворка llmware с открытым исходным кодом для создания приложений рабочих процессов на основе LLM для предприятий. Сегодня Ai Bloks делает еще один большой шаг, представляя серию моделей DRAGON (Delivering RAG on …), основанных на LLM с 7 миллиардами параметров. Эти модели разработаны специально для деловых процессов и настроены с целью ответа на вопросы на основе фактов в сложных деловых и юридических документах.
Основная часть статьи:
Сегодня все больше предприятий стремятся развернуть масштабируемые системы RAG с использованием собственной конфиденциальной информации, и возникает понимание нескольких потребностей:
– Единая платформа, интегрирующая модели LLM с набором сопутствующих возможностей рабочих процессов (например, разбор документов, встраивание, управление запросами, проверка источников, отслеживание аудита);
– Модели LLM высокого качества, специализированные и оптимизированные для ответов на вопросы на основе фактов и рабочих процессов предприятий;
– Открытый источник, экономически эффективное, конфиденциальное развертывание с гибкостью и возможностями настройки.
Для удовлетворения этих потребностей LLMWare запускает семь моделей DRAGON, доступных в открытом исходном коде в репозитории Hugging Face. Все эти модели были тщательно настроены для RAG и созданы на основе ведущих моделей с готовностью к использованию в рабочих процессах предприятий.
Все модели DRAGON были оценены с использованием бенчмарка llmware rag-instruct-benchmark, и полные результаты тестирования и методология предоставлены в репозитории моделей. Каждая из моделей DRAGON достигает точности от средней до высокой 90% на разнообразном наборе из 100 основных тестовых вопросов, с прочной связью, чтобы избежать галлюцинаций и определить, когда на вопрос нельзя ответить из текста (например, классификация “не найдено”).
Семейство моделей DRAGON присоединяется к двум другим коллекциям моделей LLMWare RAG: BLING и Industry-BERT. Модели BLING – это специализированные модели LLM меньшего размера (от 1 миллиарда до 3 миллиардов параметров), которые не требуют GPU и могут работать на ноутбуке разработчика. Поскольку методология обучения очень похожа, разработчик может начать с локальной модели BLING на своем ноутбуке и затем без проблем перейти к модели DRAGON для повышения производительности в производстве. Модели DRAGON разработаны для конфиденциального развертывания на одном сервере с GPU предприятий, чтобы предприятия могли развернуть систему RAG от начала до конца, безопасно и конфиденциально в своей собственной безопасной зоне.
Этот набор моделей, специализированных для RAG и доступных в открытом исходном коде, в сочетании с основным фреймворком разработки LLMWare и готовой интеграцией с открытыми частными облаками Milvus и Mongo DB, предоставляет комплексное решение для RAG. С помощью нескольких строк кода разработчик может автоматизировать загрузку и разбор тысяч документов, присоединить векторы встраивания, выполнять генеративные выводы на основе LLM последнего поколения, проводить проверку доказательств и источников, все это в частном облаке и, в некоторых случаях, даже на ноутбуке разработчика.
Согласно генеральному директору Ai Bloks Даррену Оберсту: “Мы считаем, что LLM позволяют новый рабочий процесс автоматизации в предприятии, и наша цель для LLMWare – объединить специализированные модели, поток данных и все необходимые компоненты в единую платформу с открытым исходным кодом, чтобы предприятия могли быстро настраивать и развертывать автоматизацию на основе LLM в масштабе”.
Для получения дополнительной информации, пожалуйста, посетите репозиторий llmware на GitHub по адресу www.github.com/llmware-ai/llmware.git.
Для прямого доступа к моделям, пожалуйста, посетите страницу организации llmware на Hugging Face по адресу www.huggingface.co/llmware.
Благодарим AI Bloks за ведущую роль в области образования и мы рады поддержать их в этом контенте/статье.
Опубликовано на MarkTechPost.
Завершение статьи:
Если вам нужны рекомендации по управлению искусственным интеллектом в бизнесе, свяжитесь с нами по адресу hello@itinai.ru. Чтобы быть в курсе последних новостей об искусственном интеллекте, подпишитесь на наш Telegram-канал t.me/itinairu.
Посмотрите на практический пример решения на основе искусственного интеллекта: бот для продаж от itinai.ru/aisales, созданный для автоматизации общения с клиентами круглосуточно и управления взаимодействием на всех этапах пути клиента.
Изучите, как искусственный интеллект может улучшить ваши продажи и общение с клиентами. Познакомьтесь с нашими решениями на сайте itinai.ru.
