START: Новый инструмент для повышения точности reasoning в языковых моделях от Alibaba



Преобразование текста о START

Введение в START

Большие языковые модели достигли значительных успехов в понимании и генерации текста, похожего на человеческий. Однако при выполнении сложных задач, требующих многоступенчатых расчетов или логического анализа, они часто сталкиваются с трудностями. Традиционные подходы, такие как цепочка размышлений (CoT), помогают разбивать задачи на промежуточные шаги, но зависят от внутреннего рассуждения модели. Это может приводить к ошибкам, особенно при сложных вычислениях.

Решение от Alibaba: инструмент START

Исследователи компании Alibaba предложили новый инструмент ИИ под названием START (Самообучающийся рассуждатель с инструментами). START интегрирует внешний интерпретатор Python для помощи в решении задач. Модель основана на доработанной версии модели QwQ-32B и использует двухступенчатую стратегию для улучшения своих навыков решения проблем.

Двухступенчатая стратегия

Первая стадия, называемая Hint-infer, побуждает модель использовать подсказки, которые сигнализируют о необходимости выполнения вычислений с помощью внешних инструментов. Вторая стадия, Hint Rejection Sampling Fine-Tuning (Hint-RFT), уточняет выводы модели, фильтруя и модифицируя их на основе эффективности использования внешних инструментов.

Технические преимущества

START является эволюцией подхода цепочки размышлений. Двухступенчатый процесс обучения помогает модели использовать внешние инструменты как естественное продолжение процесса рассуждения. Это приводит к снижению ошибок и повышению надежности выводов модели.

Эмпирические результаты

Исследования показали, что START значительно улучшил производительность в различных задачах, включая научные вопросы и математические задачи. Например, на наборе вопросов уровня PhD точность модели составила 63.6%, что является заметным улучшением по сравнению с исходной моделью.

Заключение

Разработка START представляет собой важный шаг вперед в решении сложных задач рассуждения. Объединяя внутренние размышления с интеграцией внешних инструментов, модель предлагает практическое решение для повышения точности и надежности в вычислительных задачах.

Практическое применение ИИ в бизнесе

Рассмотрите, как технологии искусственного интеллекта могут изменить ваш подход к работе. Найдите процессы, которые можно автоматизировать, и определите ключевые показатели эффективности для оценки влияния ваших инвестиций в ИИ.

Контакты

Если вам нужна помощь в управлении ИИ в бизнесе, свяжитесь с нами по адресу hello@itinai.ru. Подписывайтесь на наши обновления в Telegram здесь.

Пример решения на основе ИИ

Посмотрите на практический пример: бот для продаж от itinai.ru, который автоматизирует взаимодействие с клиентами круглосуточно.



Новости в сфере искусственного интеллекта