КодSteer: Модели языка с поддержкой символов через руководство кодом и текстом

This AI Paper Introduces CodeSteer: Symbolic-Augmented Language Models via Code/Text Guidance

“`html

Проблемы больших языковых моделей (LLMs)

Большие языковые модели сталкиваются с трудностями в точных вычислениях и алгоритмических задачах. Они хорошо понимают смысл и имеют общее представление, но не всегда могут решать задачи, требующие высокой точности, такие как математические задачи или логическое принятие решений.

Решения для улучшения работы LLMs

Исследователи выявили основное ограничение LLMs: они не могут эффективно переключаться между текстовым рассуждением и выполнением кода. Это происходит потому, что большинство запросов не указывают, какой подход лучше использовать. Некоторые модели, например, GPT от OpenAI, пытаются решить эту проблему, но не всегда успешно.

Новая разработка: CodeSteer

Исследователи из MIT и других университетов представили новый фреймворк под названием CodeSteer. Он помогает LLMs лучше переключаться между текстовым рассуждением и символическими вычислениями. CodeSteer оптимизирует генерацию кода и текстовое рассуждение, используя новый набор тестов SymBench.

Как работает CodeSteer?

CodeSteer включает многоступенчатую методологию для улучшения возможностей LLMs. Он использует набор данных SymBench, который содержит задачи по символическому рассуждению. Исследователи создали 12,000 примеров для обучения и 5,500 пар для сравнения. Также добавлены проверки правильности и эффективности решений, чтобы модели не полагались только на текстовое рассуждение.

Результаты и преимущества

Тестирование CodeSteer показало значительные улучшения. При интеграции с GPT-4o, модель показала повышение средней оценки с 53.3 до 86.4. Это позволяет LLMs сохранять высокую производительность даже при сложных задачах.