“`html
Внедрение CriticGPT: новая модель искусственного интеллекта на основе GPT-4 для выявления ошибок в кодовых выводах ChatGPT
В сфере искусственного интеллекта (ИИ) критически важно точно оценивать результаты моделей. Системы ИИ новейшего поколения, такие как те, которые основаны на архитектуре GPT-4, обучаются с использованием обучения с подкреплением с обратной связью от людей (RLHF). Этот подход использует человеческие оценки для направления процесса обучения, так как людям обычно проще и быстрее оценивать выводы, созданные ИИ, чем создавать идеальные примеры.
Практические решения и ценность
Для более точной оценки качества выводов моделей ИИ, исследователи OpenAI разработали CriticGPT – инструмент, помогающий обнаруживать ошибки в ответах ChatGPT. CriticGPT создан для преодоления ограничений человеческой оценки в RLHF и предлагает механизм масштабируемого надзора, улучшающий точность и надежность систем ИИ.
В экспериментах было показано, что человеческие рецензенты, использующие CriticGPT для оценки выводов ChatGPT, демонстрировали на 60% более высокие результаты по сравнению с теми, кто не получал такой поддержки. Это позволяет улучшить сотрудничество между человеком и ИИ, а также обеспечить более тщательные и точные оценки выводов ИИ.
Исследования также показали, что внедрение моделей, аналогичных CriticGPT, в процесс маркировки RLHF позволит обеспечить AI-тренерам доступ к явной поддержке ИИ, упрощая оценку сложных выводов систем ИИ. Это важное развитие, которое решает проблему идентификации мелких ошибок в сложных моделях ИИ.
Кроме того, CriticGPT способен выделять ошибки в ответах ChatGPT, улучшая процесс оценки и обеспечивая соблюдение намеченного поведения и целей сложных моделей ИИ.
Основные вклады команды
Команда предложила первый пример простой и масштабируемой техники надзора, которая значительно помогает обнаруживать проблемы в реальных данных RLHF.
В ходе исследования было обнаружено, что критики, созданные CriticGPT, обнаруживают больше внедренных ошибок и предпочтительнее для использования, чем те, которые написаны человеческими контракторами.
Сравнительный анализ показал, что команды, состоящие из моделей-критиков и человеческих контракторов, создают более тщательные критики по сравнению с работой только человеческих контракторов. Также партнерство моделей и контракторов снижает вероятность галлюцинаций по сравнению с обзорами, созданными исключительно моделями.
Исследование также представляет Force Sampling Beam Search (FSBS), технику выборки и оценки во время вывода, которая хорошо сбалансирована между минимизацией ложных проблем и обнаружением реальных ошибок в критиках, созданных LLM.
Подробности и документацию ознакомьтесь на официальном сайте. Вся честь за это исследование принадлежит исследователям проекта. Также, не забудьте подписаться на наш Twitter.
Присоединяйтесь к нашему каналу в Telegram и группе в LinkedIn.
Если вам нравится наша работа, вам понравится и наша рассылка.
Не забудьте присоединиться к нашему сообществу в Reddit.
Статья OpenAI Introduces CriticGPT: A New Artificial Intelligence AI Model based on GPT-4 to Catch Errors in ChatGPT’s Code Output была опубликована на MarkTechPost.
Используйте ИИ для развития вашего бизнеса
Если вы хотите, чтобы ваша компания развивалась с помощью искусственного интеллекта (ИИ) и оставалась в числе лидеров, грамотно используйте CriticGPT и другие решения ИИ.
Проанализируйте, как ИИ может изменить вашу работу и определите, где можно применить автоматизацию. Найдите моменты, когда ваши клиенты могут извлечь выгоду из ИИ.
Выберите подходящее решение среди множества вариантов ИИ и внедряйте его постепенно, начиная с малых проектов и анализируя результаты.
Если вам нужны советы по внедрению ИИ, пишите нам на Telegram. Следите за новостями о ИИ в нашем Телеграм-канале или в Twitter.
Попробуйте AI Sales Bot, который поможет вам в продажах, отвечая на вопросы клиентов, генерируя контент и снижая нагрузку на первую линию.
Узнайте, как ИИ может изменить ваши процессы с решениями от AI Lab, будущее уже здесь!
“`
