“`html
Многоуровневая классификация текста (MLTC)
Многоуровневая классификация текста (MLTC) присваивает тексту несколько релевантных меток. Глубокие обучающие модели показали отличные результаты в этой области, но требуют много размеченных данных, что дорого и времязатратно. Здесь на помощь приходит активное обучение, которое оптимизирует процесс, выбирая самые информативные неразмеченные образцы для аннотирования, тем самым снижая затраты на разметку.
Проблемы активного обучения
Существующие методы активного обучения в основном предназначены для традиционных моделей с одной меткой и не применимы к глубоким многометочным моделям. С учетом сложности многометочных задач и высоких затрат на аннотации, необходимы методы активного обучения, адаптированные для глубоких многометочных классификаций.
Решение BEAL
Исследователи из Института автоматизации Китайской академии наук разработали метод BEAL — глубокое активное обучение для MLTC. BEAL использует байесовское глубокое обучение и новую функцию приобретения, основанную на ожидаемой уверенности, для выбора неуверенных образцов. Эксперименты с моделью BERT на известных наборах данных AAPD и StackOverflow показали, что BEAL улучшает эффективность обучения, достигая сходимости с меньшим количеством размеченных образцов.
Методология
Методология включает в себя фреймворк активного обучения в пакетном режиме для глубокого многометочного текстового классифицирования. Начав с небольшого размеченного набора данных, фреймворк итеративно выбирает неразмеченные образцы для аннотирования на основе функции приобретения. Этот процесс продолжается до тех пор, пока производительность модели не сойдется.
Результаты исследования
Авторы оценили метод BEAL, сравнив его с несколькими стратегиями активного обучения, включая случайную выборку и другие методы. BEAL продемонстрировал наилучшие результаты, требуя лишь 64% размеченных образцов на AAPD и 40% на StackOverflow. Исследование также подчеркивает преимущества байесовского глубокого обучения в BEAL.
Заключение
Метод BEAL демонстрирует преимущества активного обучения для глубоких многометочных моделей, позволяя более эффективно обучать модели с меньшим количеством размеченных образцов. Это особенно ценно в реальных приложениях, где получение больших объемов размеченных данных затруднено.
Практические рекомендации
Если вы хотите, чтобы ваша компания развивалась с помощью искусственного интеллекта, используйте метод BEAL. Проанализируйте, как ИИ может изменить вашу работу, определите ключевые показатели эффективности (KPI), которые хотите улучшить с помощью ИИ. Постепенно внедряйте ИИ-решения, начиная с малого проекта, и расширяйте автоматизацию на основе полученных данных и опыта.
Контакт для получения советов
Если вам нужны советы по внедрению ИИ, пишите нам в Телеграм. Следите за новостями о ИИ в нашем Телеграм-канале или в Twitter. Узнайте, как ИИ может изменить ваши процессы с решениями от AI Lab. Будущее уже здесь!
“`
