Просмотр

Материал из MachineLearning.

У вас нет прав на выполнение этой операции по следующим причинам:

• Запрошенное действие могут выполнять только участники из групп emailconfirmed, Администраторы.
• Вы должны подтвердить ваш адрес электронной почты перед правкой страниц. Пожалуйста, введите и подтвердите ваш адрес эл. почты на странице настроек.

Вы можете просмотреть и скопировать исходный текст этой страницы:

{{well|Статья написана с использованием LLM '''GPT-5.6 Thinking''' и проверена участником [[Участник:Kamilia|К.Н.Гибадуллина]] 1:10, 19 июля 2026 (MSD)}} = Псевдоразметка данных = Представим, что для обучения модели есть 500 фотографий, которые человек уже подписал как «кошка» или «собака», и ещё несколько тысяч изображений без подписей. Сначала модель можно обучить только на размеченной части. Затем она сама обработает остальные фотографии и предположит, какой класс соответствует каждому изображению. Такие автоматически полученные ответы называются псевдометками. Псевдоразметка данных, или псевдомаркировка, — это способ использовать [[Неразмеченные данные|неразмеченные данные]] вместе с небольшой [[Обучающая выборка|обучающей выборкой]]. Метод особенно полезен, когда собрать данные легко, а их ручная [[Разметка данных|разметка]] требует много времени, денег или участия специалистов. == Основная идея == Псевдометка — это не подтверждённый человеком правильный ответ, а предсказание уже обученной модели. Например, модель может определить, что на фотографии с высокой уверенностью изображена кошка. В этом случае метка «кошка» временно используется так, будто её поставил человек. После добавления таких объектов обучающая выборка становится больше. Модель получает больше примеров и иногда лучше распознаёт общие закономерности. Однако псевдометки могут быть ошибочными, поэтому их нельзя считать полной заменой ручной разметки. == Как работает псевдоразметка == Основная схема метода выглядит следующим образом: # Модель обучается на небольшой размеченной выборке. # Обученная модель делает предсказания для неразмеченных объектов. # Из этих предсказаний выбираются наиболее уверенные. # Выбранным объектам назначаются псевдометки. # Размеченные и псевдоразмеченные данные объединяются. # Модель повторно обучается на расширенной выборке. Этот процесс можно выполнить один раз или повторить несколько раз. При повторении модель после нового обучения снова размечает оставшиеся объекты. На каждой следующей итерации в выборку могут добавляться новые примеры. == Пример применения == Рассмотрим задачу определения темы коротких сообщений. Есть тысяча текстов, вручную отнесённых к категориям «спорт», «технологии» и «культура», а также много текстов без меток. Сначала классификатор обучается на размеченных сообщениях. Затем он обрабатывает остальные тексты. Если модель очень уверенно относит сообщение к теме «спорт», этот ответ сохраняется как псевдометка. Сообщения с неуверенными оценками пока не используются. После отбора наиболее надёжные псевдоразмеченные тексты добавляются к исходной выборке. Модель обучается заново и получает больше примеров употребления слов и выражений. При удачном отборе это может повысить качество [[Классификация|классификации]]. == Выбор псевдометок == Главная проблема метода состоит в том, что модель может ошибаться. Если ошибочное предсказание добавить в обучающую выборку, при следующем обучении модель начнёт воспринимать его как правильный ответ. Чтобы уменьшить риск, обычно задают порог уверенности. Псевдометка принимается только тогда, когда модель заметно увереннее в одном классе, чем в остальных. Точный порог зависит от задачи и качества модели. Если порог слишком низкий, в выборку попадёт много неправильных меток. Ошибки могут накапливаться: модель обучается на собственных неверных ответах, а затем становится ещё увереннее в них. Это явление называют ошибкой подтверждения, или confirmation bias. Если порог слишком высокий, будет выбрано мало объектов, и польза от неразмеченных данных окажется небольшой. Поэтому качество метода проверяют на отдельной проверочной выборке. == Преимущества и ограничения == Преимущества псевдоразметки: * позволяет использовать большие объёмы неразмеченных данных; * уменьшает потребность в ручной разметке; * имеет простую и понятную схему; * может улучшить модель при небольшом числе размеченных примеров. Ограничения метода: * псевдометки могут содержать ошибки; * слабая начальная модель создаёт некачественную разметку; * ошибки способны усиливаться при повторном обучении; * уверенность модели не всегда означает правильность ответа; * результат зависит от порога уверенности и состава данных. == Применение == Псевдоразметка используется в [[Компьютерное зрение|компьютерном зрении]] для классификации изображений, в [[Обработка естественного языка|обработке естественного языка]] для определения тем и категорий текстов, а также в распознавании речи. В медицинских задачах псевдометки могут применяться к изображениям или записям, которые ещё не проверены специалистом. Однако в таких областях автоматические метки необходимо использовать особенно осторожно из-за высокой цены ошибки. == Связь с другими методами == Псевдоразметка является одним из подходов [[Обучение с частичным привлечением учителя|обучения с частичным привлечением учителя]], где одновременно используются размеченные и неразмеченные данные. Она также тесно связана с [[Самостоятельное обучение|самообучением]], или self-training. При самообучении модель создаёт метки для неразмеченных объектов и затем обучается на собственных предсказаниях. Псевдоразметку можно рассматривать как конкретный способ организации такого процесса. От ручной разметки метод отличается тем, что ответы назначает модель, а не человек. Псевдоразметка также не создаёт новые объекты: она добавляет предполагаемые метки к уже существующим данным. Поэтому её не следует смешивать с автоматической генерацией изображений, текстов или других синтетических данных. == См. также == * [[Разметка данных]] * [[Обучающая выборка]] * [[Классификация]] * [[Неразмеченные данные]] * [[Обучение с частичным привлечением учителя]] * [[Самостоятельное обучение]] * [[Компьютерное зрение]] * [[Обработка естественного языка]] == Литература == * Chapelle O., Schölkopf B., Zien A., eds. Semi-Supervised Learning. — Cambridge, Massachusetts: MIT Press, 2006. * Lee D.-H. Pseudo-Label: The Simple and Efficient Semi-Supervised Learning Method for Deep Neural Networks // ICML Workshop on Challenges in Representation Learning. — 2013. * Arazo E., Ortego D., Albert P., O'Connor N. E., McGuinness K. Pseudo-Labeling and Confirmation Bias in Deep Semi-Supervised Learning // International Joint Conference on Neural Networks. — 2020. — P. 1–8. * Sohn K. et al. FixMatch: Simplifying Semi-Supervised Learning with Consistency and Confidence // Advances in Neural Information Processing Systems. — 2020. — Vol. 33. — P. 596–608.

• Шаблон:Mbox
• Шаблон:Well

Возврат к странице Псевдоразметка данных.