Обучение с частичным привлечением учителя

Материал из MachineLearning.

Версия от 22:42, 18 июля 2026; Amir Baidanov (Обсуждение | вклад)

(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)

Статья написана с использованием LLM GPT-4 Turbo и проверена участником Amir Baidanov 02:42, 19 июля 2026 (MSD)

Обучение с частичным привлечением учителя (semi-supervised learning, SSL) — раздел машинного обучения, занимающийся построением моделей по данным, в которых небольшая часть объектов размечена, а основная масса — нет. SSL занимает промежуточное положение между обучением с учителем, где все данные размечены, и обучением без учителя, где разметка отсутствует полностью. Основная идея заключается в использовании неразмеченных данных для улучшения качества классификации или регрессии, особенно когда получение разметки дорого или трудоёмко.

Содержание

1 Интуитивная картина
2 Историческая справка
3 Основные предположения SSL
4 Математическая постановка
5 Основные подходы
6 Практические применения
7 Преимущества и недостатки
- 7.1 Преимущества
- 7.2 Недостатки
8 Ограничения и ошибки интерпретации
9 Связь с другими подходами
10 Современные направления исследований
11 Пример: улучшение классификации с помощью SSL
12 Краткий вывод
13 См. также
14 Примечания
15 Литература
16 Ссылки

Интуитивная картина

Представьте, что вы учите ребёнка распознавать кошек и собак. Вы показываете ему несколько картинок с подписями (размеченные данные) и много картинок без подписей (неразмеченные данные). Ребёнок видит, что размеченные кошки обычно имеют заострённые уши и меньший размер, а собаки — висячие уши и крупнее. Затем он смотрит на неразмеченные картинки и замечает, что они тоже группируются по этим признакам. Даже не зная точных названий, он может догадаться, что похожие картинки относятся к одному классу, и использовать это для лучшего понимания различий.

На языке машинного обучения это означает: неразмеченные данные помогают модели лучше понять структуру пространства признаков и провести более точные границы между классами, особенно когда размеченных данных мало.

Историческая справка

Идеи использования неразмеченных данных восходят к 1960-м годам, когда появились первые работы по обучению с частичным привлечением учителя. Однако активное развитие началось в 1990-х годах, когда были разработаны теоретические основы и первые алгоритмы.

Ключевые вехи:

1990-е: разработка методов на основе графов и алгоритмов самообучения;
2000-е: появление трансдуктивного обучения и методов на основе многообразий;
2010-е: интеграция SSL с глубокими нейронными сетями, создание методов согласованности (Pi-model, Temporal Ensembling);
2020-е: разработка эффективных алгоритмов для больших данных (FixMatch, MixMatch, Noisy Student).

Важный теоретический вклад внесли работы по теории SSL, включая работы о PAC-обучении для полу-учителя и оценках обобщающей способности ^[1].

Основные предположения SSL

Все методы SSL основываются на одном или нескольких предположениях о структуре данных:

Предположение гладкости

Если два объекта близки в пространстве признаков, то они с высокой вероятностью принадлежат одному классу. Это предположение используется в методах на основе графов и регуляризации.

Предположение кластеризации

Данные образуют кластеры, и объекты внутри одного кластера принадлежат одному классу. Это означает, что границы классов проходят через области с низкой плотностью данных. Данное предположение лежит в основе методов, использующих кластеризацию для распространения разметки.

Предположение многообразия

Данные лежат на низкоразмерном многообразии, вложенном в пространство признаков высокой размерности. SSL использует это предположение для построения метрик и переноса разметки вдоль многообразия.

Математическая постановка

Пусть дана обучающая выборка из двух частей:

размеченные данные: $\{(x_i, y_i)\}_{i=1}^l$ , где $y_i \in \{1, \dots, C\}$ ;
неразмеченные данные: $\{x_j\}_{j=l+1}^{l+u}$ , где $u \gg l$ .

Задача SSL состоит в построении функции $f: \mathcal{X} \to \mathcal{Y}$ , которая использует как размеченные, так и неразмеченные данные. Обычно задача формулируется как минимизация эмпирического риска с добавлением регуляризатора, использующего неразмеченные данные:

$\min_f \frac{1}{l} \sum_{i=1}^l \ell(f(x_i), y_i) + \lambda \cdot \mathcal{R}(f, \{x_j\}_{j=l+1}^{l+u})$ ,

где $\ell$ — функция потерь на размеченных данных, $\mathcal{R}$ — регуляризатор, учитывающий структуру неразмеченных данных, $\lambda$ — коэффициент регуляризации.

Основные подходы

Самообучение (Self-training)

Самообучение — один из самых простых и интуитивных методов. Алгоритм:

Обучается модель на размеченных данных.
Модель делает предсказания для неразмеченных данных.
Наиболее уверенные предсказания добавляются в размеченную выборку с их псевдо-метками.
Процесс повторяется.

Самообучение эффективно, когда модель способна генерировать надёжные псевдо-метки. Однако ошибки могут накапливаться, ухудшая качество.

Методы согласованности (Consistency Regularization)

Методы согласованности основаны на идее: модель должна давать одинаковые предсказания для слегка возмущённых версий одного и того же объекта. Это соответствует предположению гладкости и используется в современных SSL-алгоритмах.

$\mathcal{R}_{\text{cons}} = \mathbb{E}_{x} \left[ \| f(x) - f(\tilde{x}) \|^2 \right]$ ,

где $\tilde{x}$ — возмущённая версия $x$ , а $f$ — выход модели.

Ключевые методы:

Pi-model — штрафует разницу между предсказаниями для двух случайных аугментаций;
Temporal Ensembling — использует скользящее среднее предсказаний для стабилизации обучения;
Mean Teacher — использует две модели: студент (обучается) и учитель (скользящее среднее весов студента).

Графовые методы

Графовые методы строят граф на всех объектах (размеченных и неразмеченных), где рёбра соединяют близкие объекты. Метка распространяется по графу с использованием графового лапласиана.

Задача минимизируется:

$\sum_{i=1}^l \ell(f(x_i), y_i) + \lambda \sum_{i,j} W_{ij} \| f(x_i) - f(x_j) \|^2$ ,

где $W_{ij}$ — вес ребра между объектами $i$ и $j$ (обычно вычисляется как гауссово ядро от расстояния в пространстве признаков).

Недостаток — вычислительная сложность $O(N^2)$ для $N = l + u$ объектов.

Генеративные методы

Генеративные методы моделируют распределение данных $P(x, y)$ , используя как размеченные, так и неразмеченные объекты. Если известно распределение $P(x)$ (по неразмеченным данным), можно улучшить оценку $P(y \mid x)$ .

Наиболее известные подходы:

вариационные автокодировщики (VAE) с совместным моделированием $P(x, y)$ ;
генеративно-состязательные сети (GAN) для генерации реалистичных объектов и улучшения классификатора ^[1].

Современные методы

MixMatch — интегрирует аугментацию данных, согласованность и самообучение, используя перемешивание (mixup) размеченных и неразмеченных данных ^[1];
FixMatch — упрощает MixMatch, используя слабые и сильные аугментации для генерации высококачественных псевдо-меток ^[1];
Noisy Student — использует самообучение с добавлением шума в процесс обучения на больших наборах неразмеченных данных ^[1].

Практические применения

Обработка естественного языка (NLP)

В NLP разметка данных (например, для задач анализа тональности или именованных сущностей) требует больших трудозатрат. SSL позволяет использовать огромные корпуса неразмеченных текстов для улучшения качества моделей. BERT и другие предобученные модели используют идеи SSL в виде маскированного языкового моделирования.

Компьютерное зрение

В задачах классификации изображений разметка миллионов картинок стоит дорого. SSL позволяет использовать огромные наборы неразмеченных изображений (например, из интернета) для улучшения качества классификации. Методы типа Noisy Student и FixMatch показывают результаты, приближающиеся к полностью размеченным данным, используя лишь 5–10% разметки.

Медицинская диагностика

В медицине разметка снимков (рентген, МРТ) требует участия экспертов-врачей и стоит очень дорого. SSL позволяет использовать большие архивы неразмеченных снимков для улучшения диагностических моделей. Однако критически важно, чтобы предположения SSL выполнялись, иначе ошибки могут иметь серьёзные последствия.

Социальные науки и маркетинг

SSL используется для сегментации клиентов, анализа социальных сетей и других задач, где размеченные данные дороги, а неразмеченных много.

Преимущества и недостатки

Преимущества

Снижение затрат на разметку: позволяет использовать большие объёмы неразмеченных данных;
Улучшение качества: часто даёт лучшее качество, чем обучение только на малом числе размеченных объектов;
Использование структуры данных: учитывает глобальную структуру пространства признаков;
Гибкость: может комбинироваться с различными типами моделей.

Недостатки

Не всегда работает: если предположения SSL нарушаются (например, данные не образуют кластеров), добавление неразмеченных данных может ухудшить качество;
Чувствительность к распределению данных: работает хорошо только если неразмеченные данные происходят из того же распределения, что и размеченные;
Вычислительная сложность: графовые методы требуют $O(N^2)$ памяти и времени;
Сложность настройки: требует аккуратного выбора гиперпараметров (баланс между размеченными и неразмеченными данными);
Риск распространения ошибок: в самообучении ошибки на начальных шагах могут накапливаться.

Ограничения и ошибки интерпретации

Неразмеченные данные всегда помогают

Это неверно. Если распределение неразмеченных данных сильно отличается от размеченных (out-of-distribution), SSL может ухудшить качество. Например, если в задаче классификации кошек и собак неразмеченные данные содержат много изображений автомобилей, модель может начать использовать нерелевантные признаки.

SSL требует меньше данных

SSL не заменяет полностью размеченные данные. Для сложных задач всё равно требуется некоторое минимальное число размеченных объектов, чтобы задать правильное направление обучения. Добавление неразмеченных данных улучшает, но не создаёт качество из ничего.

SSL — это просто обучение без учителя с метками

SSL принципиально отличается от обучения без учителя: он использует размеченные данные для задания структуры классов, а неразмеченные — для уточнения границ. Это гибридный подход, а не одна из крайностей.

Связь с другими подходами

Трансферное обучение

SSL часто используется вместе с трансферным обучением. Например, модель предобучается на большом наборе данных (например, ImageNet), а затем дообучается с использованием SSL на целевом наборе, где часть данных размечена.

Обучение с малым числом примеров (Few-shot learning)

В отличие от SSL, few-shot learning предполагает наличие очень малого числа размеченных примеров (1–5 на класс) и не использует неразмеченные данные. SSL — более общий подход, работающий с сотнями или тысячами размеченных примеров и большим числом неразмеченных.

Активное обучение

Активное обучение и SSL часто комбинируются: сначала активное обучение выбирает, какие объекты следует разметить, чтобы получить максимальную пользу, а затем SSL использует неразмеченные данные для улучшения модели.

Современные направления исследований

SSL для больших языковых моделей: использование неразмеченных текстов для обучения больших моделей (GPT, BERT) с последующей тонкой настройкой на размеченных данных;
SSL в обучении с подкреплением: использование неразмеченных данных для улучшения исследования среды;
SSL с аут-оф-дистрибуцией: разработка методов, устойчивых к наличию неразмеченных данных из других распределений;
Теоретические основы: разработка гарантий обобщения для SSL-алгоритмов ^[1];
SSL для мультимодальных данных: использование неразмеченных данных из разных модальностей (текст, изображения, звук) для улучшения моделей.

Пример: улучшение классификации с помощью SSL

Рассмотрим задачу классификации на двумерных данных. Имеется 10 размеченных точек (по 5 на класс) и 100 неразмеченных. Классы образуют две окружности, вложенные друг в друга.

При обучении только на 10 размеченных точках линейный классификатор проведёт прямую линию, которая разделит точки с высокой ошибкой, поскольку линейная граница не подходит для данных такой структуры.

При использовании SSL (например, графового метода) алгоритм строит граф на всех 110 точках, распространяет метки от размеченных точек к неразмеченным вдоль графа и находит нелинейную границу, которая хорошо разделяет классы. В результате ошибка классификации снижается с 30% до 5%.

Этот пример демонстрирует ключевую идею SSL: неразмеченные данные помогают восстановить структуру пространства признаков и построить более точную разделяющую границу.

Краткий вывод

Обучение с частичным привлечением учителя — мощный подход, позволяющий эффективно использовать большие объёмы неразмеченных данных для улучшения качества моделей при ограниченном количестве размеченных объектов. Основные методы включают самообучение, согласованность, графовые и генеративные подходы, а современные алгоритмы (FixMatch, MixMatch) достигают качества, близкого к полностью размеченному обучению, используя лишь 5–10% меток. Однако SSL не является панацеей: его успех критически зависит от выполнения предположений о структуре данных, и неправильное использование может ухудшить качество. SSL активно применяется в компьютерном зрении, обработке естественного языка и медицине, где разметка данных особенно дорога.

Схема работы обучения с частичным привлечением учителя:

$\text{размеченные данные} + \text{неразмеченные данные} \to \text{выбор метода полу-учителя} \to \text{обучение с использованием предположений} \to \text{классификация новых объектов} \to \text{улучшение качества}$

См. также

Примечания

Литература

Chapelle O., Schölkopf B., Zien A. (2006). Semi-Supervised Learning. MIT Press.
Zhu X., Goldberg A. B. (2009). Introduction to semi-supervised learning. Synthesis Lectures on Artificial Intelligence and Machine Learning, 3(1): 1–130.
Salimans T., Goodfellow I., Zaremba W., Cheung V., Radford A., Chen X. (2016). Improved techniques for training GANs. Advances in Neural Information Processing Systems, 29: 2234–2242.
Berthelot D., Carlini N., Goodfellow I., Papernot N., Oliver A., Raffel C. (2019). MixMatch: A holistic approach to semi-supervised learning. Advances in Neural Information Processing Systems, 32: 5050–5060.
Sohn K., Berthelot D., Li C.-L., Zhang Z., Carlini N., Cubuk E. D., Kurakin A., Zhang H., Raffel C. (2020). FixMatch: Simplifying semi-supervised learning with consistency and confidence. Advances in Neural Information Processing Systems, 33: 596–608.
Xie Q., Luong M.-T., Hovy E., Le Q. V. (2020). Self-training with noisy student improves ImageNet classification. Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, 10687–10698.
Rigollet P. (2011). A review of semi-supervised learning theory. Technical report, MIT.
Van Engelen J. E., Hoos H. H. (2020). A survey on semi-supervised learning. Machine Learning, 109(2): 373–440.

Ссылки

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%9E%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5_%D1%81_%D1%87%D0%B0%D1%81%D1%82%D0%B8%D1%87%D0%BD%D1%8B%D0%BC_%D0%BF%D1%80%D0%B8%D0%B2%D0%BB%D0%B5%D1%87%D0%B5%D0%BD%D0%B8%D0%B5%D0%BC_%D1%83%D1%87%D0%B8%D1%82%D0%B5%D0%BB%D1%8F»

Категории: Машинное обучение | Обучение с частичным привлечением учителя | Методы обучения | Активное обучение