Модельный коллапс

Материал из MachineLearning.

Статья написана с использованием LLM Claude Opus 4.8 и проверена участником Miraslava Ladutska 7 июля 2026 (MSD).

Модельный коллапс (англ. model collapse) — явление постепенной деградации качества генеративных моделей машинного обучения, возникающее при повторном (рекурсивном) обучении моделей на данных, порождённых предыдущими поколениями таких же моделей. С каждым новым поколением обучающая выборка всё сильнее состоит из синтетических данных, а не из наблюдений реального мира; в результате модель теряет информацию о хвостах распределения (редких событиях), сокращает дисперсию и разнообразие порождаемых образцов. При наивном рекурсивном обучении — прежде всего когда реальные данные замещаются синтетическими или их приток оказывается недостаточным — распределение в пределе может сойтись к вырожденному, слабо связанному с исходными данными.^[1]^[1]

Термин приобрёл известность после серии работ 2023–2024 годов, посвящённых вопросу: что произойдёт с моделями поколения $\mathrm{GPT}\text{-}n$ , если значительная доля текстов и изображений в интернете будет сгенерирована предыдущими моделями. Модельный коллапс связан с более общими понятиями обратной связи по данным (data feedback loops), самопотребляющих циклов обучения (self-consuming loops) и «расстройства автофагии моделей» (англ. Model Autophagy Disorder, MAD).^[1] Для читателя, впервые сталкивающегося с темой, полезна такая интуиция: если многократно копировать копию — пересъёмка фотографии фотографии или пересказ пересказа, — мелкие детали и редкие варианты постепенно исчезают, а результат «усредняется» и упрощается. Модельный коллапс — формальное и количественное описание этого эффекта для обучаемых распределений вероятностей.

Тема относится к быстро развивающейся и отчасти дискуссионной области. Часть исследований указывает на неизбежность деградации при «наивном» рекурсивном обучении; другие показывают, что при накоплении реальных данных, верификации синтетики или сохранении достаточной доли настоящих наблюдений коллапс можно предотвратить.^[1]

Содержание

1 Коротко
2 Терминология и базовые понятия
- 2.1 Основные определения
- 2.2 Разграничение со смежными понятиями
3 Исторический и исследовательский контекст
4 Математическая постановка
5 Классификация видов и режимов
6 Механизмы деградации
7 Обнаружение и оценка
8 Предотвращение и смягчение
9 Практический протокол применения
10 Ограничения и открытые вопросы
11 Типичные ошибки
12 Современные исследования и примеры
13 Значение для науки и практики
14 См. также
15 Примечания
16 Литература
17 Ссылки

Коротко

Модельный коллапс возникает не оттого, что синтетические данные вредны сами по себе, а оттого, что при их неконтролируемом повторном использовании из распределения вымываются редкие варианты. Отсюда главный практический вывод: реальные данные разумнее не заменять синтетикой, а накапливать, проверять и маркировать источники. Ниже это утверждение раскрывается — от простейшего гауссова примера до законов масштабирования и способов диагностики.

Терминология и базовые понятия

Основные определения

Под генеративной моделью понимают модель, которая аппроксимирует распределение данных $p(x)$ и позволяет порождать новые образцы $x \sim \hat p(x)$ . Примеры — большие языковые модели (LLM), вариационные автокодировщики (VAE), генеративно-состязательные сети (GAN), диффузионные модели, а также классические модели гауссовых смесей (GMM).

Рекурсивное (итеративное) обучение — процедура, в которой модель поколения $n$ обучается на выборке, порождённой моделью поколения $n-1$ . Если такой процесс замыкается сам на себя, говорят о самопотребляющем цикле (self-consuming loop) или автофагическом цикле (autophagous loop).^[1]

Модельный коллапс — устойчивое ухудшение свойств $\hat p_n$ с ростом $n$ : сокращение области носителя распределения, потеря мод, снижение дисперсии и разнообразия, накопление систематических искажений. В исходных работах различают две фазы:^[1]

Ранний модельный коллапс (early model collapse) — модель прежде всего теряет информацию о хвостах распределения, то есть о редких, но значимых событиях, сохраняя основную массу вероятности.
Поздний модельный коллапс (late model collapse) — распределение существенно расходится с исходным, обычно с резко пониженной дисперсией; в пределе оно может выродиться в узкую моду или точечную массу.

Разграничение со смежными понятиями

Модельный коллапс легко спутать с несколькими близкими явлениями, которые, однако, имеют иную природу.

Понятие	Суть	Отличие от модельного коллапса
Коллапс мод (mode collapse) в GAN	Генератор в пределах одного обучения порождает лишь часть мод распределения	Возникает внутри одного цикла обучения из-за неустойчивости оптимизации, а не между поколениями рекурсивного переобучения
Катастрофическое забывание (catastrophic forgetting)	Потеря ранее выученных навыков при последовательном обучении новым задачам	Связано со сменой задач и распределений, а не с обучением на собственных сгенерированных данных
Меморизация (memorization, запоминание обучающих данных)	Дословное воспроизведение фрагментов обучающей выборки	Описывает переобучение на конкретных примерах, а не постепенное сжатие распределения по поколениям
Переобучение (overfitting)	Подгонка под шум конечной выборки в рамках одного обучения	Модельный коллапс — накопительный, межпоколенческий эффект, где ошибка одного поколения становится входом для следующего

Термин memorization в контексте LLM корректно переводить как «меморизация» или «запоминание обучающих данных»; его не следует смешивать с «мемоизацией» — приёмом кэширования результатов вычислений, не имеющим отношения к обсуждаемому явлению.

Исторический и исследовательский контекст

Мысль о том, что многократное переиспользование выходов моделей способно ухудшить будущие модели, обсуждалась и до 2023 года в связи с обратными связями по данным и усилением смещений выборки при обучении на решениях предыдущих моделей.^[1]

Систематическое изучение началось с препринта Shumailov и соавторов «The Curse of Recursion» (май 2023), где был введён сам термин model collapse и показано, что эффект проявляется в VAE, GMM и языковых моделях.^[1] Расширенная версия исследования опубликована в журнале Nature в 2024 году; в ней продемонстрировано, что неразборчивое использование сгенерированного контента приводит к необратимым дефектам, при которых хвосты исходного распределения исчезают.^[1]

Практически одновременно группа Baraniuk описала явление в контексте генерации изображений, предложив метафору «расстройства автофагии моделей» (MAD) по аналогии с «коровьим бешенством», и выделила три семейства самопотребляющих циклов.^[1] Позднее появились работы, дающие строгую теоретическую трактовку для линейной регрессии и ядерной регрессии,^[1] связывающие коллапс с изменением законов масштабирования,^[1] а также исследования устойчивости итеративного переобучения^[1] и условий, при которых коллапса удаётся избежать.^[1]

Математическая постановка

Рекурсивная схема: замена и накопление данных

Пусть $p$ — истинное распределение данных. Обозначим модель поколения $n$ через $\hat p_n$ . Процесс задаётся так:

поколение $0$ : из $p$ берётся реальная выборка $\mathcal{D}_0$ , по ней оценивается $\hat p_0$ ;
поколение $n \geq 1$ : из $\hat p_{n-1}$ порождается выборка $\mathcal{D}_n = \{x_i\}_{i=1}^{M}$ объёма $M$ , по которой оценивается $\hat p_n$ .

Различают два режима формирования обучающего множества:

замена (replace): $\hat p_n$ обучается только на $\mathcal{D}_n$ ;
накопление (accumulate): $\hat p_n$ обучается на объединении $\mathcal{D}_0 \cup \mathcal{D}_1 \cup \dots \cup \mathcal{D}_n$ .

Различие между этими режимами оказывается решающим для судьбы модели.^[1]

Простейший пример: гауссово распределение

Наиболее прозрачный случай — оценивание одномерного гауссова распределения $p = \mathcal{N}(\mu, \sigma^2)$ методом максимального правдоподобия в режиме замены. На каждом шаге по выборке из $M$ точек оцениваются среднее и дисперсия, после чего из полученного гауссова распределения берётся новая выборка.

Рассмотрим смещённую оценку дисперсии $\hat\sigma_n^2 = \tfrac{1}{M}\sum_{i}(x_i - \bar x)^2$ . Поскольку внутри поколения $n$ данные порождены из $\mathcal{N}(\hat\mu_{n-1}, \hat\sigma_{n-1}^2)$ , справедливо

$\mathbb{E}\!\left[\hat\sigma_n^2 \mid \hat\sigma_{n-1}^2\right] = \frac{M-1}{M}\,\hat\sigma_{n-1}^2 ,$

и, применяя это соотношение по индукции,

$\mathbb{E}\!\left[\hat\sigma_n^2\right] = \left(\frac{M-1}{M}\right)^{n}\sigma^2 \xrightarrow[n\to\infty]{} 0 .$

Таким образом, ожидаемая дисперсия убывает геометрически: распределение «схлопывается» к точке. Существеннее, что коллапс происходит и в более тонком смысле. Возьмём несмещённую оценку $s_n^2 = \tfrac{1}{M-1}\sum_i (x_i - \bar x)^2$ ; тогда $\mathbb{E}[s_n^2 \mid s_{n-1}^2] = s_{n-1}^2$ , то есть последовательность $\{s_n^2\}$ — неотрицательный мартингал с сохраняющимся средним. Однако

$s_n^2 = \sigma^2 \prod_{k=1}^{n} Y_k, \qquad Y_k \sim \frac{\chi^2_{M-1}}{M-1}, \quad \mathbb{E}[Y_k] = 1 ,$

где $Y_k$ независимы. По усиленному закону больших чисел $\tfrac{1}{n}\sum_{k=1}^{n}\log Y_k \to \mathbb{E}[\log Y_1]$ , а по строгому неравенству Йенсена $\mathbb{E}[\log Y_1] < \log \mathbb{E}[Y_1] = 0$ . Следовательно, $\log s_n^2 \to -\infty$ и $s_n^2 \to 0$ почти наверное. Иными словами, несмотря на постоянное среднее, почти каждая конкретная траектория рекурсивного обучения вырождается в точечную массу. Одновременно оценка среднего $\hat\mu_n$ ведёт себя как случайное блуждание с убывающим шагом и сходится к некоторому случайному пределу. Этот пример объясняет, почему при рекурсивном обучении растут расстояние Кульбака — Лейблера и расстояние Вассерштейна между поколением $n$ и исходным распределением.^[1]

Источники ошибки

В базовых работах выделяют три взаимодополняющих источника ошибки, совместное действие которых и порождает коллапс.^[1]^[1] Первый — статистическая ошибка аппроксимации: из-за конечности выборки редкие события с малой вероятностью в неё попросту не попадают, поэтому хвосты распределения не воспроизводятся и безвозвратно теряются при повторной генерации. Второй — ошибка выразительности: ограниченность класса моделей, например попытка описать многомодальные данные одной гауссианой, систематически искажает форму распределения. Третий — ошибка функциональной аппроксимации, связанная с несовершенством самой процедуры обучения (регуляризацией, смещениями стохастического градиентного спуска) и добавляющая дополнительный дрейф оценок.

Из этих трёх источников статистическая ошибка присутствует всегда и считается определяющей: даже при идеально выразительной модели и идеальном оптимизаторе конечность выборки на каждом шаге приводит к постепенной потере тонких деталей распределения.

Модельный коллапс как изменение законов масштабирования

Для больших моделей качество принято описывать законом масштабирования вида $E(N) \approx E_{\infty} + c\,N^{-\alpha}$ , где $N$ — объём данных (или размер модели), $\alpha > 0$ , а $E_\infty$ — предельно достижимая ошибка. При обучении на смеси реальных и синтетических данных этот закон меняется: ошибка выходит на плато $E_0 > E_{\infty}$ , которое не преодолевается наращиванием синтетики, и наблюдаются «потеря масштабирования», сдвиг закона с числом поколений и «разучивание» отдельных навыков (un-learning of skills).^[1] Для линейной и ядерной регрессии удаётся получить точные выражения: в режиме замены дополнительная тестовая ошибка растёт с числом поколений $n$ , тогда как при накоплении данных она остаётся ограниченной.^[1]^[1] Схематически:

$E_n^{\text{replace}} \approx E_\star + n\cdot\Delta, \qquad \sup_{n} E_n^{\text{accumulate}} < \infty ,$

где $E_\star$ — ошибка при обучении на чистых данных, а $\Delta > 0$ — вклад одного цикла рекурсии. Именно этот результат лежит в основе тезиса о том, что модельный коллапс не является неизбежным при разумной организации данных.

Классификация видов и режимов

Типология самопотребляющих циклов

По тому, как в цикл поступают реальные данные, выделяют три семейства.^[1]

Тип цикла	Состав обучающих данных	Типичный исход
Полностью синтетический (fully synthetic)	Только выходы предыдущего поколения	Наиболее быстрый коллапс качества и разнообразия
Синтетически дополняемый (synthetic augmentation)	Фиксированный набор реальных данных плюс синтетика	Замедленная, но обычно продолжающаяся деградация
Со свежими данными (fresh data)	На каждом поколении добавляются новые реальные наблюдения	При достаточном притоке реальных данных деградация может отсутствовать

Качество против разнообразия

Для генеративных моделей ухудшение удобно измерять парой величин: точностью (precision, реалистичность образцов) и полнотой (recall, покрытие разнообразия исходного распределения). В самопотребляющих циклах без достаточного притока свежих реальных данных прогрессивно снижается либо точность, либо полнота, либо обе величины сразу.^[1] Приёмы, повышающие видимое качество за счёт отбора «лучших» образцов (например, ужесточение температуры или ядерной выборки top- $p$ ), сужают хвосты и ускоряют потерю разнообразия.^[1]

Замена или накопление

Отдельная ось классификации — режим обновления данных. В режиме замены каждое поколение вытесняет предыдущие данные, и ошибка накапливается; в режиме накопления исходные реальные данные сохраняются, что ограничивает ошибку сверху и в ряде постановок полностью предотвращает коллапс.^[1] Реальные веб-корпуса ближе к режиму накопления, поскольку старые тексты не удаляются, — это одно из оснований для осторожности при экстраполяции «катастрофических» сценариев на практику.

Механизмы деградации

Деградация складывается из нескольких взаимосвязанных эффектов. Раньше всего проявляется потеря хвостов: маловероятные значения не попадают в конечную выборку и после повторной генерации исчезают безвозвратно.^[1] К этому добавляется систематическое занижение оценок разброса — сжатие дисперсии, наглядно видное уже в гауссовом примере. Для многомодальных распределений второстепенные моды теряются, а масса вероятности стягивается к доминирующей.^[1] В языковых моделях те же процессы выражаются в падении лексического, синтаксического и семантического разнообразия, особенно заметном в задачах, требующих креативности.^[1] Наконец, систематические искажения и стереотипы, уже присутствующие в модели, воспроизводятся в порождаемых ею данных и на следующем поколении усиливаются, замыкая контур положительной обратной связи.^[1] В генерации изображений совокупность этих механизмов проявляется как быстрое накопление артефактов и «замыливания» — иногда всего за несколько поколений.^[1]

Обнаружение и оценка

Диагностика модельного коллапса опирается на сравнение распределения порождаемых образцов с эталонным реальным распределением и на отслеживание динамики этих метрик по поколениям.

Группа метрик	Что измеряет	Признак коллапса
Расстояния между распределениями (KL, Вассерштейн)	Расхождение $\hat p_n$ и $p$	Монотонный рост расстояния с ростом $n$
Дисперсия и энтропия выборки	Разброс и неопределённость образцов	Устойчивое падение
Точность и полнота для генеративных моделей	Реалистичность против покрытия	Снижение полноты (диагностика потери разнообразия)
Метрики разнообразия текста (перплексия, доля уникальных n-грамм, self-BLEU, type-token ratio)	Лексическое и синтаксическое богатство	Сужение словаря и рост повторов^[1]
Оценка доли синтетики (водяные знаки, детекторы, происхождение данных)	Загрязнение обучающего корпуса	Рост доли машинно-сгенерированного контента

При интерпретации метрик важно учитывать масштаб: коллапс — накопительный процесс, поэтому диагностическую ценность имеет прежде всего траектория показателей по поколениям, а не их разовое значение.

Предотвращение и смягчение

Накопленные результаты позволяют сформулировать набор стратегий противодействия, различающихся по стоимости и области применимости.

Стратегия	Идея	Основание
Накопление, а не замена данных	Сохранять исходные реальные данные во всех поколениях	Ограниченность ошибки сверху при накоплении^[1]
Сохранение достаточной доли чистых данных	Поддерживать долю реальных наблюдений $\pi$ выше критического порога	Смягчение коллапса и эффект «озарения» при смешивании^[1]
Верификация и отбор синтетики	Обучать только на прошедших проверку образцах	Синтетика с верификацией способна улучшать модель, а не разрушать её^[1]
Самокоррекция в цикле	Встраивать корректирующий оператор, возвращающий образцы к реальному многообразию	Устойчивость самокорректирующихся циклов^[1]
Отслеживание происхождения и маркировка	Водяные знаки и метаданные для исключения или взвешивания синтетики	Контроль состава обучающих корпусов^[1]
Сохранение хвостов при генерации	Избегать чрезмерного усечения выборки (агрессивных top- $p$ и низкой температуры)	Усечение хвостов ускоряет коллапс^[1]

Условие устойчивости, установленное теоретически, состоит в том, что начальная модель должна достаточно хорошо приближать реальное распределение, а доля синтетики — не превышать некоторого порога; при выполнении этих условий итеративное переобучение остаётся стабильным.^[1]

Практический протокол применения

Ниже приведён обобщённый протокол работы с рекурсивно порождаемыми данными, направленный на предупреждение коллапса.

Этап	Действие	Цель
1. Аудит корпуса	Оценить долю синтетических данных с помощью детекторов, маркировки и анализа происхождения	Понять степень загрязнения
2. Фиксация эталона	Сохранить репрезентативную выборку реальных данных как «якорь»	Обеспечить точку отсчёта и приток реальной информации
3. Выбор режима данных	Предпочесть накопление замене; удерживать долю чистых данных выше порога	Ограничить накопление ошибки
4. Верификация синтетики	Фильтровать и оценивать сгенерированные примеры до включения в обучение	Не допускать деградирующих образцов
5. Мониторинг по поколениям	Отслеживать расстояния между распределениями, дисперсию, разнообразие, точность и полноту	Раннее обнаружение деградации
6. Контроль генерации	Ограничить агрессивное усечение выборки, сохранять хвосты	Предотвратить искусственное сужение распределения
7. Коррекция и остановка	При росте метрик деградации увеличить долю реальных данных или прервать цикл	Не допустить перехода к позднему коллапсу

Ограничения и открытые вопросы

Область остаётся дискуссионной, и ряд выводов чувствителен к принимаемым допущениям.

Замена против накопления. Многие «катастрофические» результаты получены в предположении полной замены данных, тогда как реальные интернет-корпуса накапливают контент; при накоплении ошибка ограничена, и коллапс в исходном смысле не наступает.^[1]
Игрушечные модели. Точные результаты доказаны для гауссовых оценок, линейной и ядерной регрессии; их перенос на многослойные нейросети и LLM требует осторожности.^[1]
Синтетика не всегда вредна. При верификации, отборе или подкреплении синтетические данные способны повышать качество, что показано в исследованиях самоулучшения моделей.^[1]^[1]
Роль курирования. Реальные конвейеры данных включают человеческую фильтрацию и отбор, которые формальные модели «слепого» рекурсивного обучения обычно не учитывают.
Измеримость на практике. Надёжная оценка доли синтетики в веб-масштабных корпусах затруднена, что усложняет прямую проверку сценариев коллапса на действующих системах.

Типичные ошибки

Ошибка	В чём проблема	Как избежать
Отождествление модельного коллапса с коллапсом мод в GAN	Смешиваются межпоколенческий и внутрицикловой эффекты	Явно различать рекурсивное переобучение и неустойчивость одного обучения
Экстраполяция игрушечных результатов на LLM без оговорок	Точные теоремы доказаны для узких классов моделей	Указывать пределы применимости и предположения
Предположение о неизбежности коллапса	Игнорируется режим накопления и верификация	Различать «наивное» и организованное рекурсивное обучение^[1]
Оценка модели по одному поколению	Коллапс — накопительный процесс	Анализировать динамику метрик по поколениям
Погоня за реалистичностью в ущерб покрытию	Отбор «лучших» образцов сужает хвосты	Контролировать полноту наравне с точностью^[1]
Игнорирование происхождения данных	Синтетика попадает в обучение незаметно	Внедрять маркировку и аудит корпусов

Современные исследования и примеры

Исследовательская активность быстро растёт и охватывает как эмпирические, так и теоретические направления, причём эффект удобно наблюдать на конкретных примерах. В области изображений «непотически» обученные модели — обучаемые преимущественно на выходах предшественников — деградируют за считанные поколения: в экспериментах с портретами из набора FFHQ уже через несколько итераций на лицах проступали регулярные сеткообразные артефакты, а разнообразие лиц заметно падало.^[1]^[1] Для языковых моделей задокументировано сокращение лексического, синтаксического и семантического разнообразия при рекурсивном дообучении,^[1] а также вырождение выходов вплоть до концентрации вокруг узкого набора формулировок в полностью самопотребляющем цикле.^[1] Наглядную иллюстрацию даёт эксперимент из статьи в Nature: языковая модель, дообучаемая на собственных выходах, при запросе о средневековой английской архитектуре к девятому поколению переходила к бессвязному тексту о зайцах с хвостами разных цветов — исходная тема полностью вытеснялась.^[1] Теоретическая линия связывает эти наблюдения с изменением законов масштабирования и «разучиванием» навыков при загрязнении обучающего корпуса синтетикой.^[1]

Параллельно развивается «оптимистическое» направление: показано, что накопление данных ограничивает ошибку,^[1] что верификация и подкрепление превращают синтетику в полезный ресурс,^[1] а самокорректирующие операторы стабилизируют самопотребляющие циклы.^[1] Обсуждается и системный аспект: по мере роста доли машинно-сгенерированного контента в интернете вопрос о происхождении данных и их маркировке приобретает инфраструктурное значение.^[1]

Значение для науки и практики

Практическая значимость явления вытекает из простого обстоятельства: качественные реальные данные ограничены и постепенно исчерпываются, тогда как синтетика доступна почти без ограничений. Модельный коллапс очерчивает, до какого предела этой доступностью можно пользоваться безопасно.^[1] Отсюда — возросшая ценность реальных, размеченных человеком данных и сведений об их происхождении, что напрямую влияет на стратегии сбора и хранения корпусов. Явление изменило и методологию оценки: качество образцов перестало быть единственным ориентиром, а разнообразие и покрытие распределения стали самостоятельными критериями.^[1] Наконец, обнаруженная асимметрия между заменой и накоплением данных даёт конкретный инженерный рычаг — продуманная организация потоков данных и верификация синтетики способны предотвратить деградацию, превращая рекурсивное обучение из угрозы в управляемый инструмент.^[1]^[1]

См. также

Примечания

Литература

Shumailov I., Shumaylov Z., Zhao Y., Papernot N., Anderson R., Gal Y. AI models collapse when trained on recursively generated data // Nature. 2024. Vol. 631, № 8022. P. 755–759. DOI: 10.1038/s41586-024-07566-y.
Shumailov I., Shumaylov Z., Zhao Y., Gal Y., Papernot N., Anderson R. The Curse of Recursion: Training on Generated Data Makes Models Forget. arXiv:2305.17493. 2023.
Alemohammad S., Casco-Rodriguez J., Luzi L., Humayun A. I., Babaei H., LeJeune D., Siahkoohi A., Baraniuk R. G. Self-Consuming Generative Models Go MAD // ICLR. 2024. arXiv:2307.01850.
Bertrand Q., Bose A. J., Duplessis A., Jiralerspong M., Gidel G. On the Stability of Iterative Retraining of Generative Models on their own Data // ICLR. 2024. arXiv:2310.00429.
Dohmatob E., Feng Y., Yang P., Charton F., Kempe J. A Tale of Tails: Model Collapse as a Change of Scaling Laws // ICML. 2024. arXiv:2402.07043.
Dohmatob E., Feng Y., Kempe J. Model Collapse Demystified: The Case of Regression. arXiv:2402.07712. 2024.
Gerstgrasser M., Schaeffer R., Dey A. и др. Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data. arXiv:2404.01413. 2024.
Feng Y., Dohmatob E., Yang P., Charton F., Kempe J. Beyond Model Collapse: Scaling Up with Synthesized Data Requires Verification // ICLR. 2025. arXiv:2406.07515.
Gillman N., Freeman M., Aggarwal D. и др. Self-Correcting Self-Consuming Loops for Generative Model Training // ICML. 2024. arXiv:2402.07087.
Guo Y., Shang G., Vazirgiannis M., Clavel C. The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text // Findings of NAACL. 2024. arXiv:2311.09807.
Briesch M., Sobania D., Rothlauf F. Large Language Models Suffer From Their Own Output: An Analysis of the Self-Consuming Training Loop. arXiv:2311.16822. 2023.
Bohacek M., Farid H. Nepotistically Trained Generative-AI Models Collapse. arXiv:2311.12202. 2023.
Taori R., Hashimoto T. B. Data Feedback Loops: Model-driven Amplification of Dataset Biases // ICML. 2023.

Ссылки

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%9C%D0%BE%D0%B4%D0%B5%D0%BB%D1%8C%D0%BD%D1%8B%D0%B9_%D0%BA%D0%BE%D0%BB%D0%BB%D0%B0%D0%BF%D1%81»

Категории: Машинное обучение | Генеративные модели | Глубокое обучение | Анализ данных | Большие языковые модели