Обсуждение:Дивергенция Кульбака–Лейблера

Выступи в роли Senior ML Engineer и академического исследователя. Твоя задача — написать с нуля фундаментальную, глубокую и технически точную энциклопедическую статью для портала MachineLearning.ru на тему «Дивергенция Кульбака–Лейблера».

Целевая аудитория: студенты профильных вузов и практикующие ML-инженеры. Материал должен плавно вести читателя от базовой интуиции к продвинутой математике, современным пайплайнам обучения и реализации в коде.

ОБЯЗАТЕЛЬНАЯ СТРУКТУРА СТАТЬИ:
В самом начале исходного кода (до первого абзаца) строго выведи следующие три строки:
{{well|Статья написана с использованием LLM ''Gemini 3.1 Pro'' и проверена участником ~~~~
Промпт приводится полностью в [[Обсуждение:Дивергенция Кульбака–Лейблера]]}}
{{TOCright}}

== Введение ==

Вики-лид: Четкое определение концепции (обязательно в единственном числе, именительном падеже) — Дивергенция Кульбака–Лейблера (также известная как относительная энтропия или информационная расходимость, англ. Kullback–Leibler divergence, KL divergence). Дай определение на русском языке, приведи англоязычный аналог. Объясни суть концепции как асимметричной статистической меры расстояния между двумя распределениями вероятностей, подчеркнув, что она не является метрикой в строгом математическом смысле (не выполняется неравенство треугольника и свойство симметрии). Опиши суть решаемой проблемы: количественная оценка информационной потери при аппроксимации истинного распределения вероятностей приближенным.

== Мотивировка и историческая справка ==
Предмет раздела: Предпосылки к созданию метода. Кратко упомяни классическую теорию информации Клода Шеннона и понятие энтропии как фундамента. Раскрой историческую работу Соломона Кульбака и Ричарда Лейблера (1951 год). Объясни мотивировку со стороны теории кодирования: дивергенция показывает среднее количество избыточных бит (или нат), необходимых для кодирования сообщений из истинного распределения, если вместо оптимального кода используется код, оптимизированный под приближенное распределение.

== Математический аппарат и свойства ==
Предмет раздела: Детальный математический разбор.
1. Приведи формальные аналитические формулы для дискретных случайных величин и непрерывных случайных величин с использованием интегралов и математического ожидания.
2. Покажи разложение дивергенции через кросс-энтропию и энтропию Шеннона: <tex>D_{KL}(P \parallel Q) = H(P, Q) - H(P)</tex>.
3. Ключевые математические свойства (каждое свойство разбери подробно):
   - Несимметричность (<tex>D_{KL}(P \parallel Q) \neq D_{KL}(Q \parallel P)</tex>). Дай интуитивное понимание разницы между прямым (Forward KL: <tex>D_{KL}(P \parallel Q)</tex>) и обратным (Reverse KL: <tex>D_{KL}(Q \parallel P)</tex>) направлениями. Объясни эффекты размытия («mean-seeking» / «mode-covering») для прямого KL и фиксации моды («mode-seeking» / «zero-forcing») для обратного KL при аппроксимации мультимодальных распределений более простыми (например, унимодальным Гауссианом).
   - Неотрицательность (<tex>D_{KL}(P \parallel Q) \ge 0</tex>).
   - Условие равенства нулю: дивергенция равна нулю тогда и только тогда, когда распределения <tex>P</tex> и <tex>Q</tex> совпадают почти всюду.
4. Приведи строгое математическое доказательство неотрицательности с использованием неравенства Йенсена (или неравенства Гиббса) и вогнутости функции логарифма.
5. Частный случай для ML: Выведи аналитическую формулу дивергенции Кульбака–Лейблера между двумя многомерными непрерывными гауссовскими распределениями (это критически важно для работы вариационных автокодировщиков).

== Практика на Python ==
Предмет раздела: Приведи чистый, понятный и эффективный код на Python с использованием библиотек NumPy и PyTorch. 
Внутри одного монолитного блока кода реализуй:
1. Функцию вычисления дискретной KL-дивергенции между двумя распределениями (массивами вероятностей) с явной защитой от деления на ноль и вычисления логарифма нуля (использование малого смещения <tex>\epsilon</tex>).
2. Класс или функцию на PyTorch для расчета аналитического лосса KL между диагональным многомерным Гауссианом (заданным векторами средних и логарифмов дисперсий) и стандартным нормальным распределением <tex>\mathcal{N}(0, I)</tex> (базовый элемент лосса в VAE).
Избегай лишних абстракций, покажи математическую суть алгоритмов. Все пояснения пиши внутри кода в виде комментариев.

== Схема обучения и рекомендации ==
Предмет раздела: Практические нюансы тренировки моделей, оптимизирующих KL-дивергенцию, типичные баги и методы борьбы с ними:
- Проблема слабой поддержки (условие абсолютной непрерывности): если в какой-то точке <tex>P(x) > 0</tex>, но <tex>Q(x) = 0</tex>, то KL устремляется в бесконечность. Объясни, как применение сглаживания (label smoothing) или добавление <tex>\epsilon</tex>-шума предотвращает появление NaN в градиентах.
- Нюансы численной стабильности: почему в PyTorch предпочтительнее использовать `nn.KLDivLoss` со входом в виде логарифмов вероятностей (`log-probabilities`), передавая параметры через `F.log_softmax`.
- Проблема «взрыва» или затухания KL-компоненты в вариационных автокодировщиках (эффект Posterior Collapse или KL Vanishing). Подробно опиши методы стабилизации: KL Annealing (линейное или синусоидальное увеличение веса KL-лосса в процессе эпох) и Free Bits (задание минимального порога удержания информации по каждой компоненте).

== Современные подходы и State-of-the-Art (SOTA) ==
Предмет раздела: Разбор применения метода на переднем крае науки и в современных SOTA-архитектурах:
1. Вариационные автокодировщики (VAE, <tex>\beta</tex>-VAE) и диффузионные модели (DDPM): покажи, как минимизация KL-дивергенции естественным образом вытекает из задачи максимизации вариационной нижней границы правдоподобия (ELBO).
2. Выравнивание больших языковых моделей (LLM Alignment): Использование KL-штрафа (KL penalty) в алгоритмах обучения с подкреплением на основе отзывов людей (RLHF, PPO) и современных альтернативах (DPO — Direct Preference Optimization). Объясни, как регуляризация через KL удерживает новую настраиваемую языковую модель («актора») вблизи базовой замороженной референсной модели, предотвращая «галлюцинации» регуляризатора и разрушение языковых способностей.
3. Метод снижения размерности t-SNE: Опиши, как минимизация KL-дивергенции между матрицами сходства в исходном высокомерном и результирующем низкомерном пространствах позволяет сохранять локальную структуру данных.

== См. также ==
Предмет раздела: Маркированный список внутренних ссылок на смежные алгоритмы и понятия. Используй строго вики-разметку:
* [[Информационная энтропия]]
* [[Кросс-энтропия]]
* [[Вариационный автокодировщик]]
* [[Неравенство Йенсена]]
* [[Обучение с подкреплением на основе обратной связи от человека]]
* [[t-SNE]]
* [[Расстояние Дженсена–Шеннона]]

== Примечания ==
Предмет раздела: Выведи только один тег <references />.

== Литература ==
Предмет раздела: Список из 3-5 ключевых источников, оформленный строго по шаблонам. Заполни его фундаментальными работами:
* {{статья | автор = Kullback S., Leibler R. A. | заглавие = On Information and Sufficiency | издание = The Annals of Mathematical Statistics | год = 1951 | страницы = 79-86 }}
* {{книга | автор = Бишоп К. | заглавие = Распознавание образов и машинное обучение | место = Москва | издательство = Вильямс | год = 2020 }}
* {{книга | автор = Гудфеллоу Я., Бенджио И., Курвилль А. | заглавие = Глубокое обучение | место = Москва | издательство = ДМК Пресс | год = 2018 }}

ЖЕСТКИЕ ТРЕБОВАНИЯ К ФОРМАТИРОВАНИЮ (MediaWiki) — ИСПОЛНЯТЬ НЕУКОСНИТЕЛЬНО:

СТИЛЬ И ЗАГОЛОВКИ: Статья должна быть исчерпывающей. Сохраняй строгий, академичный энциклопедический стиль. Обязательно используй букву «ё». Заголовки разделов оформляй через двойные равно (== Заголовок ==).

ВНУТРЕННИЕ ССЫЛКИ (ВИКИФИКАЦИЯ): Активно используй перекрестные ссылки на другие статьи портала. При первом упоминании ключевых ML-терминов, алгоритмов или математических понятий обязательно оборачивай их в двойные квадратные скобки: [[Термин]] или [[Термин|текст ссылки]].

МАТЕМАТИКА И LATEX (БЕЗ MARKDOWN):
Движок сайта категорически не поддерживает Markdown (знаки доллара). Их использование ЗАПРЕЩЕНО.
АБСОЛЮТНО ВСЕ переменные, индексы и формулы в тексте должны быть внутри HTML-подобных тегов <tex>...</tex>.
ПРАВИЛЬНО: распределение <tex>P(x)</tex> и минимум <tex>D_{KL}</tex>.
Выключные (отдельные) формулы начинай с двойного двоеточия: ::<tex> D_{KL}(P \parallel Q) = \sum_{x \in \mathcal{X}} P(x) \log \frac{P(x)}{Q(x)} </tex>

ОФОРМЛЕНИЕ КОДА (КРИТИЧЕСКИ ВАЖНО):
Движок сайта ломается от маркдауна. КАТЕГОРИЧЕСКИ ЗАПРЕЩЕНО использовать символ обратного апострофа ( ` ) где-либо в тексте ответа. Вообще забудь про этот символ.
Весь код от первой до последней строчки должен быть строго монолитным и находиться внутри HTML-подобных тегов.
Используй ровно один такой блок для всей реализации:
<source lang="python">
# твой код на python с отступами
</source>
ЗАПРЕЩЕНО разрывать блок <source> обычным текстом. Все пояснения пиши либо до блока, либо внутри в виде комментариев Python.

СНОСКИ И ЦИТИРОВАНИЕ (БЕЗ СВАЛКИ В ТЕКСТЕ):
В самом тексте статьи используй ТОЛЬКО короткие сноски: <ref>Kullback S., 1951</ref>
КАТЕГОРИЧЕСКИ ЗАПРЕЩЕНО вставлять шаблоны литературы внутрь текста статьи. Эти шаблоны должны находиться ИСКЛЮЧИТЕЛЬНО в разделе «Литература».

КАТЕГОРИИ: В самом конце статьи обязательно добавь:
[[Категория:Теория информации]]
[[Категория:Машинное обучение]]
[[Категория:Математическая статистика]]

Выведи только готовый исходный код разметки.