Просмотр

Материал из MachineLearning.

У вас нет прав на выполнение этой операции по следующим причинам:

• Запрошенное действие могут выполнять только участники из групп emailconfirmed, Администраторы.
• Вы должны подтвердить ваш адрес электронной почты перед правкой страниц. Пожалуйста, введите и подтвердите ваш адрес эл. почты на странице настроек.

Вы можете просмотреть и скопировать исходный текст этой страницы:

{{well|Статья написана с использованием LLM '''DeepSeek-V4'''и проверена участником [[Участник:Oleg Aleksandrov|Oleg Aleksandrov]] 15:08, 15 июля 2026 (MSD)}} == Вектор Шепли == '''Вектор Шепли''' ({{lang-en|Shapley value}}) — метод распределения общего выигрыша между игроками в [[Кооперативная теория игр|кооперативной теории игр]] пропорционально их индивидуальному вкладу. Концепция предложена [[Шепли, Ллойд|Ллойдом Шепли]] в 1953 году. В [[Машинное обучение|машинном обучении]] ({{lang-en|machine learning}}) этот математический аппарат применяется в рамках [[Интерпретируемое машинное обучение|интерпретируемого искусственного интеллекта]] ({{lang-en|Explainable AI, XAI}}) для оценки влияния отдельных [[Признак (машинное обучение)|признаков]] ({{lang-en|features}}) на результат работы предиктивной модели. В задачах блэкбокс-интерпретации вектор Шепли определяет локальную важность признаков для конкретного наблюдения выборки. === Интуиция метода === В классической постановке теории игр рассматривается коалиция участников, которые совместно генерируют определенную ценность (выигрыш). Задача состоит в справедливом разделении этого выигрыша. Метод Шепли предписывает выделять каждому участнику его средний маргинальный (предельный) вклад по всем возможным сценариям формирования коалиции. Рассматриваются все перестановки игроков, фиксируется прирост общей ценности при присоединении конкретного игрока к уже собранной группе, после чего эти приросты усредняются. При переносе концепции в плоскость машинного обучения роли распределяются следующим образом: * '''Игроки''' — это признаки исследуемого объекта данных. * '''Коалиция''' — подмножество доступных признаков. * '''Выигрыш коалиции''' — разница между предсказанием модели на данном подмножестве признаков и базовым (ожидаемым) предсказанием по всей генеральной совокупности. === Математическая формулировка === Пусть кооперативная игра с трансферабельной полезностью задана парой <tex>(N, v)</tex>, где: * <tex>N = \{1, 2, \dots, n\}</tex> — конечное множество из <tex>n</tex> игроков (признаков). * <tex>v: 2^N \to \mathbb{R}</tex> — характеристическая функция, сопоставляющая каждому подмножеству (коалиции) <tex>S \subseteq N</tex> вещественное число <tex>v(S)</tex>, отражающее ценность этой коалиции. По определению <tex>v(\emptyset) = 0</tex>. Компонента вектора Шепли для <tex>i</tex>-го игрока выражается формулой: <tex>\phi_i(v) = \sum_{S \subseteq N \setminus \{i\}} \frac{|S|! (n - |S| - 1)!}{n!} (v(S \cup \{i\}) - v(S))</tex> Здесь: * <tex>S</tex> — подмножество игроков, не содержащее игрока <tex>i</tex>. * <tex>|S|</tex> — мощность (количество элементов) подмножества <tex>S</tex>. * <tex>v(S \cup \{i\}) - v(S)</tex> — маргинальный вклад игрока <tex>i</tex> при его включении в коалицию <tex>S</tex>. Весовой коэффициент перед разностью представляет собой вероятность того, что в случайной перестановке множества <tex>N</tex> перед игроком <tex>i</tex> окажется ровно подмножество <tex>S</tex>. ==== Аксиоматическое обоснование ==== Вектор Шепли — единственное правило распределения ценности, одновременно удовлетворяющее четырем фундаментальным критериям: # '''Эффективность (Efficiency):''' Сумма вкладов всех элементов полностью покрывает разность между выигрышем полной коалиции и пустой: <tex>\sum_{i=1}^n \phi_i(v) = v(N) - v(\emptyset)</tex>. В контексте XAI это гарантирует, что отклонение локального прогноза от среднего математического ожидания декомпозируется без остатка. # '''Симметричность (Symmetry):''' Если два признака <tex>i</tex> и <tex>j</tex> привносят одинаковую ценность в любое подмножество (<tex>v(S \cup \{i\}) = v(S \cup \{j\})</tex> для всех <tex>S \subseteq N \setminus \{i, j\}</tex>), их расчетные вклады равны: <tex>\phi_i(v) = \phi_j(v)</tex>. # '''Болван (Dummy):''' Если признак <tex>i</tex> не изменяет ценность ни одной коалиции (<tex>v(S \cup \{i\}) = v(S)</tex> для всех <tex>S</tex>), его вклад равен нулю: <tex>\phi_i(v) = 0</tex>. # '''Аддитивность (Additivity):''' Для двух независимых игр с функциями <tex>v</tex> и <tex>w</tex> выполняется <tex>\phi_i(v + w) = \phi_i(v) + \phi_i(w)</tex>. Это свойство позволяет линейно агрегировать вклады признаков в [[Ансамбль моделей (машинное обучение)|ансамблях моделей]]. === Фреймворк SHAP === Прямой перенос теории игр в машинное обучение ограничен тем, что предиктивные алгоритмы требуют на вход фиксированный вектор признаков и не могут вычислить значение функции на произвольном подмножестве <tex>S</tex>. Данную проблему решает метод '''SHAP''' ({{lang-en|SHapley Additive exPlanations}}), предложенный Скоттом Лундбергом и Су-Ин Ли в 2017 году. ==== Аппроксимация отсутствующих признаков ==== В SHAP функция ценности коалиции <tex>v(S)</tex> задается как условное математическое ожидание прогноза модели <tex>f(X)</tex> при фиксированных значениях подмножества признаков <tex>X_S = x_S</tex>: <tex>v(S) = \mathbb{E}[f(X) \mid X_S = x_S]</tex> Поскольку точное вычисление этого ожидания требует знания многомерной плотности распределения, на практике часто используют маргинальное распределение. Признаки вне коалиции <tex>N \setminus S$</tex> интегрируются по их фоновым значениям из обучающей выборки, что эквивалентно допущению об их независимости от признаков из множества <tex>S</tex>. ==== Аддитивная суррогатная модель ==== SHAP строит локальное объяснение в виде линейной функции от бинарных переменных: <tex>g(z') = \phi_0 + \sum_{i=1}^M \phi_i z'_i</tex> Где <tex>z' \in \{0, 1\}^M</tex> — вектор коалиции (1 — признак активен, 0 — признак замещен фоновым значением), <tex>M</tex> — полное число признаков, <tex>\phi_0 = \mathbb{E}[f(X)]</tex> — базовое ожидаемое предсказание, а коэффициенты <tex>\phi_i</tex> соответствуют вектору Шепли. === Методы вычисления === Вычисление точного вектора Шепли требует <tex>2^n</tex> проходов модели, что вычислительно невозможно для размерностей <tex>n > 15</tex>. В инженерной практике применяются специализированные алгоритмы аппроксимации: * '''KernelSHAP:''' Модельно-агностический ({{lang-en|model-agnostic}}) метод. Аппроксимирует значения Шепли с помощью локальной взвешенной [[Линейная регрессия|линейной регрессии]]. В качестве функции потерь используется специальное ядро ({{lang-en|Shapley kernel}}), минимизация которого теоретически сводит веса линейной модели к значениям Шепли. * '''TreeSHAP:''' Оптимизированный алгоритм для древесных моделей, таких как [[Дерево решений|деревья решений]], [[Случайный лес|случайные леса]] и [[Градиентный бустинг|градиентный бустинг]] (XGBoost, LightGBM, CatBoost). TreeSHAP оптимизирует вычисление условных математических ожиданий, прослеживая пути в структуре деревьев, что снижает временную сложность с экспоненциальной до полиномиальной <tex>O(TLD^2)</tex>, где <tex>T</tex> — число деревьев, <tex>L</tex> — максимальное число листьев, а <tex>D</tex> — глубина. * '''DeepSHAP:''' Метод для [[Нейронная сеть|нейронных сетей]], комбинирующий алгоритм DeepLIFT и теоретические свойства вектора Шепли для эффективного аналитического приближения вкладов через модифицированный бэкпропагейшн. === Ограничения и критика === Несмотря на солидный математический фундамент, метод имеет ряд уязвимостей при практическом внедрении: * '''Мультиколлинеарность:''' Шаблонное предположение о независимости признаков при вычислении маргинальных распределений приводит к генерации нереалистичных синтетических объектов (находящихся вне распределения, {{lang-en|out-of-distribution}}). Модель штрафуется или поощряется на неестественных комбинациях данных, искажая реальный вклад коррелирующих переменных. * '''Вычислительные затраты:''' Применение KernelSHAP на больших тестовых выборках с сотнями признаков требует аппроксимаций высокой степени разреженности, что ведет к росту дисперсии оценок. * '''Проблема робастности:''' Метод восприимчив к состязательным атакам ({{lang-en|adversarial attacks}}). Возможно построить "суррогатную" модель-оболочку, которая демонстрирует нейтральные значения SHAP для дискриминирующих признаков, скрывая истинную логику базового алгоритма. === Литература === * {{статья |автор=Shapley L. S. |заглавие=A Value for n-Person Games |журнал=Contributions to the Theory of Games |год=1953 |том=2 |страницы=307—317}} * {{статья |автор=Lundberg S. M., Lee S.-I. |заглавие=A Unified Approach to Interpreting Model Predictions |журнал=Advances in Neural Information Processing Systems |год=2017 |том=30 |страницы=4765—4774}} * {{статья |автор=Lundberg S. M., Erion G., Chen H. et al. |заглавие=From local explanations to global understanding with explainable AI for trees |журнал=Nature Machine Intelligence |год=2020 |том=2 |номер=1 |страницы=56—67}} * {{статья |автор=Štrumbelj E., Kononenko I. |заглавие=Explaining prediction models and individual predictions with feature contributions |журнал=Knowledge and Information Systems |год=2014 |том=41 |номер=3 |страницы=647—665}} * {{книга |заглавие=The Shapley Value: Essays in Honor of Lloyd S. Shapley |ответственный=ed. by A. E. Roth |издательство=Cambridge University Press |год=1988}} * {{статья |автор=Sundararajan M., Najmi A. |заглавие=The many Shapley values for model explanation |журнал=International Conference on Machine Learning |год=2020 |страницы=9269—9278}}

• Шаблон:Mbox
• Шаблон:Well
• Шаблон:Книга
• Шаблон:Переводы
• Шаблон:Статья

Возврат к странице Вектор Шепли.