Просмотр

Материал из MachineLearning.

У вас нет прав на выполнение этой операции по следующим причинам:

• Запрошенное действие могут выполнять только участники из групп emailconfirmed, Администраторы.
• Вы должны подтвердить ваш адрес электронной почты перед правкой страниц. Пожалуйста, введите и подтвердите ваш адрес эл. почты на странице настроек.

Вы можете просмотреть и скопировать исходный текст этой страницы:

'''Логическая закономерность''' (правило, rule) — в задачах [[классификация|классификации]] — легко интерпретируемое условие, выделяющее из [[обучающая выборка|обучающей выборки]] достаточно много объектов какого-то одного класса и практически не выделяющее объекты остальных классов. ''Логические закономерности'' являются элементарными «строительными блоками» для широкого класса [[Логический классификатор|логических алгоритмов классификации]], называемых также алгоритмами [[индукция правил|индукции правил]] (rule induction). == Определения и обозначения == Пусть <tex>X</tex> — пространство объектов, <tex>Y</tex> — множество имён классов, <tex>X^m = (x_i,y_i)_{i=1}^m</tex> — [[обучающая выборка]]. Пусть <tex>y\in Y</tex> — фиксированнный класс. Объекты этого класса будем называть ''положительными'' (positive examples); объекты остальных классов — ''отрицательными'' (negative examples). Говорят, что предикат <tex>\phi: X\to\{0,1\}</tex> ''выделяет'' или ''покрывает'' (cover) объект <tex>x</tex>, если <tex>\phi(x)=1</tex>. ''Закономерностью'' называется предикат <tex>\phi(x)</tex>, выделяющий много положительных объектов и мало отрицательных. К&nbsp;''закономерностям'' предъявляется три основных требования: интерпретируемость, информативность и взаимодополняемость. === Интерпретируемость === Предикат <tex>\phi(x)</tex> должен описываться простой логической формулой, понятной экспертам в данной прикладной области. На&nbsp;практике логические закономерности часто ищут в&nbsp;виде конъюнкций небольшого числа элементарных высказываний. Именно в&nbsp;такой форме люди привыкли выражать свой житейский и&nbsp;профессиональный опыт. '''Пример''' (из области медицины). Решается вопрос о целесообразности хирургической операции. Закономерность: «'''если''' возраст пациента выше 60 лет и ранее он перенёс инфаркт, '''то''' операцию не делать — риск отрицательного исхода велик и составляет 60%». '''Пример''' (из области банковской деятельности). Решается вопрос о выдаче кредита. Закономерность: «'''если''' заёмщик указал в анкете свой домашний телефон, '''и''' его зарплата превышает $1000 в месяц, '''и''' сумма кредита не превышает $10000, '''то''' кредит можно выдать — риск невозврата мал и составляет 10%». Наряду с конъюнкциями используются и другие формы интерпретируемых закономерностей: шары, гиперплоскости, ядра. === Информативность === Введём четыре величины: :<tex>P_y = \sum\nolimits_{i=1}^m [y_i=y]</tex> — число положительных объектов в выборке <tex>X^m</tex>; :<tex>N_y = \sum\nolimits_{i=1}^m [y_i\neq y]</tex> — число отрицательных объектов в выборке <tex>X^m</tex>; :<tex>p_y(\phi) = \sum\nolimits_{i=1}^m [\phi(x_i)=1] [y_i=y]</tex> — число положительных объектов, выделяемых правилом <tex>\phi</tex>; :<tex>n_y(\phi) = \sum\nolimits_{i=1}^m [\phi(x_i)=1] [y_i\neq y]</tex> — число отрицательных объектов, выделяемых правилом <tex>\phi</tex>; Интуитивно предикат <tex>\phi(x)</tex> является информативным, если одновременно <tex>p_y(\phi)\to \max</tex> и <tex>n_y(\phi)\to \min</tex>. Формализовать это интуитивное требование не так просто. Можно показать на примерах, что «наивные» попытки определить [[информативность]] предиката на выборке как функцию <tex>I\bigl(p_y(\phi),n_y(\phi)\bigr)</tex> приводят к неадекватным результатам. Существует несколько различных формальных определений [[информативность|информативности]], в том числе логическое, статистическое, энтропийное. === Взаимодополняемость === Набор закономерностей в совокупности должен образовывать алгоритм классификации <tex>a:\:X\to Y</tex>. Чаще всего [[логический классификатор]] представляет собой взвешенную сумму закономерностей: :<tex>a(x) = \arg\max_{y\in Y} \sum_{t=1}^T_y \alpha_{yt} \phi_{yt}(x),</tex> где <tex>\alpha_{yt}</tex> — неотрицательные веса. В&nbsp;данной форме могут быть представлены также [[Решающий список|решающие списки]] и [[Решающее дерево|деревья]]. Требование взаимодополняемости закономерностей означает, что для любого объекта выборки должна найтись закономерность <tex>\phi_{yt}</tex>, выделяющая данный объект. В&nbsp;противном случае алгоритм <tex>a(x)</tex> не сможет классифицировать объект, то есть произойдёт [[отказ от классификации]]. == Ссылки == == Литература == {{stub}} [[Категория:Логические алгоритмы классификации]] [[Категория:Энциклопедия анализа данных]]

• Шаблон:Nobr
• Шаблон:Stub
• Шаблон:TOCright
• Шаблон:ВсеАвторы
• Шаблон:Заготовка
• Шаблон:Книга
• Шаблон:Монография
• Шаблон:Переводы
• Шаблон:Подробнее
• Публикация:Журавлёв 2006 Распознавание
• Публикация:Загоруйко 1985 Алгоритмы обнаружения эмпирических закономерностей
• Публикация:Загоруйко 1999 Прикладные методы анализа данных и знаний
• Публикация:Лбов 1981 Методы обработки разнотипных экспериментальных данных

Возврат к странице Логическая закономерность.