Бритва Оккама
Материал из MachineLearning.
(Различия между версиями)
(для затравки...) |
м (стилевые правки) |
||
| (1 промежуточная версия не показана) | |||
| Строка 1: | Строка 1: | ||
| - | |||
| - | |||
[[Изображение:William_of_Ockham_-_Logica_1341.jpg|120px|right|frame|Уильям Оккам — английский философ-схоласт, логик и церковно-политический писатель (ок 1285—1349), автор принципа: «не умножай сущности без необходимости».]] | [[Изображение:William_of_Ockham_-_Logica_1341.jpg|120px|right|frame|Уильям Оккам — английский философ-схоласт, логик и церковно-политический писатель (ок 1285—1349), автор принципа: «не умножай сущности без необходимости».]] | ||
| + | '''«Бритва (лезвие) О́ккама»''' — методологический принцип, получивший название по имени английского монаха-францисканца, философа-номиналиста Уильяма Оккама. В упрощенном виде он гласит: «Не следует множить сущее без необходимости». В современной науке под бритвой Оккама обычно понимают общий принцип, утверждающий, что если существует несколько логически непротиворечивых определений или объяснений какого-либо явления, то следует считать верным самое простое из них. | ||
| + | |||
| + | == Бритва Оккама в машинном обучении == | ||
| + | В машинном обучении принцип бритвы Оккама можно интерпретировать следующим образом: процесс обучения может быть представлен как поиск наиболее простого (в значении — короткого по длине описания) алгоритма, соответствующего обучающей выборке. | ||
| + | |||
| + | === Оценки бритвы Оккама === | ||
| + | |||
| + | === Принцип минимальной длины описания === | ||
| + | |||
| + | |||
| + | |||
| + | |||
== См. также == | == См. также == | ||
* [[Теория Вапника–Червоненкиса]] | * [[Теория Вапника–Червоненкиса]] | ||
* [[Теория Валианта]] | * [[Теория Валианта]] | ||
| + | * [[Критерий Акаике]] | ||
== Литература == | == Литература == | ||
# ''Langford J.'' [http://citeseer.ist.psu.edu/langford02quantitatively.html Quantitatively tight sample complexity bounds]. — 2002. — Carnegie Mellon Thesis. | # ''Langford J.'' [http://citeseer.ist.psu.edu/langford02quantitatively.html Quantitatively tight sample complexity bounds]. — 2002. — Carnegie Mellon Thesis. | ||
| + | # Anselm Blumer, Andrzej Ehrenfeucht, David Haussler, Manfred K. Warmuth [http://www.cs.utsa.edu/~bylander/cs6243/blumer1987occam.pdf Occam's Razor] Information Processing Letters 24(6): 377-380 (1987) | ||
[[Категория:Теория вычислительного обучения]] | [[Категория:Теория вычислительного обучения]] | ||
Текущая версия
Уильям Оккам — английский философ-схоласт, логик и церковно-политический писатель (ок 1285—1349), автор принципа: «не умножай сущности без необходимости».
«Бритва (лезвие) О́ккама» — методологический принцип, получивший название по имени английского монаха-францисканца, философа-номиналиста Уильяма Оккама. В упрощенном виде он гласит: «Не следует множить сущее без необходимости». В современной науке под бритвой Оккама обычно понимают общий принцип, утверждающий, что если существует несколько логически непротиворечивых определений или объяснений какого-либо явления, то следует считать верным самое простое из них.
Содержание |
Бритва Оккама в машинном обучении
В машинном обучении принцип бритвы Оккама можно интерпретировать следующим образом: процесс обучения может быть представлен как поиск наиболее простого (в значении — короткого по длине описания) алгоритма, соответствующего обучающей выборке.
Оценки бритвы Оккама
Принцип минимальной длины описания
См. также
Литература
- Langford J. Quantitatively tight sample complexity bounds. — 2002. — Carnegie Mellon Thesis.
- Anselm Blumer, Andrzej Ehrenfeucht, David Haussler, Manfred K. Warmuth Occam's Razor Information Processing Letters 24(6): 377-380 (1987)
