Задача XOR

Материал из MachineLearning.

Версия 14:43, 11 июля 2026 (править) Alfina Iamaeva (Обсуждение | вклад) (Новая: == Задача XOR == '''Задача XOR''' (исключающее «ИЛИ») — классическая проблема в области [[Машинное обучение|м...) ← К предыдущему изменению

Версия 15:28, 11 июля 2026 (править) (отменить) Alfina Iamaeva (Обсуждение | вклад) К следующему изменению →

---

Версия 15:28, 11 июля 2026

Содержание 1 Задача XOR 1.1 Определение 1.2 Нелинейная разделимость 1.3 Историческое значение 1.4 Решение 1.4.1 Архитектура решения 1.4.2 Альтернативные подходы 1.5 Значение для машинного обучения 1.6 См. также 1.7 Примечания 1.8 Литература

Задача XOR

Задача XOR (или проблема исключающего ИЛИ) — классическая задача в области искусственных нейронных сетей и машинного обучения, которая иллюстрирует ограничения однослойных персептронов и демонстрирует необходимость использования многослойных архитектур для решения нелинейно разделимых проблем . Эта задача сыграла ключевую роль в истории развития нейросетевых технологий, став одной из причин так называемой «зимы искусственного интеллекта» в 1970-х годах .

Определение

Задача XOR представляет собой реализацию логической функции «исключающее ИЛИ» (XOR) с помощью нейронной сети. Функция принимает два бинарных входа и возвращает единицу тогда и только тогда, когда ровно один из входов равен единице .

Таблица истинности для функции XOR выглядит следующим образом :

Таблица истинности XOR

x₁	x₂	x₁ ⊕ x₂
0	0	0
0	1	1
1	0	1
1	1	0

Нелинейная разделимость

Главная причина, по которой задача XOR представляет сложность для однослойного персептрона, заключается в том, что она не является линейно разделимой . Это означает, что невозможно провести одну прямую линию на плоскости (или гиперплоскость в многомерном пространстве), которая разделила бы точки с выходом 0 и выходом 1 .

Рассмотрим четыре точки на плоскости, соответствующие всем возможным комбинациям входов:

• (0,0) и (1,1) принадлежат классу 0 (выход равен 0)
• (0,1) и (1,0) принадлежат классу 1 (выход равен 1)

Эти два множества точек не могут быть разделены прямой линией, что делает XOR классическим примером нелинейно разделимой задачи .

Историческое значение

Задача XOR приобрела широкую известность благодаря книге Марвина Минского и Сеймура Пейперта «Персептроны» (1969 год) . В этой работе авторы математически доказали, что однослойный персептрон не способен решить задачу XOR .

Этот результат имел далеко идущие последствия :

• Он продемонстрировал фундаментальные ограничения однослойных нейронных сетей.
• Книга Минского и Пейперта способствовала снижению интереса к исследованиям в области нейронных сетей.
• Начался период, известный как «зима искусственного интеллекта» (примерно 1969–1986 годы), характеризующийся сокращением финансирования и уменьшением количества публикаций в этой области .

Важно отметить, что Минский и Пейперт указывали на ограничения только однослойных персептронов, а не всех нейронных сетей. Однако их работа часто интерпретировалась более широко .

Решение

Задача XOR может быть решена с использованием многослойного персептрона (MLP), содержащего хотя бы один скрытый слой .

Архитектура решения

Типичная архитектура для решения задачи XOR включает :

• Входной слой: 2 нейрона (для x₁ и x₂)
• Скрытый слой: 2 нейрона (обычно с нелинейной функцией активации)
• Выходной слой: 1 нейрон

Математически решение можно представить как композицию более простых логических операций : 1. Первый нейрон скрытого слоя вычисляет логическое ИЛИ (OR). 2. Второй нейрон скрытого слоя вычисляет логическое И (AND). 3. Выходной нейрон комбинирует результаты: XOR = OR И НЕ (AND).

Такая архитектура позволяет создавать нелинейные разделяющие поверхности, способные корректно классифицировать все четыре точки из таблицы истинности XOR .

Альтернативные подходы

Задача XOR также может быть решена с помощью:

• Добавления признаков высшего порядка (например, x₁·x₂) к однослойной сети .
• Использования ядерных методов для преобразования данных в пространство большей размерности, где они становятся линейно разделимыми .

Значение для машинного обучения

Задача XOR имеет большое педагогическое и историческое значение в машинном обучении :

1. Демонстрация ограничений: Наглядно показывает, что линейные модели не могут решать все задачи, и подчеркивает важность нелинейных преобразований.
2. Обоснование глубины: Иллюстрирует, почему необходимы глубокие архитектуры с несколькими слоями. Однослойная сеть не может решить XOR, в то время как двухслойная решает эту задачу тривиально .
3. Иерархическое обучение: Пример показывает, как сложные функции могут быть построены как композиция более простых функций, что является основой глубокого обучения .
4. Теоретическое обоснование: Задача XOR является простейшим случаем более общей проблемы функции чётности (parity function), которая также не является линейно разделимой при любом числе входов, кроме тривиальных случаев .

См. также

• Персептрон
• Многослойный персептрон
• Алгоритм обратного распространения ошибки
• Универсальная теорема аппроксимации
• Функция активации
• Линейная разделимость

Примечания

Литература

• Minsky, M., & Papert, S. (1969). Perceptrons: An Introduction to Computational Geometry. MIT Press.
• Rumelhart, D. E., Hinton, G. E., & Williams, R. J. (1986). Learning representations by back-propagating errors. Nature, 323(6088), 533-536.
• Bishop, C. M. (2006). Pattern Recognition and Machine Learning. Springer.
• Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press.