Педро Домингос
Материал из MachineLearning.
| Статья написана с использованием LLM GPT-5.6 Sol xhigh и проверено участником Aleksandr Iakovlev 09:25, 17 июля 2026 (MSD) |
|
Педро Домингос (англ. Pedro Domingos) — исследователь в области машинного обучения, искусственного интеллекта и интеллектуального анализа данных, профессор-эмерит Школы компьютерных наук и инженерии Пола Аллена Университета Вашингтона. Его работы относятся к статистическому реляционному обучению, обработке потоков данных, ансамблевым методам, состязательному обучению и масштабируемому извлечению закономерностей. Домингос известен также как соавтор марковских логических сетей и автор научно-популярной книги The Master Algorithm.
Образование и академическая работа
Согласно официальной биографии Университета Вашингтона, Домингос получил диплом первого высшего образования в 1988 году и степень магистра по электротехнике и информатике в 1992 году в Instituto Superior Técnico в Лиссабоне. В Калифорнийском университете в Ирвайне он получил степень магистра в 1994 году и степень Ph.D. по информационным и компьютерным наукам в 1997 году.
Основная часть академической карьеры Домингоса связана с Университетом Вашингтона в Сиэтле. В его официальном профиле указаны исследовательские специализации «наука о данных», «представление знаний и рассуждение» и «машинное обучение». На личной академической странице центральная цель его исследований сформулирована как создание систем, способных учиться на опыте, адаптироваться и извлекать знания из больших массивов данных с меньшим объёмом ручной помощи.
Домингос участвовал в профессиональном сообществе машинного обучения как один из соучредителей International Machine Learning Society, член редакционной коллегии журнала Machine Learning и бывший ассоциированный редактор Journal of Artificial Intelligence Research. Он был сопредседателем программного комитета конференции KDD 2003 года и участвовал в программных комитетах ведущих конференций по искусственному интеллекту и анализу данных.
Основные направления исследований
Статистический реляционный искусственный интеллект
Одна из центральных тем работ Домингоса — объединение логического представления знаний с вероятностными моделями. В статье Мэттью Ричардсона и Педро Домингоса 2006 года предложены марковские логические сети (Markov logic networks, MLN). В этой конструкции формулы логики первого порядка рассматриваются как мягкие ограничения с вещественными весами. Совместно они задают шаблон марковской сети: чем больше вес формулы, тем сильнее нарушение этой формулы уменьшает вероятность мира, но, в отличие от классической логики, не обязательно делает мир невозможным.
Такой подход предназначен для областей, где объекты и отношения между ними нельзя считать независимыми: извлечение информации, разрешение сущностей, анализ социальных сетей, коллективная классификация. MLN стали одним из заметных формализмов статистического реляционного обучения, поскольку позволили описывать повторяющуюся структуру предметной области логическими формулами, сохраняя вероятностную обработку неопределённости.
Обучение на потоках данных
В работе Домингоса и Джеффа Халтена Mining High-Speed Data Streams исследовалось обучение в ситуации, когда данные поступают непрерывно, слишком велики для многократного просмотра и должны обрабатываться при ограниченной памяти. Авторы предложили использовать статистическую границу Хёффдинга для решения, когда уже накоплено достаточно наблюдений, чтобы с высокой вероятностью выбрать тот же признак расщепления дерева, который был бы выбран на всей доступной выборке.
Эта линия работ повлияла на развитие алгоритмов деревьев решений для потоков данных. Её важная методологическая идея состоит в разделении ограниченного числа хранимых статистик и потенциально неограниченного потока примеров. При нестационарности данных к такой схеме требуются дополнительные механизмы обнаружения дрейфа и забывания старой информации.
Состязательное обучение
Статья Adversarial Classification 2004 года рассматривает классификацию в условиях, когда наблюдаемый объект может быть целенаправленно изменён после того, как противник узнал или оценил правило принятия решения. Это отличает состязательную постановку от обычного предположения о фиксированном распределении данных. В работе анализируется взаимодействие классификатора и рационального противника, а также построение правила, учитывающего ожидаемые изменения объектов.
Позднейшая область adversarial machine learning существенно расширилась, однако эта работа относится к ранним формализациям состязательной классификации в анализе данных. Её не следует смешивать только с атаками на нейронные сети: исходная постановка сформулирована шире, через изменение признаков и стоимость действий противника.
Трактуемые вероятностные модели
Домингос и его соавторы исследовали вероятностные модели, в которых точный вывод остаётся вычислительно доступным. В работе Хо Сифен Пуна и Домингоса были предложены сети сумм и произведений (sum-product networks, SPN) — ориентированные вычислительные графы с узлами сумм и произведений. При выполнении условий полноты и согласованности такой граф задаёт распределение, для которого маргинализация и вычисление вероятностей выполняются проходом по сети.
SPN связали идеи вероятностных графических моделей и глубоких архитектур, сделав вычислительную трактуемость частью конструкции модели. Последующие исследования уточнили условия корректности, способы обучения структуры и весов, а также связь SPN с вероятностными схемами и другими моделями с эффективным выводом.
Методология машинного обучения
В обзорной статье A Few Useful Things to Know about Machine Learning Домингос систематизировал практические принципы построения моделей. Среди них — различие между представлением, оцениванием и оптимизацией; необходимость контролировать переобучение; роль качества данных и признаков; важность корректной постановки эксперимента; понимание того, что увеличение объёма данных не отменяет индуктивных предположений алгоритма.
Текст не предлагает отдельного «универсального» алгоритма. Его цель — показать повторяющиеся источники ошибок в прикладном машинном обучении и объяснить, почему выбор представления и постановка задачи часто важнее небольших изменений оптимизатора.
The Master Algorithm и типология школ
В книге The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World, опубликованной Basic Books в 2015 году, Домингос представляет машинное обучение через пять исследовательских «племён» (англ. tribes): символистов, коннекционистов, эволюционистов, байесианцев и аналогизаторов. Каждое «племя» связывается с определённым набором представлений и способов обучения: логическими правилами и обратной дедукцией, нейронными сетями и обратным распространением ошибки, эволюционными алгоритмами, вероятностным выводом, а также методами, основанными на сходстве.
Объединяющая идея книги — поиск принципов, способных сочетать сильные стороны этих направлений. Это научно-популярная концептуальная рамка, а не общепринятая строгая классификация всех алгоритмов. В частности, типология из шести школ, встречающаяся в программе курса «Философия. Введение в ИИ», является расширением авторов курса. Домингос и его книга описывают пять `tribes`; приписывать ему шестую школу некорректно.
Награды и признание
Официальный профиль Университета Вашингтона указывает, что Домингос получил ACM SIGKDD Innovation Award и IJCAI John McCarthy Award, избран членом AAAS и AAAI, а также был отмечен NSF CAREER Award, Sloan Research Fellowship, Fulbright Scholarship и рядом наград за научные статьи. В официальном CV SIGKDD Innovation Award датирована 2014 годом.
Эти награды относятся к совокупному вкладу в машинное обучение и интеллектуальный анализ данных. При описании конкретного результата следует отличать личные работы Домингоса от результатов его соавторов и исследовательских групп.
Критика и ограничения объединяющих схем
Деление машинного обучения на несколько школ полезно как средство объяснения истории идей, но оно неизбежно упрощает реальную структуру области. Современные методы часто соединяют вероятностное моделирование, оптимизацию, нейросетевые представления, поиск и логические ограничения. Один алгоритм может относиться сразу к нескольким традициям, а названия школ зависят от выбранного уровня описания.
Поэтому концепцию «главного алгоритма» следует понимать как исследовательскую и популяризаторскую программу, а не как утверждение о существовании уже найденного универсального метода. Не существует общей гарантии, что одно представление и один алгоритм будут наилучшими для всех распределений данных и всех функций потерь. Практическая ценность объединения подходов оценивается по точности постановки задачи, проверяемым предположениям, вычислительной сложности и воспроизводимым экспериментам.
См. также
- Машинное обучение
- Искусственный интеллект
- Интеллектуальный анализ данных
- Вероятностные графические модели
- Обучение на потоках данных
- Состязательное обучение
Литература
- Pedro Domingos, Professor Emeritus // Paul G. Allen School of Computer Science & Engineering, University of Washington.
- Domingos P. Curriculum Vitae.
- Richardson M., Domingos P. Markov Logic Networks // Machine Learning. 2006. Vol. 62. P. 107–136.
- Domingos P., Hulten G. Mining High-Speed Data Streams // Proceedings of KDD 2000. P. 71–80.
- Dalvi N., Domingos P., Mausam, Sanghai S., Verma D. Adversarial Classification // Proceedings of KDD 2004. P. 99–108.
- Poon H., Domingos P. Sum-Product Networks: A New Deep Architecture // Proceedings of UAI 2011. P. 337–346.
- Domingos P. A Few Useful Things to Know about Machine Learning // Communications of the ACM. 2012. Vol. 55, No. 10. P. 78–87.
- Domingos P. The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World. Basic Books, 2015.
