Системы искусственного интеллекта (курс лекций, Д.В.Михайлов)

Материал из MachineLearning.

Версия 12:01, 31 августа 2024

Дисциплина «Системы искусственного интеллекта» для специальности 230105 важную роль в подготовке студентов к самостоятельной профессиональной деятельности в области интеллектуальных информационных технологий. Дисциплина «Системы искусственного интеллекта» для специальности 230105 относится к числу дисциплин специализации и читается в 9-м семестре. Она включает в себя рассмотрение основных вопросов современной теории и практики построения интеллектуальных систем (в первую очередь) символьной обработки и опирается на учебные курсы :«Дискретная математика», «Функциональное и логическое программирование», «Объектно-ориентированное программирование», «Базы данных», «Теория вычислительных процессов и структур», «Компьютерное моделирование», «Распознавание образов и обработка изображений» и «Человеко-машинное взаимодействие». Особое внимание уделяется моделированию языкового поведения человека при работе с базами знаний интеллектуальных информационно-поисковых систем.

Включение данной дисциплины в учебный план заключительного учебного семестра перед преддипломной практикой и дипломным проектированием дает возможность студенту более четко сформулировать задачу на дипломное проектирование с точки зрения перспективных направлений интеллектуальных технологий компьютерной обработки информации.

Автор — Дмитрий Владимирович Михайлов, кафедра Информационных технологий и систем Новгородского государственного университета им. Ярослава Мудрого (НовГУ).

Научный консультант — д.т.н., профессор Емельянов Геннадий Мартинович

Представленный здесь вариант курса в 2020 году лёг в основу одноимённого учебного модуля по направлению подготовки «Информатика и вычислительная техника» (бакалавриат) в НовГУ. Актуальная редакция курса представлена на портале «Дистанционные образовательные технологии обучения в НовГУ» (требуется регистрация).

Содержание лекционных занятий

• Искусственный интеллект как научная область

• Представление задач в пространстве состояний

• Методы поиска в пространстве состояний

• Сведение задачи к совокупности подзадач

• Методы поиска при сведении задач к совокупности подзадач

• Представление знаний в интеллектуальных системах

• Представление знаний правилами и логический вывод

• Представление знаний фреймами

• Интерфейс на естественном языке

• Лингвистические информационные ресурсы и их использование в задачах обработки естественного языка : семантические отношения в лексических базах данных.

• О некоторых практических аспектах описания лексического значения слова в компьютерном словаре.

Дополнительные разделы по обработке и анализу текстов

• Синтаксический анализ текстов естественного языка: симбиоз формально-грамматических и вероятностных методов.

• Семантические сети и анализ связного текста.

Содержание лабораторных занятий

• Изучение методов перебора и критериев оценки методов перебора на произвольных графах.

• Поисковая система на основе фреймовой модели представления знаний.

• Интерфейс на естественном языке к базе знаний интеллектуальной системы.

Дополнительные темы работ по моделям представления знаний

• Продукционная модель представления знаний.

• Представление знаний на основе семантической сети.

Демо

• Отбор фраз текстового корпуса, максимально релевантных исходной:
  • на основе TF-IDF её слов^[1];
  • с привлечением базы синтаксических правил на основе численной оценки силы связи слов исходной фразы^[1];
  • анализом n-грамм на найденных синтаксических связях слов исходной фразы.

• Та же задача для случая более чем одной исходной фразы и оценки силы связи слов без синтаксических правил на основе классификации по TF-IDF^[1], в том числе:
  • вариант с факультативным учётом предлогов, союзов и междометий при выделении связей слов, а также оценкой (на основе найденных n-грамм) релевантности текстового корпуса ситуации языкового употребления, задаваемой исходными фразами;
  • вариант с оценкой близости исходных фраз смысловому эталону^[1].

• Отбор научных статей по степени близости смысловому эталону заголовка и фраз аннотации (реализация на Python 2.7)^[1], в том числе:
  • вариант с сортировкой анализируемых фраз по степени близости эталону и выделением ключевых сочетаний слов на основе меры TF-IDF^[1], включая построение иерархии статей на основе оценок взаимной смысловой зависимости по аннотациям и заголовкам с учётом найденных ключевых сочетаний слов^[1];
  • вариант с построением иерархии статей на основе оценок их взаимной смысловой зависимости и последующим оцениванием взаимной близости документов тематического корпуса, относительно которых достигалась наибольшая близость фраз эталону^[1], а также численным оцениванием значимости каждого такого документа при подборе пары взаимно релевантных^[1].

• Анализ документов тематического корпуса на предмет включения в состав референтного на основе встречаемости слов из аннотаций статей по заданной предметной области (реализация на Python 2.7)^[1], а также оценивание качества отбора документов в референтный корпус (реализация на Python 2.7 и (частично) на Python 3.10)^[1].

• Применение нейросетевых моделей BERT для оценки смысловой близости рефератов научных статей (реализация на Python 3.10 + блокнот Jupyter Notebook и результаты экспериментов).

• Применение нейросетевых моделей BERT для ранжирования коротких текстов по близости эталону на основе оценки взаимного сходства их смыслов (реализация на Python 3.10 + блокнот Jupyter Notebook и результаты экспериментов), в том числе вариант с дообучением моделей ruSciBERT и SciRus-tiny для задач анализа смысловой близости отдельных предложений (Sentence Similarity) и текстов (Textual Similarity).

• Расширение аннотаций научных статей заданной коллекции предложениями их вводных и заключительных частей при взаимном ранжировании по близости смысловому эталону (реализация на Python 3.10 + блокноты Jupyter Notebook и результаты экспериментов), в том числе вариант с возможностью удаления предложений из аннотации с целью максимизации её смысловой связности.

• Расширение аннотаций научных статей предложениями их вводных и заключительных частей с максимизацией смысловой связности коллекции в целом (реализация на Python 3.10 — блокноты Jupyter Notebook и результаты экспериментов), в том числе вариант без учёта и фиксации промежуточных шагов расширения исходной аннотации.

Инструментальные средства и библиотеки

• Библиотека русской морфологии.

• Apache OpenNLP — интегрированный пакет инструментов обработки текста. См. также описание пакета на NLPub.

• Apache PDFBox — A Java PDF Library.

• PDFMiner — Python PDF parser and analyzer.

• Natural Language Toolkit — NLTK homepage.

• Морфологический анализатор pymorphy2.

• SyntaxNet: Neural Models of Syntax.

• MaltParser — data-driven dependency parser.

• Лингвистический комплекс NLTK4RUSSIAN.

Базы данных

• Leipzig Corpora Collection Download Page.

Полезные ссылки

• Основы обработки текстов — спецкурс для студентов ВМК МГУ и ФКН ВШЭ. Лектор — канд. физ.-мат. наук Турдаков Денис Юрьевич.

• Китов В.В. Математические методы анализа текстов — обязательный спецкурс для магистров кафедры математических методов прогнозирования ВМК МГУ.

• Проект АОТ.

• WordNet: A Lexical Database for English. См. также Русский Wordnet.

• Проект RussNet.

• Лингвистическая онтология «Тезаурус РуТез».

• Serelex: Поиск семантически связанных слов.

• ParaPhraser: перефразирование и синонимизация текста.

• Russian Paraphrase Detection Task.

• Национальный корпус русского языка.

• Google Books Ngram Viewer.

• Кузнецов С.О. Решетки формальных понятий в современных методах анализа данных и знаний.

Для самоконтроля

Примерный список вопросов к экзамену.

Примечания

К сожалению, незарегистрированные пользователи не видят литературных ссылок из раздела «Демо» (данный дефект системы находится в стадии проработки). Тем не менее, Вы можете найти цитируемый источник, используя вкладку «Просмотр» на данной странице.