Диалоговые системы

Содержание Введение Глава 1. Диалоговые системы как одно из направлений компьютерной лингвистики

1.1 Общие представления о диалоговых системах. Понятие диалога

1.2 Характеристики диалоговых систем и их типы

1.3 Сценарный подход в создании диалоговых систем

1.4 Система управления и база лингвистических знаний в диалоговой системе Выводы к Главе 1

Глава 2. Интеллектуальные диалоговые системы с интерфейсом на естественном языке. Речевые диалоговые системы

2.1 Интеллектуальный интерфейс и его типы

2.2 Цели использования естественного языка

2.3 Структура диалоговой ИС и её компоненты

2.4 Речевые диалоговые системы. Способ и система для предоставления речевого интерфейса

2.5 Эксперимент Выводы к Главе 2

Заключение

Введение

Сфера компьютерной лингвистики многогранна. Она включает в себя компьютерное моделирование общения, моделирование структуры сюжета, гипертекстовые технологии представления текста, машинный перевод, компьютерную лексикографию. Компьютерная лингвистика имеет непосредственное отношение к дисциплине «искусственный интеллект» и обе эти дисциплины занимаются таким прикладным направлением, как «обработка естественного языка». В широком смысле, компьютерная лингвистика ставит своей целью использование математических моделей для описания естественных языков.

Среди компьютерных систем обработки естественного языка обычно рассматривают вопросно-ответные системы, диалоговые системы решения задач и системы обработки связных текстов. В данной работе речь пойдет о диалоговых системах (или о вопросно-ответных системах) и их разновидностях.

Глава 1. Диалоговые системы как одно из направлений компьютерной лингвистики

1.1 Общие представления о диалоговых системах. Понятие диалога В диалоговых системах речевые акты должны быть оформлены соответствующим образом, поскольку они составляют компонент человеческого общения, а также являются не менее важным аспектом спонтанного общения. Диалоговые системы — неотъемлемая составляющая интеллектуальных компьютерных систем, служащих для переработки информации. Именно с их помощью осуществляются практически все процессы внутри системы. Основным требованием диалоговых систем является обеспечение более удобной и естественной формы взаимодействия интеллектуальных систем с пользователями. Другими словами — это системы с естественно-языковым интерфейсом.

Среди систем обработки естественного языка обычно выделяются вопросно-ответные системы, диалоговые системы решения задач и системы обработки связных текстов.

Что же собой представляет диалог?

В целом, процесс так называемого «общения» человека с компьютерной системой можно назвать диалогом. Но дадим более общее представление этому понятию.

Диалог — это процесс обмена сообщениями между пользователем и компьютером. В диалоге постоянно происходит смена ролей информатора и пользователя, к тому же, смена ролей должна быть достаточно оперативной.

Приведем ряд условий, необходимых для осуществления процесса диалога:

— общая цель пользователя и информатора;

— смена ролей пользователя и компьютера;

— общий язык общения;

— наличие общей базы данных;

— возможность пополнения базы.

Реакция системы на входной текст определяется не только самим текстом, но и возможностями и знаниями системы. В случае, если входной текст не соответствует возможностям и знаниям системы, система, соответственно, не может сообщить ему интересующую его информацию. Чтобы пользователь мог понять причины несоответствия, система должна в виде косвенного ответа объяснить причину своих затруднений. [Попов Э.В. 1982].

1.2 Характеристики диалоговых систем и их типы Диалоговые системы можно классифицировать следующим образом:

— меню-диалог;

— диалог типа «вопрос-ответ» ;

— диалог на основе шаблонных форм;

— профессиональный диалог;

— графический диалог;

— диалог на естественном языке Выделим несколько характеристик, которые определяют процесс диалогового взаимодействия пользователя и компьютера.

Наиболее важной характеристикой является степень оперативности диалога. Оперативность может быть двусторонняя или односторонняя — со стороны компьютера или со стороны человека. Первый вариант диалога является активным, второй — пассивным.

Другой характеристикой диалоговых систем является способность к управлению. Это способность выражается в выдаче партнеру таких команд, которые требуют выполнения конкретных действий, направленных на достижение цели диалога.

В ходе диалога возможно двустороннее управление типа «запрос — ответ», одностороннее управление со стороны компьютера с языком общения типа «меню», «заполнение шаблона» или же одностороннее управление со стороны пользователя с использованием языка команд.

Важной деталью является способность партнеров к накоплению знаний о предметной области и наличие единого языка взаимодействия.

Также важно наличие средств защиты информации в системе.

Существующие в настоящее время диалоговые системы можно разделить на два типа:

— с запрограммированным диалогом, ограниченным одной предметной областью;

— настраиваемые на различные классы задач на основе описаний предметной области, что предоставляет пользователю весьма широкий спектр возможностей.

Следует отметить, к тому же, что по типу сложности языка общения выделяют системы с формализованными языками и с естественными языками.

1.3 Сценарный подход в создании диалоговых систем Сценарий определяется как структура представления знаний в системах искусственного интеллекта, которая используется для описания последовательности связанных событий и определяющая совокупность способов достижения цели в конкретной ситуации заданной предметной области. [ Георгиев В. О., Еникеев А. И. 1991]

Факторы, определяющие организацию диалога:

— способ описания сценария;

— форма и структура диалога;

— возможность описания сценария;

— способы сохранения и восстановления состояния диалога.

Сценарий диалога может входить в диалоговую систему или же истолковываться ею.

Общая схема действий диалоговой системы может быть сформулирована следующим образом:

— вывод сообщений (вопросов) системы;

— ввод сообщений пользователя;

— запуск функций, выбираемых в соответствии с запросами пользователя и выбранными условиями;

— выбор дальнейших путей продолжения (или же окончания) диалога. [ Георгиев В. О., Еникеев А. И. 1991].

Сценарии могут быть двух типов — одноуровневыми и вложенными. Связь элементов в одноуровневом сценарии осуществляется посредством безусловных и условных переходов. Вложенные сценарии вызывают подсценарии, для чего в соответствующем макроэлементе вместо ссылки на очередной элемент задается ссылка на подсценарий. При обработке макроэлемента выполняется рекурсивный вызов интерпретатора сценариев, сохраняется состояние диалога, загружается подсценарий, осуществляется его интерпретация и после его завершения восстанавливается прежнее состояние. Для организации вложенных сценариев используются средства сохранения и возобновления состояния диалога, которые используются также для приостановки диалога с его восстановлением с прерванного или выбранного места. [ Георгиев В. О., Еникеев А. И. 1991].

1.4 Система управления и база лингвистических знаний в диалоговой системе Основой диалоговой системы является банк знаний о языке, который состоит из базы лингвистических знаний (БЛЗ) и системы управления.

В свою очередь, в состав БЛЗ входят тезаурус и словарная компонента. Тезаурус содержит синтаксические и семантические отношения между языковыми единицами, входящими в состав словарной компоненты. Словарная же компонента выглядит как система словарей языковых единиц различных уровней: текстов, сверхфразовых единств и предложений, слов, словосочетаний, а также основ слов и аффиксов. Основным является лексический словарь, который содержит описание множества слов или основ слов, характеризующих предметную область диалога. [Черкасова Г. А., 1990]

Система создания БЛЗ решает три группы задач:

1) выявляет и составляет структуры хранения лингвистических знаний;

2) наполняет выбранные структуры общими знаниями о языке общения, языке представления знаний, диалоге и формирует естественно-языковое описание предметной области диалога;

3) решает задачи пополнения БЛЗ конкретными знаниями о подъязыках пользователях.

Важнейшими факторами структуры БЛЗ являются

— характеристика языка;

— наличие прототипа создаваемой системы;

— тип языка представления знаний в интеллектуальной компьютерной системе.

При наполнении баз лингвистических знаний можно столкнуться с рядом трудностей, ведь словарная компонента диалоговых систем различного назначения включает огромное количество словарных статей языковых единиц.

Средства создания и наполнения в автоматизируют работу и сам процесс ввода знаний в БЛЗ. Автоматизированное наполнение БЛЗ позволяет ввести лишь часть знаний о языке диалога. При этом задействованы лингвистический процессор, различные процедуры информационных технологий и специальные программные средства. [Черкасова Г. А., 1990].

Наполнение словарной компоненты состоит из следующих шагов:

1. Сначала происходит формирование описания предметной сферы диалога на естественном языке, при этом учитываются информационные потребности пользователей.

2. Затем выделяется множество языковых единиц с помощью специальных процедур.

3. В свою очередь определяются индивидуальные базы данных языковых единиц и занесение их в БЛЗ.

4. Устанавливаются синтаксические, семантические и ситуативные отношений между языковыми единицами.

5. В конечно итоге происходит анализ полученных результатов специалистом, внесение изменений и поправок.

По способу организации взаимодействия выделяют системы с приоритетным взаимодействием и без приоритетного взаимодействия. Системы без приоритетного взаимодействия отличаются случайным характером ведения диалога и малой степенью его организованности.

Выводы к главе 1

Диалоговые системы существуют как составляющая компьютерной лингвистики.

В более узком понимании диалог — один из режимов обработки данных, предусматривающий взаимодействие человека и интеллектуально системы.

Современным способом работы компьютером является диалоговый, при котором пользователь управляет его работой, сообщает необходимую информацию и делает запросы о ходе работы.

Диалоговые системы играют важную роль в коммуникации, поскольку их задача заключается в получении решения проблемы на основе знаний, представленных в самой системе, и информации, полученной от пользователя. Система содержит структуры знаний, в которых фиксируются стандартные последовательности действий для решения задач в конкретной проблемной области, а также информацию о необходимых ресурсах. Когда пользователь задает вопрос или ставит определенную задачу, активизируется соответствующий сценарий.

Глава 2. Интеллектуальные диалоговые системы с интерфейсом на естественном языке. Речевые диалоговые системы

2.1 Интеллектуальный интерфейс и его типы Интеллектуальный интерфейс делится на внутренний и внешний. При внутреннем образуется связь между интеллектуальными устройствами и интеллектуальными программами. Внешний — это интеллектуальный интерфейс, а точнее, совокупность интеллектуальных программных средств, позволяющих пользователю взаимодействовать с системой. В структуре интеллектуального интерфейса выделяется диалоговая компонента. Функции диалоговой компоненты осуществляют семантический и синтаксический анализ естественного языка. Цель диалоговой компоненты — организация диалога «пользователь — интеллектуальный интерфейс», обозначение функций участников общения в ходе совместного решения задачи.

2.2 Цели использования естественного языка Существуют различные виды диалогов. Диалог, управляемый системой, лучше подстраивается под пользователя, но при этом имеет больше ограничений, чем диалог, управляемый пользователем. Для построения диалогов, управляемых системой, часто используются сообщения на ограниченном естественном языке. При его использовании распознается только небольшое количество слов.

Цель использования естественного языка — удобное для пользователя ведение диалога с системой. Такая система реагирует на любую фразу или синтаксическую конструкцию, которая понятна человеку. Используя ограниченный или неограниченный естественный язык, в определенной предметной области, наиболее удобен обоюдный способ ведения диалога.

В диалоговых системах специфика предметной области, как правило, сильно ограничивает состав используемых понятий, способы интерпретации понятий, лексику языка и тому подобное, что, в свою очередь, упрощает задачу обработки естественного языка. Поэтому появляется возможность говорить об использовании неограниченного естественного языка. Сложность методов анализа и синтеза естественного языка зависит от языка общения и от языка, применяемого для представления знаний. На начальном этапе диалога язык общения может быть жестко формализован конкретным набором запросов системы и множеством различных ответов пользователя. Обработка сообщений пользователя сводится к анализу входных сообщений. В этих условиях задача синтеза сводится к генерации заранее подготовленных вопросов, а задача анализа — к обработке слов, словосочетаний и предложений. [Филиппович Ю. Н].

Минимум, который должна выполнять интеллектуальная диалоговая система:

— должна уметь поддерживать беседу на заданную тему.

— иметь механизм самообучения.

— уметь конструировать ответ на естественном языке, а не просто выдавать шаблонный ответ.

Наличие тех или иных умений должно быть обусловлено сферой применения системы.

2.3 Структура диалоговой ИС и её компоненты Архитектура диалоговой ИС с ея-интерфейсом может быть изображена следующим способом. (Рис. 2). [В.О. Никонов, 2007 г.]

Теперь распишем все действия последовательно.

Графематический компонент выполняет начальный анализ естественного текста. На входе вводится исходный текст. На выходе анализатор строит таблицу, разделяет входной текст на слова и разделители.

Рисунок 2.

После графематического анализа к работе приступает морфологический компонент. Он приписывает лексемам морфологическую информацию и производит их лемматизацию.

По результатам морфологического анализа проводится фрагментационный анализа текста, который делит предложения на фрагменты и устанавливает связи между ними.

После начинается синтаксический анализ. Его задачей является выявление синтаксической связи между двумя лексемами, разбиение лексем на множество главных слов и множество зависимых слов и формирование множества сочетаемых пар лексем. Как результат, синтаксический анализ определяет все синтаксические конструкции естественно-языкового предложения и объединяет элементы синтаксическими связями.

После синтаксического анализа проводится семантический анализ. В ходе анализа текста строится его семантическое представление, которое представляет собою связный ориентированный граф, состоящий из семантических узлов и отношений между ними.

Для записи семантики используется специальный информационный язык-посредник. Элементарное высказывание на этом языке фиксирует семантическое отношение между двумя семантическими узлами. [В.О. Никонов, 2007 г.]

Семантическое отношение организует текст, а также выражает связи между частями текста.

Затем, после построения семантического представления запроса, в работу вступает алгоритм определения ключевых слов, которые несут основную смысловую нагрузку в предложении.

В результате работы в предложении выделяется цепочка слов, по которой производится поисковый запрос в базу знаний.

В свою очередь, база знаний построена на основе интеллект-карт.

Интеллект-карты — представление процесса мышления или структурирования информации в виде схемы.

Рассмотрим два типа интеллект-карт.

Карта первого типа — карта запроса. Она представляет собой описание пути к сценариям диалогов, хранящимся в системе и их запуск. В центре карты запроса размещено слово-существительное — главное слово.

От главного слова отходят ветви, соединяющие его с узлами-действиями, представленными глаголами. Узлы обозначают действия, которые можно произвести с главным словом. От глаголов отходят ветви, соединяющие их с уточняющими членами предложения. [В.О. Никонов, 2007 г.]

Карты второго типа — карты диалогов. Карта диалога представляет собой последовательность вопросов, которые будут заданы пользователю с целью уточнить детали его запроса и дать ответ на поставленный вопрос. [В.О. Никонов, 2007 г.]

С помощью интеллект-карт процесс создания диалогов происходит значительно проще. Пользователю не требуется знаний программирования, чтобы создать сценарий диалога.

Если в ходе работы пользователь не получит ответ на заданный вопрос, то он отключается от режима диалога и адресует запрос к эксперту на форуме.

Таким образом, использование ЕЯ-интерфейса позволяет точно находить и включать сценарии диалогов для определения ключевых слов запроса и их использования для поиска.

2.4 Речевые диалоговые системы. Способ и система для предоставления речевого интерфейса

Речевые диалоговые системы представляют собой голосовой интерфейс пользователя. Команды подаются голосом посредством произнесения специальных слов-команд. По сути — это моделирование так называемого «общения» человека с компьютером.

Примеры речевых систем в целом относятся к речевым запросам. Говоря более конкретно, варианты осуществления относятся к пользовательскому интерфейсу на основе речевых команд. Результатом является обеспечение более быстрого доступа к информации и решению задач.

Речевые интерфейсы пользователя, с одной стороны, обладают рядом преимуществ, а именно: естественность, оперативность, смысловая точность ввода, и, в дополнение ко всему, освобождение рук и зрения пользователя. А с другой стороны имеют и ряд ограничений: язык пользователя должен быть доступен и понятен системе, к тому же, пользователь не может знать обо всех возможностях системы. В процессе взаимодействия с компьютером, пользователю необходимо быстро улавливать информацию, так как речь носит быстротечный характер восприятия.

Эксперимент Рассмотрим диалоговые системы в компьютерных видео играх. Обычно ДС распространены в таких жанрах игр как стратегии (RTS), ролевые (RPG), экшены (Action) и различные другие жанры.

Самый распространенный жанр игр с ДС — это RPG, его мы и рассмотрим более подробно.

Обычно все игры данного жанра начинаются с создания персонажа (или персонажей), за которого мы будем проходить всю историю. В основном, никаких текстовых или звуковых команд задавать не требуется, максимум, что необходимо сделать — ввести номер определенных выражений лица или же цвета волос и т. д. После того как наш персонаж создан, мы вводим его псевдоним (ник), который будет отображаться в записках-заданиях (квестах) и применяться в различных диалогах.

Итак, начинаем проходить саму игру и разбирать различные виды диалогов. С самого начала нам предлагают разобраться с управлением, интерфейсом и окружением. Обычно, после обучения нам необходимо подойти к внутреигровому персонажу (NPC) и получить первое задание (квест). В зависимости от тематики игры, бюджета разработчиков и нацеленности на определенную аудиторию игроков, диалоги могут быть грамотно выстроены, полны различных деталей или же скупы на слова и упрощены. Квесты делятся на первостепенные и второстепенные. Первостепенные необходимо выполнять, чтобы понять весь смысл игры и закончить ее, а второстепенные проходятся для различных целей, награда за них обычно дается в виде игровой валюты или же опыта или различного игрового контента. Выполнение второстепенных квестов обычно не способствует прохождению игры и не раскрывает сам сюжет, поэтому они часто повторяются и упрощаются.

Рассмотрим первостепенные квесты. В этих заданиях мы получаем много полезной информации, которая упрощает прохождение сюжета. Эти задания строятся под видом диалогов и могут содержать варианты ответов игрока, которые он выбирает сам. В различных играх свои системы ведения диалогов, но они зачастую похожи друг на друга. При выборе определенного действия или ответа на заданный игроку вопрос, пути прохождения игры меняются, меняется «характер» персонажа, так же может измениться отношение внутреигровых персонажей (NPC) к игроку. Характер, как правило, может быть нескольких видов. Например, в игре Dragon Age 2 вариантов характера три: Дипломат (подсветка значков в диалоге светло-голубая или зеленая), Шутник (подсветка значков фиолетовая), и Агрессор (подсветка значков красная). В зависимости от выбранного характера меняются реплики, которые персонаж произносит без нашего участия, боевые выкрики, фразы, произносимые в процессе передвижения по карте, а также диалоговые опции, не имеющие интонации (например, флирт). Характер нашего персонажа обычно определяет первое же интонационное высказывание, в первом диалоге. Если мы продолжим выбирать ту же интонацию (тональность) в последующих диалогах, то через некоторое время характер фиксируется и до конца главы (акта) или всей игры остается неизменным. Если же мы решаем поменять линию поведения, то количество реплик другой интонации должно быть минимум в два раза больше, чем реплик предыдущей интонации.

Рассмотрим игру The Sims. Дизайнеры экспериментировали с общением с помощью символов. В этой игре мы выбираем не конкретные варианты ответа, а действия и тон разговора. В отличие от фраз живого языка, для таких простых понятий, как «смех», «оскорбление» или «презрение», гораздо проще построить набор правил для взаимодействия, которые игрок может комбинировать более сложным образом, чем в случае с диалоговыми деревьями, которые обычно используются.

Такие схемы в RPG не прижились. Символам не хватает конкретности фраз, возможности выражать тонкие смысловые оттенки. Этот недостаток они унаследовали от ключевых слов, и именно его должны были истребить диалоговые деревья. В Fable нам позволялось совершать те или иные символические действия с NPC, но им не хватало эмоционального заряда, который несет обычная речь. В сравнении с озвученными диалогами той же игры эти действия казались лишенными особой смысловой нагрузки. Манипуляция переменными, стоящая за этими символами, также была неестественной, как и в мини-игре «Убеждение» в Oblivion. Хороший писатель мог бы сочинить захватывающий диалог, дающий игроку возможность льстить, угрожать, хвастаться и шутить, однако пошаговый выбор односложных вариантов из меню выглядит очень неубедительно.

Некоторые пытались создать комбинированную систему: диалоговые деревья, позволяющие вместо конкретной фразы выбрать тон, в котором будет произнесена реплика. Такой вариант использовался в Bard’s Tale (где были «ехидный» и «добрый» варианты ответа) и Mass Effect, нечто подобное есть и в Alpha Protocol, где можно выбирать между архетипами педантичного, вежливого или агрессивного агента. Проблема таких систем заключается в том, что они, будучи основанными на диалоговых деревьях, в лучшем случае предлагают минимум гибкости, а в худшем — заставляют героя отвечать совсем не так, как ожидал игрок. Да, мы выбрали «оскорбительный тон», но уж никак не собирались выхватывать пистолет, приставлять его к голове собеседника и затевать большую драку. Проблема в том, что, подобно ключевым словам, каждая интонация сама по себе — весьма широкая категория. Под «оскорбительным тоном» можно понимать довольно обширный спектр фраз и действий. Однако, в отличие от ключевых слов, диалоги с выбором тона остаются диалоговыми деревьями, и не добавляют гибкости, свойственной символическим системам, как в The Sims. Динамической беседы такая система не породит. Подобные гибриды приемлемы разве что для тех, кто стремится упростить процесс принятия решений для аудитории, не любящей читать, или освободить место на экране для драматических ракурсов и красивых спецэффектов. Гораздо лучше скомбинировать систему интонаций с ключевыми словами. Вместо того, чтобы просто задать вопрос на определенную тему и получить ответ, мы можем спросить о волнующем нас предмете в том или ином тоне. В зависимости от того, как NPC к нам относится, как мы к нему обратились и чем поинтересовались, мы можем получить разные ответы. Попытка организовать динамические диалоги таким образом была предпринята в Daggerfall, хотя потенциал этого метода не был раскрыт полностью. Однако, возможно, именно Daggerfall со своим сочетанием процедурно генерируемых текстов с авторскими, представляет самое перспективное направление для развития диалоговых систем в RPG, позволяющее игроку самовыражаться, а дизайнеру — передавать тонкие оттенки смысла.

Выводы к главе 2

Основная задача диалогового процесса — определить задание, которое пользователь возлагает на систему. Важно учитывать правила ведения диалога с компьютером.

Разработка интеллектуального интерфейса направлена на соответствие физических возможностей системы запросам человека, согласования стиля диалога с потребностями и представлениями человека.

Говоря о речевых диалоговых системах, нужно отметить, что существующие модели автоматического понимания речи пока еще далеки от понимания речевых возможностях человека. Для того, чтобы разработать подходящие и удобные в использовании разговорные диалоговые системы, необходимо учитывать как технологии передачи, распознавания и синтеза речи, корректное понимание языка, управление диалогом, так и учёт всех составляющих информационного обмена между людьми, позволяющие организовывать взаимодействие компьютера с человеком на естественном языке. Диалоговые системы будут эффективны при условии, если будут привычными для пользователя и адаптированы к нему.

диалоговый лингвистика интеллектуальный интерфейс

Заключение

В настоящее время все сферы компьютерной лингвистики активно развиваются. С усложнением требований человека к компьютерным системам появляется необходимость дополнять и совершенствовать диалоговые системы.

Рассматриваемые в данной курсовой работе диалоговые системы дают нам представление об искусственном интеллекте в целом. Понимание диалоговых систем может обеспечить понимание алгоритмов действий компьютерных систем.

Диалоговые системы упрощают процесс поиска информации, а также работы с интеллектуальными системами. К тому же, с появлением речевых диалоговых систем процесс работы с интеллектуальными системами стал доступен не только людям, разбирающимся в них, но и простым обывателям.

Единственным недостатком является тот факт, что искусственный интеллект не полностью доработан, и при работе с диалоговыми системами могут возникнуть различные ошибки, например нарушения алгоритмов, ошибки сценариев и т. д.

В заключение хочу добавить, что с развитием искусственного интеллекта могут появиться диалоговые системы, которые будут осуществлять процесс работы посредством мысленных команд пользователя, что может дать науке практически неограниченные возможности.

1. Довгялпо A.M. Диалог пользователя ЭВМ. Основы проектирования и реализации. Киев: Наук, думка, 1981. 232 с.

2. Черкасова Г. А. Формирование баз лингвистических знаний с использованием технологии ассоциативного эксперимента// Третья всесоюзная конференция по созданию Машинного фонда русского языка: Тез. докл.(Часть 1). — М., 1989.-с.197−199

3. Попов Э. В. Общение с ЭВМ на естественном языке. — М.: Наука. Главная редакция физико-математической литературы, 1982. 360 с.

4. Попов Э. В. Искусственный интеллект в трех книгах. Книга 1. Системы общения и экспертные системы. Справочник. — М.: Радио и связь, 1990. 464с.

5. Пиотровский Р. Г. Математическая лингвистика. — М.: Высшая школа, 1977. 383 с. с ил.

6. Всеволодова А. В. Компьютерная обработка лингвистических данных: учеб. пособие/А.В. Всеволодова. — 2-е изд., испр. — М.: Наука: Флинта, 2007. — 96 с.

7. Никонов В. О. Диалоговая интеллектуальная система с естественно-языковым интерфейсом. Диссертация.: 2007. — 138 с.

8. Филиппович Ю. Н. Интеллектуальные технологии и системы. Сборник учебно-методических работ и статей аспирантов и студентов. Выпуск 8 / Сост. и ред. Ю. Н. Филипповича. — М.: НОК «CLAIM», 2006. — 326 с