Адаптивные модели нечеткого вывода для идентификации нелинейных зависимостей в сложных системах

Сложные системы характеризуются большим числом входов-выходов и элементов, связи между элементами носят разнотипный, нелинейный характер. Часть информации о системе представлена в качественном виде. Функционирование системы происходит в условиях нечеткости и неопределенности, которую вносит человеческий фактор. В этом случае, как правило, получение закона распределения параметров, воздействующих на систему, становится трудной, часто неразрешимой за ограниченное время задачей. Традиционные средства (вероятностный подход на основе аппарата математической статистики, имитационное моделирование) не позволяют строить модели таких систем в условиях ограниченности временных, материальных и трудовых ресурсов. Спектр таких задач постоянно расширятся: это управление производственными системами, распознавание сигналов и образов, классификация и многие другие.

Поэтому в последние годы наблюдается повышение научного и практического интереса к методам интеллектуальной обработки информации. К ним относятся: искусственные нейронные сети, гибридные нейронные сети, модели на основе нечеткой логики [15, 24, 25, 29, 71].

Нечеткая логика (англ.: fuzzy logic), основы которой заложил JI. Заде в 60-х годах прошлого столетия [18], за несколько десятилетий превратилась в мощный инструмент для построения моделей приближенных рассуждений человека в задачах принятия решений в условиях неопределенности, классификации и анализа данных. Математический аппарат теории нечетких множеств позволяет построить модель объекта, основываясь на нечетких рассуждениях и правилах. Нечеткие модели описывают явления и процессы реального мира на естественном языке при помощи лингвистических переменных, а механизм нечеткого вывода прозрачен и понятен человеку. Эти преимущества обусловили широкое применение нечеткой логики для решения задач автоматического управления, принятия решений, прогнозирования в различных прикладных областях науки, техники и экономики [2, 3, 6, 7, 38, 42].

Принято выделять три периода в развитии нечеткой логики и нечетких систем [30]. Первый период (конец 60-х-начало 70 гг.) характеризуется развитием теоретического аппарата нечетких множеств (JI. Заде, Е. Мамдани, Белл-ман). Во втором периоде (70−80-е годы) появляются первые практические результаты в области нечеткого управления техническими системами (поршневой двигатель). Одновременно ученые коллективы стали уделять внимание вопросам построения экспертных систем, построенных на нечеткой логике, разработке нечетких контроллеров. Наконец, в третьем периоде, который длится с конца 80-х годов и продолжается в настоящее время, появляются пакеты программ для построения нечетких экспертных систем, а области применения нечеткой логики заметно расширяются. Она применяется в автомобильной, аэрокосмической и транспортной промышленности, в области изделий бытовой техники, в сфере финансов, анализа и принятия управленческих решений и многих других [25,41,42].

К началу 90-х годов число научных работ, посвященных нечеткому моделированию, превышает 10 тыс., причем большая часть исследований ведется на Востоке (Япония, Китай) [30, 84]. Исследованиям в этой области посвящены работы ученых А. Н. Аверкина, А. Н. Борисова, Д. А. Поспелова, JI.A. Заде, А. Кофмана, Дж. Клира, Е. А. Мамдани, А. П. Рыжова и др.

Несмотря на достоинства нечетких экспертных систем (описание проблем на естественном языке с использованием лингвистических переменных, параллельное выполнение правил, возможность использования противоречивых правил и др.), они имеют недостатки, свойственные всем остальным экспертным системам — необходимость привлечения экспертов к формированию базы знаний [50]. В нечетких системах эксперты формируют правила и функции принадлежности. Особенно сложным этапом является выбор параметров, характеризующих функции принадлежности. Из-за субъективности экспертов построенные ими функции принадлежности могут не вполне отражать реальную действительность. Кроме того, для построения функций принадлежности эксперт должен обладать высокой квалификацией, а это в конечном итоге увеличивает расходы на создание экспертной системы. Поэтому в начале 90-х годов появляются адаптивные модели нечеткого логического вывода. В них параметры нечеткой модели подбираются в процессе обучения на экспериментальных данных. Исследованиям в этой области посвящены работы ученых Ф. Херреры (F. Herrera), Т. Фукуды (Т. Fukuda), Ч. Kappa (Ch. Karr), М. Лозано (М. Lozano), М. Сакава (М. Sakawa), О. Кордона (О. Cordon), Ж. Касиласа (J. Casil-las), Ф. Хоффмана (F. Hoffman), Р. Янга, В. В. Круглова, А. П. Ротштейна, С. Д. Штовбы и др. География лидирующих стран, ученые которых занимаются проблемами построения адаптивных нечетких моделей, выглядит следующим образом (в скобках указана доля печатных работ от общего количества за период с 1993 по 2003 гг.): Япония (20,4%), США (19,2%), Тайвань (6,9%), Китай (6,6%), Великобритания (5,8%), Южная Корея (5,5%), Испания (5,1%) [79].

Таким образом, модели, построенные на нечеткой логике, в которых подбор параметров нечеткой модели ведется в процессе обучения на данных, описывающих исследуемую сложную систему, относят к классу адаптивных моделей нечеткого логического вывода.

Целью диссертации является создание, исследование и совершенствование методов автоматического построения (обучения) нечетких моделей на основе экспериментальных данных, что внесет существенный вклад в вопросы интеллектуального моделирования сложных систем и решение задач идентификации, классификации и прогнозирования.

Обучение нечетких моделей является трудной задачей. В настоящее время не существует какого-либо общепризнанного, классического метода обучения, и данная область остается не до конца проработанной. При подборе параметров адаптивной модели нечеткой решается задача минимизации нелинейной функции ошибки с ограничениями. В ходе ее решения имеются следующие проблемы:

1. Проблема получения (генерации) нечетких правил.

2. Алгоритм глобальной минимизации функции ошибки нечеткой модели. Градиентные методы обучения часто оказываются малоэффективными из-за разрывности, многоэкстремальности и большой размерности оптимизируемой функции.

3. Способ представления параметров нечеткой модели в векторе неизвестных.

В диссертации последовательно решаются все вышеназванные проблемы. Для этого поставлены следующие задачи:

1. Разработать и реализовать на ЭВМ метод обучения адаптивных нечетких моделей, позволяющий получать нечеткие правила и функции принадлежности из экспериментальных данных.

2. Исследовать способности разработанных нечетких моделей идентифицировать нелинейные зависимости.

3. Исследовать эффективность применения адаптивных нечетких моделей на практике.

Наиболее перспективным направлением исследования является применение генетических алгоритмов для построения адаптивных нечетких моделей.

Научная новизна работы заключается в следующем.

1. Разработан метод обучения моделей нечеткого вывода Мамдани и Су-гено, позволяющий получить нечеткие правила и функции принадлежности из экспериментальных данных без участия эксперта.

2. Разработан новый гибридный генетический алгоритм, эффективно справляющийся с оптимизацией многоэкстремальных функций большой размерности и применяющийся в методе обучения нечеткой модели.

3. Впервые предложена методика определения прогнозной трудоемкости изготовления машиностроительных изделий на основе нечеткой логики, что позволяет оперативно оценивать нормы времени без проектирования технологического процесса.

В первой главе диссертационной работы исследуется понятие сложной системы и ее основных элементов, приводится современная классификация методов моделирования сложных систем. Приводятся основные сведения из теории нечетких множеств и генетических алгоритмов, делается анализ существующих алгоритмов построения адаптивных нечетких моделей и программных продуктов на основе нечеткой логики.

Во второй главе подробно анализируются проблемы, возникающие на этапе обучения нечеткой модели. Описывается метод обучения нечетких моделей, названный комбинированным методом обучения с классификационным алгоритмом генерации правил (КМ-КАГП) и гибридный генетический алгоритм, применяемый при минимизации функции ошибки нечеткой модели.

В третьей главе приведены результаты численно-параметрических исследований адаптивных нечетких моделей. На тестовых функциях исследуются их способности идентифицировать зависимости, а также результаты оптимизации многоэкстремальных функций разработанным гибридным генетическим алгоритмом. Описывается программная среда, в которой выполнялись эксперименты, ее возможности и взаимодействие с пользователем.

В четвертой главе приводится решение практической задачи — прогнозирование трудоемкости изготовления машиностроительных изделий на основе адаптивной модели нечеткого логического вывода с использованием теории конструктивно-технологической сложности. Данная задача является очень актуальной в современных рыночных условиях функционирования любого машиностроительного предприятия. В качестве примера рассматривается построение адаптивной нечеткой модели для класса корпусных деталей.

Основным результатом диссертационной работы является то, что повышена эффективность использования моделей на основе нечеткой логики за счет разработки метода их обучения, что вносит существенный вклад в вопросы построения интеллектуальных систем обработки информации. На защиту выносятся: метод обучения адаптивных моделей нечеткого логического вывода, включающий классификационный алгоритм генерации правил и схему кодирования параметров нечеткой моделигибридный генетический алгоритм с дополнительным обучением лидера, используемый для минимизации функции ошибки нечетких моделейрезультаты исследования способностей по идентификации нелинейных зависимостей адаптивными нечеткими моделямирезультаты применения адаптивного нечеткого вывода в прогнозировании трудоемкости изготовления машиностроительных деталей.

Выводы ния прогнозной трудоемкости и позволяет оперативно оценивать нормы времени на изготовление изделий без проектирования технологического процесса, что дает возможность снизить затраты на процесс нормирования и принять обоснованное решение по выпуску нового изделия.

3. Основными этапами построения интеллектуальной модели технологического нормирования должны быть: классификация номенклатуры деталей на классы и выделение их конструктивно-технологических признаков в каждом классесокращение размерности входных признаков и удаление неинформативныхобучение модели и оценка ее качества.

4. На основе изложенного подхода была разработана информационная система «Прогнозирование трудоемкости». Данное программное обеспечение прошло опытную эксплуатацию на предприятии Удмуртской республики.

5. Для класса корпусных деталей объемом 43 шт. с известными конструктивно-технологическими признаками построена адаптивная нечеткая модель. Модель содержала шесть входных переменных. В результате обучения получены 16 нечетких правил и функции принадлежности. Оценка модели статистическими методами показала ее значимость. Относительная средняя по модулю ошибка определения трудоемкости на тестовой выборке корпусных деталей равна 12,1% при коэффициенте корреляции 0.976. Учитывая, что расчетный метод дает ошибку до 50%, а регрессионный метод на основе теории сложности до 15%, то данный результат удовлетворяет требованиям точности оценки времени нормирования на предварительной стадии. Точность модели можно повысить добавлением экспертных правил и увеличив объем деталей.

ЗАКЛЮЧЕНИЕ

В работе обозначены основные проблемы, возникающие при моделировании сложных систем и условия, при которых применение традиционных, вероятностных, методов моделирования невозможно. Обоснована актуальность применения современных методов интеллектуального моделирования для изучения таких систем. Выполнен системный анализ отечественных и зарубежных работ, посвященных нечеткому моделированию сложных систем. Предложена классификация адаптивных моделей нечеткого вывода в зависимости от вида функций принадлежности, типа используемых нечетких правил, применяемого метода генерации нечетких правил, метода корректировки функций принадлежности и др. Выполнен сравнительный анализ коммерческих программных продуктов для нечеткого моделирования.

Формализована задача обучения нечеткой модели на экспериментальных данных, составлена математическая модель для решения задачи нелинейного программирования с целью минимизации функции ошибки нечеткой модели. Выделены три основные проблемы решения получения параметров адаптивной нечеткой модели: метод генерации нечетких правил, алгоритм минимизации функции ошибки и проблема представления параметров функций принадлежности в векторе неизвестных.

Указанные проблемы успешно решены в диссертационной работе. Впервые предложно применить классификационный алгоритм для генерации нечетких правил. Для этого в вектор неизвестных параметров нечеткой модели вводились границы лингвистических термов, или классов. Это позволило осуществлять настройку базы правил совместно с корректировкой функций принадлежности. В известных методах разделяются методы генерации правил и настройки ФП, что значительно увеличивает время на процедуру обучения.

Для решения второй проблемы разработан новый гибридный генетический алгоритм, основанный на параллельной работе генетических операторов и градиентного метода. Применение гибридной схемы для генетического алгоритма, дало эффект «сумма больше составляющих частей». В результате стало возможным решение задач оптимизации, невозможных при использовании каждого отдельного метода. Алгоритм был проверен на многоэкстремальной функции Розенброка размерностью до 2000. Ни градиентные алгоритмы, ни стандартные генетические алгоритмы не решили задачу такой размерности. Алгоритм применялся для минимизации оптимизационной функции адаптивной нечеткой модели. Перспективными направлениями применения гибридного алгоритма, кроме обучения нечетких моделей, являются:

— решение систем нелинейных алгебраических уравнений;

— вариационные задачи оптимального управления;

— обучение нейронных сетей, гибридных нечетко-нейронных сетей и других компонентов интеллектуальных систем.

Для кодирования параметров нечетких моделей в хромосому генетического алгоритма была разработана специальная схема, что позволило свести условную задачу оптимизации к безусловной с минимальным числом кодируемых параметров. Основная идея схемы заключалась в кодировании не абсолютных, а относительных длин верхних оснований трапецеидальных функций принадлежности нечетких множеств.

Полученные автором результаты аппроксимации нелинейных зависимостей адаптивными нечеткими моделями позволяют существенно повысить эффективность моделирования и изучения сложных систем. Полученный вывод о том, что модель Сугено обеспечивает лучшую точность аппроксимирования, согласуется с данными других исследователей. Практическая ценность работы определяется созданием программного обеспечения для построения адаптивных нечетких моделей на основе разработанных методов и алгоритмов, а также программного обеспечения для прогнозирования трудоемкости машиностроительных изделий на основе нечеткой логики.

Эффективность предложенных и разработанных методов, алгоритмов и инструментальных средств проверена на практике. Решена актуальная задача определения прогнозной трудоемкости машиностроительных изделий на стадии конструкторской подготовки производства. Проанализированы существующие методы нормирования и выявлены их недостатки. Впервые автором предложено применить для этой цели аппарат нечеткой логики. Использование нечеткого прогноза для оценки трудоемкости изготовления позволяет существенно снизить временные и материальные ресурсы при нормировании на современном машиностроительном предприятии.

В ходе исследования использовались методы теории нечетких множеств, теории оптимизации, эволюционных алгоритмов, системного анализа и принятия решений, математической статистики, объектно-ориентированного программирования.

В работе получены следующие научные и практические результаты:

1. Повышена эффективность использования моделей на основе нечеткой логики за счет разработки метода их обучения, что вносит существенный вклад в решение задачи интеллектуального моделирования сложных систем. Метод одновременно настраивает базу правил и функции принадлежности нечетких множеств, что сокращает время на обучение. В известных методах обучения генерация правил и корректировка функций принадлежности проводятся отдельными этапами.

2. Разработан и исследован новый гибридный оптимизационный алгоритм, основанный на параллельной работе генетического алгоритма и метода переменной метрики, что позволяет эффективно решать задачи глобальной оптимизации. За 620 итераций гибридным алгоритмом был найден глобальный минимум функции Розенброка размерностью 2000 с точностью 10″ 5. Известные алгоритмы оптимизации не справились с задачей такой размерности. Алгоритм применялся для минимизации оптимизационной функции адаптивной нечеткой модели.

3. Показано, что адаптивные нечеткие модели эффективно идентифицируют нелинейные зависимости. На тестовых функциях установлено, что нечеткая модель Сугено обеспечивает лучшую точность при идентификации нелинейных зависимостей. Ошибка обучения для моделей Сугено получилась в 5−20 раз меньшей, чем при использовании модели Мамдани.

4. Разработан программный модуль для обучения и исследования адаптивных нечетких моделей, включающий в себя методы и алгоритмы, предложенные в работе.

5. Впервые предложено использовать аппарат нечеткой логики для определения прогнозной трудоемкости машиностроительных деталей на стадии конструкторской подготовки производства. Это позволяет оперативно оценивать нормы времени на изготовление изделий без проектирования технологического процесса, что дает возможность снизить затраты на процесс нормирования и принять обоснованное решение по выпуску нового изделия. На примере деталей корпусного класса построена адаптивная нечеткая модель для прогнозирования трудоемкости их изготовления. Средняя относительная ошибка нечеткого прогноза составила 12.1%, что приемлемо на стадии предварительной оценки.

6. Разработана информационная система для прогнозирования трудоемкости на основе нечеткой логики, представляющая интерес для предприятий с часто изменяющейся номенклатурой выпускаемых изделий. Информационная система апробирована на предприятии Удмуртской республики.

Основные положения и результаты диссертационного исследования докладывались и обсуждались: на Международной научно-технической конференции, посвященной 50-летию ИжГТУ (Ижевск, 2002) — III Международной научно-практической конференции «Искусственный интеллект» (Украина, Крым, 2002) — IV Международной научно-технической конференции «Информационные технологии в инновационных проектах» (Ижевск, 2003) — XXX Юбилейной Международной конференции «Информационные технологии в науке, образовании, телекоммуникации и бизнесе IT+SE'2003» (Украина, 2003).