Обучение персептрона с использованием нормированной функции настройки

Содержание Введение

1. Аналитическая часть

1.1 Понятие интеллектуальной информационной системы

1.2 Понятие нейронных сетей

1.3 Обзор информационных технологий/программных средств для реализации алгоритмов нейронных сетей

2. Практическая часть

2.1 Программная среда MATLAB

2.2 Детальное описание особенностей выполнения демонстрационного примера

2.3 Программный код Заключение

Введение

Под информационными технологиями понимается совокупность методов, использующих информационные законы, модели и процессы для производства средств и методов работы с информацией. В последнее время в рамках научного направления искусственный интеллект появилось понятие современных информационных технологий, к которым относятся: инженерия знаний, обработка нечеткой информации, мягкие вычисления (softcomputing), нейросетевые технологии, эволюционное моделирование (генетические алгоритмы), многоагентные системы. Перечисленные технологии реализуют не только новые модели представления знаний, но и современные эвристические алгоритмы для получения приближенных решений, когда точное решение найти или невозможно, или трудоемко. Интеллектуальные информационные технологии — это средство для разработки интеллектуальных информационных систем, которые в последнее время становятся весьма распространенным коммерческим продуктом, находящим широкий спрос пользователей в самых разнообразных областях деятельности.

Дисциплина «Интеллектуальные информационные системы» (ИИС) рассматривает способы построения информационных систем для решения неформализованных задач в различных сферах творческой деятельности человека. Особое внимание уделяется вопросам построения экспертных систем, которые являются наиболее значительным результатом практической реализации теории искусственного интеллекта. Рассматриваются процедуры имитации мыслительной деятельности человека в определенной предметной области, алгоритмы выделения признаков для описания ситуаций в условиях неопределенности.

Изучаются математические и алгоритмические основы интеллектуальных информационных систем: модели представления знаний на основе систем продукций, семантических сетей и фреймов; выводы на знаниях; нечеткая информация и выводы; нейронные сети; методы эвристического поиска решений и программирования задач в среде CLIPS, пакете прикладных программ NeurealNetworkToolbox, функционирующего под управлением ядра системы MATLAB.

Целью выполнения курсового проекта является расширение теоретических и закрепление практических знаний, полученных в ходе аудиторных и самостоятельных занятий по дисциплине Интеллектуальные информационные системы.

Для достижения поставленной цели необходимо решить следующие задачи:

· самостоятельно изучить специальную литературу;

· изучить встроенные инструментальные средства системы для математических расчетов MATLAB;

· рассмотреть возможности и особенности базового программного обеспечения из состава ППП NeuralNetworkToolbox (NNT) ПС MATLAB 6

1. Аналитическая часть

1.1 Понятие интеллектуальной информационной системы Интеллектуальная информационная система (ИИС) — это информационная система, которая основана на концепции использования базы знаний для генерации алгоритмов решения экономических задач различных классов в зависимости от конкретных информационных потребностей пользователей.

Для интеллектуальных информационных систем, ориентированных на генерацию алгоритмов решения задач, характерны следующие признаки:

· развитые коммуникативные способности;

· умение решать сложные, плохо формализуемые задачи;

· способность к самообучению.

Интеллектуальные информационные системы можно классифицировать как:

· интеллектуальные базы данных, в том числе с интерфейсами, использующими естественный язык, гипертекст и мультимедиа, когнитивную графику;

· статические и динамические экспертные системы;

· самообучающиеся системы на принципах индуктивного вывода, нейронных систем, поиска прецедентов, организации информационных хранилищ;

· адаптивные информационные системы на основе использований CASE-технологий и/или компонентных технологий.

Коммуникативные способности ИИС характеризуют способ взаимодействия (интерфейса) конечного пользователя с системой, в частности, возможность формулирования произвольного запроса в диалоге с ИИС на языке, максимально приближенном к естественному.

Интеллектуальные системы решают задачи динамического моделирования для реинжиниринга (реорганизации) бизнес-процессов. В основные задачи интеллектуальных систем динамического моделирования для реинжиниринга бизнес-процессов входят:

1) определение оптимальной последовательности выполняемых операций, которая сокращает цикл изготовления и продажи товаров и услуг, обслуживания клиентов. Следствие оптимизации — повышение оборачиваемости капитала и рост всех экономических показателей фирмы;

2) оптимизация использования ресурсов в различных бизнес-процессах, минимизирующая издержки производства и обращения;

3) построение адаптивных бизнес-процессов, цель которых быстро реагировать на изменения потребностей конечных потребителей продукции, производственных технологий, поведения конкурентов на рынке и, как следствие, повышать качество обслуживания клиентов в условиях динамичности внешней среды;

4) оптимизация финансовых потоков, обеспечение равномерного поступления и использования денежных средств в результате отработки рациональных схем взаимодействия с партнерами, сочетания бизнес-процессов.

Заметим, информационные системы в сфере фондовых рынков предназначены для повышения прозрачности рынка наиболее добротных ценных бумаг и увеличения оборота средств.

Для внебиржевой торговли ценными бумагами инвестиционными институтами, в том числе банками, создаются специализированные учреждения или подразделения, в том числе так называемые фондовые магазины. Для автоматизации их работы разрабатываются специальные системы, одна из которых — «Фондовый магазин». Система предназначена для переуступки прав собственности по ценным бумагам, выпущенным в безбланковой форме. Она взаимодействует с системой учета прав собственности, обеспечивая гарантированную поставку безналичных ценных бумаг.

1.2 Понятие нейронных сетей Под нейронными сетями (НС) понимают параллельные вычислительные структуры которые моделируют биологические процессы обычно ассоциируемые с процессами человеческого мозга. НС обладают способностью приобретать знания о предметной области, обучаясь на примерах. История НС начинается с работ американских ученых У. Мак-Каллона, В. Питтса (1943г. модель формального нейрона) и Ф. Розенблатта (1957г. однослойная НС, названная им персептроном). Персептрон — электронное устройство, моделирующее глаз улитки и его взаимодействия с мозгом.

Искусственный нейрон — это элементарный преобразовательный элемент, имеющий непустое множество входов, на которые поступают сигналы х1, х2, …, хn. Суммирующий блок, блок преобразования сигнала с помощью активационной проекции и один выход Уо. Каждому входу приписан свой «вес» w (соответствующий мере" биологической синоптической связи). Функционирует нейрон в два такта, на первом такте в суммирующем блоке вычисляется величина возбуждения полученного нейроном. Другими словами, нейрон имеет входные сигналы, в биологическом нейроне роль «собирателя» этих сигналов от другий нейронов служит дендрит, и у нейрона есть выходной сигнал, в биологическом нейроне передатчиком сигналов другим нервным клеткам служит аксон. Другими словами, в нейрон от других нейров приходит какое-то число сигналов, обработав их, нейрон передает выходной сигнал далее, другому нейрону. Функционирует нейрон в два такта, на первом такте в суммирующем блоке вычисляется величина возбуждения полученного нейроном. На втором такте суммарное возбуждение пропускается через активационную (преобразующую) функцию F в результате чего получается выходной сигнал Yо = F (Y). Существует 4 вида активационной функции:

1) Линейная функция (гистерезис)

2) Функция единого скачка

3) Сигмоидальная функция активации

4) гиперболический тангенс Применение НС это инструмент для решения широкого класса задач, используется в качестве средства обработки информации, обладая следующими возможностями: 1) гибкая модель для нелинейной аппроксимации многомерных функций; 2) средство прогнозирования во времени процессов, зависящих от многих переменных; 3) классификатор по многим признакам; 4) средство распознавания образов; 5) поиск закономерностей в массивах данных и др.

1.3 Обзор информационных технологий/программных средств для реализации алгоритмов нейронных сетей

Типы аппаратного обеспечения на основе ИНС Существует большое количество типов рассматриваемых устройств, однако их можно разделить на три основных класса, которые могут применяться в зависимости от поставленных и выполняемых задач. Нейрокомпьютеры (Neurocomputer). Представители шестого поколения ПК представляют собой комплексную систему, аппаратные составляющие которой полностью основаны на ИНС. Создание таких систем обосновано при необходимости выполнения обработки информации, требующей высоких вычислительных мощностей. Разного типа ускорители и другие карты расширения для ПК (PC accelerators). Такие устройства представляют собой стандартные карты расширения для шины, например, ISA или PCI, с тем лишь отличием, что обработку данных осуществляет ИНС. Такие устройства обладают некоторыми преимуществами нейрокомпьютеров, но в более узком или специализированном диапазоне выполняемых задач, а, соответственно, и низком ценовом диапазоне. Чипы (Chips). Тип аппаратной реализации ИНС, применяемый для построения вышеназванных форм реализации, а также предназначенный для совместного использования с другими стандартными устройствами для расширения свойств последних. Клеточные библиотеки (Celllibraries). Такой тип предназначен для обеспечения совместной работы специализированного чипа и некоторых дополнительных возможностей и функций, предоставляемых другими устройствами. Широко применяется при построении сложных комплексных систем. Встроенные микрокомпьютеры (Embeddedmicrocomputers). Такие устройства способны выполнять определенный круг задач с помощью ИНС, но без участия периферийных устройств (клавиатуры, монитора и т. д.). Некоторые ускорители могут содержать обычные перепрограммируемые процессоры, повышение производительности которых обеспечивается распараллеливанием вычислительных повторяющихся операций с помощью ИНС. Отметим, что далее сконцентрируемся на устройствах, в которых функциональные возможности самой ИНС непосредственно осуществлены в аппаратном обеспечении.

Категории аппаратного обеспечения ИНС Рассмотрим вопрос, связанный с практическим исполнением и внедрением ИНС в аппаратные средства. В этом случае, опять же, можно выделить три широких класса: цифровое, аналоговое и гибридное исполнения. В рамках этих категорий используется различная архитектура и методы для реализации необходимых функций.

Цифровое исполнение В цифровом исполнении все значения, обрабатываемые нейронной сетью, представлены бинарными словами с характерной длиной слова. К преимуществам цифровой технологии перед аналоговой следует отнести независимость от электромагнитных помех, возможность использования RAM для хранения весовых коэффициентов (в течение неопределенного отрезка времени), хорошо отработанные технологии изготовления, высокая точность в вычислительных операциях, а также легкая интегрируемость в уже существующие системы. Однако в этом случае, как и везде, присутствуют недостатки, среди которых следует отметить более медленные (хотя и более точные) вычисления, а также проблемы, связанные с конвертацией аналогового сигнала. В случае цифрового исполнения аппаратное обеспечение на основе ИНС может быть реализовано несколькими типами архитектур, наиболее важные из них мы рассмотрим и приведем соответствующие примеры. Каскадируемая архитектура. Рассматриваемая архитектура практически идентична методам построения обычных цифровых процессоров, другими словами, нейронная сеть любого размера и архитектуры строится посредством стандартных блоков. Реализованными примерами такой архитектуры могут служить чип PhilipsLneuro, MD1220 от MicroDevices, а также Neuralogix NLX-420 NeuralProcessor. Мультипроцессорные чипы. В этом случае подход состоит в размещении в одном чипе множества простейших процессоров. Такие решения могут быть разделены на две группы, известные как SIMD (SingleInstruction, MultipleData) и так называемые систолические сети. В случае SIMD, все процессоры выполняют одну и ту же инструкцию параллельно с вектором данных. Во втором случае каждый процессор неоднократно исполняет один шаг вычислений перед передачей результата следующему (или нескольким) процессору в сети. Примерами SIMD-архитектуры являются чип Inova N64000, содержащий 64 элемента обработки, чип HNC 100NAP, включающий в себя 4 обрабатывающих элемента, Siemens внедрила в свой мультипроцессор MA 16 микрочипов. Такая архитектура предназначена, главным образом, для исполнения различных действий над матрицами. Архитектура RBF (RadialBasisFunction). Согласно этой архитектуре, функционирование сети определяется управлением эталонными векторами, определяющими области, на которые влияют данные при обучении.

Преимуществом RBF ИНС является их быстрое обучение и относительно простое построение сетей прямого распространения. К коммерческим изделиям относятся чипы IBM ZICS и Nestor Ni1000. Интересным фактом является также и то, что произведенные в США чипы семейства IBM ZICS были разработаны в Европе. Другие цифровые проекты. Ряд существующих архитектур не подходят ни под одну из вышеназванных категорий. К примеру, разработка фирмы MicroCircuitEngineering MT19003 NISP, по существу, RISC-процессор (Redu-cedInstructionSetComputer, тип архитектуры микропроцессора, ориентированный на быстрое и эффективное выполнение относительно небольшого набора встроенных команд), осуществляющий семь инструкций, оптимизированных для построения многослойных сетей. Еще одним примером, реализующим другой подход, может служить чип HitachiWaferScaleIntegration. Чипы этого семейства предназначены для реализации сетей обратного распространения и сетей Хопфилда.

В Стэнфордском университете (StanfordUniversity) разработан микрочип, который способен стимулировать нейроны посредством химических соединений, а не электрических импульсов.

Аналоговое исполнение К преимуществам этой категории аппаратных средств реализации ИНС следует отнести высокие скорости обработки информации и возможности высокой плотности расположения элементов. Однако тут же дают о себе знать и недостатки сложность в получении высокой точности, обусловленная различиями в компонентах из-за системы допусков при производстве, различные характеры тепловых и электромагнитных помех, искажающих полезный сигнал. Еще одной проблемой является сложность в долгосрочном хранении весовых коэффициентов и организации операций аналогового умножения. В качестве примера можно привести разработку Intel 8017NW ETANN (ElectricallyTrainableAnalogueNeuralNetworks), содержащий 64 нейрона и 10 280 весовых коэффициентов. ИНС, реализованная в продукте SynapticsSiliconRetina, обрабатывает изображение, моделируя процессы, происходящие в сетчатке глаза. Подход заключается в создании аналогового исполнения, где ИНС пытается наиболее точно воспроизвести поведение биологических нейронов. Реализованные аналоговые нейросети представляют набор компонентов, размеры которых меньше размеров биологического нейрона, и предполагается, что вышеназванные недостатки компенсируются взаимосвязями между аналоговыми нейронами.

Гибридное исполнение. Как понятно из названия, эта категория представляет собой комплекс вышерассмотренных систем. Разработчики таких проектов пытаются получить от таких систем преимущества аналогового и цифрового исполнений. По большей части это достигается путем связи между устройствами и датчиками посредством цифровой составляющей, а обработка полностью или частично реализуется аналоговыми методами. В качестве примера приведем чип Bellcore CLNN-32, который хранит весовые коэффициенты в цифровой форме, а производит моделирование ИНС, используя аналоговую схему. Существуют проекты, в которых весовые коэффициенты хранятся в конденсаторах, периодически подзаряжающихся от внутренних источников тока. Также примерами гибридных систем могут служить SU3232 Synapse и NU32 Neuron, разработанные в лабораториях NeuralSemiconductor, и RN-100, представленный Ricoh.

Ученые из UniversityofDusseldorf изучают дисфункцию в искусственных условиях замороженных мозговых клеток крыс, путем размещения их на MicroelectrodeArrays (MEAs), параллельно исследуя их реакцию на различные фармакологические препараты

Пути развития В дальнейшем развитие аппаратных средств на основе ИНС может пойти следующими путями:

1. Путем усовершенствования методов для реализации нейросетевых методов на FPGA (FieldProgrammableGateArray, ПЛИС, Программируемая Логическая Интегральная Схема), VLSI (VeryLargeScaleIntegration, СБИС, уровень интеграции, при котором количество элементов на одной микросхеме исчисляется тысячами и миллионами).

2. Благодаря исследованиям и внедрению инновационных алгоритмов построения ИНС, которые осуществимы аппаратными средствами.

3. Разработкой промышленного стандарта нейросетевых алгоритмов высокого уровня в промышленности.

Первые два пункта более-менее понятны, поясним, что подразумевается в последнем. Разработанные методы должны легко адаптироваться к нуждам промышленности, достаточно просто реализовываться. Но для этого необходимо специализированное ПО с полным набором нейросетевых функций (для цифрового, аналогового и гибридного исполнений). Немаловажно и исследование методов внедрения ИНС в уже существующие системы, создания на их основе гетерогенных систем. Вообще говоря, цепь обработки информации может начинаться с аналоговых датчиков и заканчиваться аналоговыми исполнительными устройствами, или система может быть полностью цифровой, в любом случае необходима оптимизация на уровне системы, а не отдельных ее составляющих. А согласно указанным направлениям развития, все более вероятен переход на новые технологии. Отметим, что Япония по скорости внедрения новых интеллектуальных технологий шагает далеко впереди, обогнав как страны СНГ, так и страны Европы. Особенно это хорошо заметно в области бытовой электроники, где чипы на основе нейронных сетей устанавливаются в микроволновые печи (Sharp), пылесосы, фотои видеокамеры. Приведем краткий список фирм, уже применяющих ИНС в их аппаратном исполнении: Ericsson (Англия и Швеция), PhilipsResearch (Нидерланды), Siemens AG Munich, Siemens/NixdorfBonn, 3M Laboratories (Europe) GmbHNeuss, XIONICS DocumentTechnologiesGmbHDortmund, RobertBoschGmbHReutlingen, SpectrumMicroelectronicsSiek, Fiat, DomainDynamicsLtd.

Применение Ниже приведен далеко не полный список возможных и перспективных аппаратных реализаций и сфер применения:

* Системы коммуникаций, модуляторы/демодуляторы, интеллектуальные антенны, полупроводники для применения в космической отрасли.

* Идентификация объектов, сжатие изображения, HDTV, медицинский и биометрический анализ образов, системы обработки теплового изображения, анализ материалов.

* Анализ человеческого характера, идентификация говорящего, распознавание речи, распознавание рукописного текста.

* Информационный поиск, исследовательский анализ данных, проверка качества, изучение функций, автоматический контроль и интеллектуальное управление, экономическое прогнозирование, прогнозирование потребления электричества, автоматическая проверка работоспособности VLSI и WSI.

информационный нейронный обучение персептрон

2. Практическая часть

2.1 Программная среда MATLAB

Как известно, сложные электрические цепи постоянного тока легко описываются системами линейных уравнений, составленными на основе законов Кирхгофа, — например, методами узловых потенциалов и контурных токов. Для цепей переменного тока необходимо составлять такие уравнения с комплексными элементами. А для моделирования динамических систем и устройств необходимо составлять и решать системы ДУ, чаще всего нелинейных. Матричная система MATLAB — идеальное средство для реализации такого моделирования.

Среда MATLAB, являясь мощной матричной системой, открывает обширные возможности в выполнении численного моделирования как линейных, так и нелинейных систем и устройств, описываемых большими системами уравнений. Такое моделирование предполагает решение системы уравнений состояния достаточно апробированными и хорошо известными численными методами — в том числе на основе рекуррентных и итерационных алгоритмов. Уравнения состояния реальных систем и устройств часто содержат множество нулевых коэффициентов, что порождает разреженные матрицы и массивы. Их аппарат прекрасно представлен в базовой системе MATLAB.

В настоящее время известно множество программных средств моделирования частного характера. Например, для моделирования электронных схем применяются программы схемотехнического моделирования MicroCAP, MicroLOGIC, Pspice, DesignCenter, ElectronicsWorkBench и др. Они обычно содержат обширные библиотеки полупроводниковых и схемных компонентов и представляют результаты в привычном для пользователя виде — например в виде осциллограмм их виртуальных осциллографов или показаний виртуальных вольтметров или амперметров. Однако применение таких систем носит частный и потому довольно ограниченный характер, хотя в своей области многие такие программы являются подлинным шедевром изобретательности их создателей.

Разработчики системы MATLAB+Simulink отказались от конкуренции с разработчиками подобных программ узкого назначения. Они сосредоточили свое внимание на решении куда более важной и сложной задачи — моделирования блочных динамических систем и устройств произвольного назначения. Для этого пришлось с одной стороны существенно расширить библиотеки компонентов таких систем и устройств, а с другой стороны, применить укрупненные модели ряда компонентов, благодаря чему стало возможным моделирование сложных систем и устройств.

Интерфейс среды MATLAB

Среда MATLAB является интерактивной системой для выполнения инженерных и научных расчетов, ориентированной на работу с массивами данных. Система использует математический сопроцессор и допускает возможность обращения к программам, написанным на языках Fortran, C и C++.

Среда MATLAB имеет собственный язык программирования, напоминающий BASIC, а также располагает большими возможностями для работы с сигналами, для расчета и проектирования систем связи, цифровых и аналоговых фильтров, различных вычислительных систем. Имеются в наличии и средства для спектрального анализа и синтеза, быстрого преобразования Фурье (БПФ), обработки изображений, Wavelet-анализа. Кроме этого, пользователь может ввести в систему любую новую встроенную команду, оператор или функцию.

При помощи командного окна (рис. 7.1) можно осуществлять все вычисления в режиме калькулятора. При этом можно осуществлять присвоения различным переменным значений и далее пользоваться ими в командном окне. Рабочее пространство среды является удобным средством для просмотра числовых массивов в процессе формирования и отладки вычислительных процедур (программ).

Программирование в среде MATLAB осуществляется путем создания М_файлов с расширением. m (рис. 7.2). Недостатком является отсутствие оператора безусловного перехода GO TO, однако это можно полностью возместить путем структурного программирования с обращением к различным функциям и процедурам. Кроме этого, с помощью встроенных инструментальных средств имеется возможность формировать графический пользовательский интерфейс, значительно облегчающий работу с программами, созданными в среде MATLAB, а также их отладку.

Пакет визуального моделирования Simulink (рис. 7.1) является пакетом расширения среды MATLAB и позволяет осуществлять моделирование поведения динамических линейных и нелинейных систем. Пользователь осуществляет графическую сборку любой системы из отдельных блоков, хранящихся в библиотеках Simulink (рис. 7.3). В результате такой сборки образуется модель исследуемой системы (S-модель), которая хранится в файле с расширением.mdl.

Общие замечания по моделированию систем

Испытание готовых и отлаженных демонстрационных примеров может создать у малоопытного пользователя иллюзию простоты моделирования. На самом деле в большинстве случаев это возможно только при работе достаточно опытного пользователя, реально проработавшего с тем или иным пакетом расширения не один десяток часов и способного анализировать правоту (или неправоту) своих действий.

Малоопытный пользователь, скорее всего, при переходе к моделированию своих систем или устройств, столкнется с множеством неожиданных ошибок. Наиболее характерными из них являются:

— неверное задание параметров моделей;

— нестыковка входных, выходных и управляющих параметров блоков;

— несоответствие блоков по типу;

— ошибочные записи математических выражений;

— неверный выбор метода моделирования и т. д.

Никакая, даже самая обширная фирменная документация не способна отразить все нюансы ошибочного применения системы MATLAB с её пакетами расширения. Поэтому ограничимся лишь некоторыми общими рекомендациями.

Довольно часто причиной ошибок является несоответствие типов блоков и их входных и выходных параметров. В таких случаях надо предусматривать переходные элементы. Наглядный пример — переход от тока к напряжению включением резистора 1 Ом в цепь тока.

Особенно часто нестыковка блоков наблюдается при совместном использовании блоков из разных пакетов расширения, например, из пакетов PowerSystem и Simulink. Размерные величины, используемые в пакете PowerSystemBlockset, зачастую недопустимы для блоков Simulink, использующих безразмерные величины (например, при задании функций).

По-видимому, стоит разумно ограничить применение компонентов из различных пакетов расширения. Как показывает практика, каждый из пакетов расширения имеет довольно широкую сферу применения и позволяет решать множество практически полезных задач. Совместное применение нескольких пакетов расширения системы MATLAB+Simulink требует длительной практики работы в этой системе. Наименьший риск натолкнуться на трудности моделирования имеет место при использовании пакетов расширения группы Blockset, отнесенной к сфере прямого применения с расширением Simulink.

Важным обстоятельством для пользователей MATLAB является тот факт, что система тщательно диагностирует подготовленную модель и допускает её исполнение только после устранения всех обнаруженных ошибок. Сообщения об ошибках появляются в специальных окнах системы. Они достаточно подробны и позволяют наметить меры по устранению ошибок.

Поэтому стоит отметить, что примеры имитационных моделей, приведенные в литературе и в справочной базе данных MATLAB, нуждаются не просто в просмотре, а во внимательном их изучении, а также анализе получаемых выходных результатов моделирования.

2.2 Детальное описание особенностей выполнения демонстрационного примера Для загрузки демонстрационного примера «Обучение персептрона с использованием нормированной функции настройки» достаточно ввести в Command Window команду demop5. В окне Figures появится результат работы программы — график, который пытается классифицировать линейно неразделимые вектора. График свидетельствует о неудачи классификации.

Как же работает демонстрационный пример «Обучение персептрона с использованием нормированной функции настройки»?

Персептрон обучается для классификации 5 входных векторов с помощью 2 категорий. Несмотря на то, что один входной вектор намного больше, чем другие, обучение с LEARNPN происходит быстро.

Р определяет последовательность входа для 5 векторов, а Т — последовательность цели (категорию вектора). Построим график для этих векторов с помощью функции PLOTPV.

P = [-0.5 -0.5 +0.3 -0.1 -40;…-0.5 +0.5 -0.5 +1.0 50];

T = [1 1 0 0 1];

plotpv (P, T);

Обратим внимание, что 4 входных вектора имеют намного меньшие величины, чем пятый вектор в левом верхнем углу графика. Персептрон должен правильно классифицировать 5 входных векторов P на две категории, определенные Т. NEWP создает персептрон. Первый аргумент определяет ожидаемые диапазоны из двух входов. Второй аргумент определяет, что есть только один нейрон в слое. LEARNPN менее чувствителен к большим изменениям во входных размерах вектора, чем LEARNP (по умолчанию).

net = newp ([-40 1;-1 50], 1,'hardlim','learnpn');

Добавление нейрона инициализирует попытку классификации графика.

Начальные значения равны нулю, так что любой вход даёт тот же результат и классифицирующая линия даже не появляется на графике, но это обучаемо!

holdon

linehandle = plotpc (net.IW{1}, net. b{1});

ADAPT — возвращает новый объект сети, который работает лучше как классификатор, выход сети и ошибка. Этот цикл позволяет сети адаптироваться за 3 прохода, график классифицирует линию, и продолжит, пока ошибка не будет равна 0.

E = 1;

net.adaptParam.passes = 3;

while (sse (E))

[net, Y, E] = adapt (net, P, T);

linehandle = plotpc (net.IW{1}, net. b{1}, linehandle);

drawnow;

end

Обучение с LEARNP потребовалось всего 3 прохода, а при решении той же задачи с LEARNPN необходимо 32 прохода. Таким образом, LEARNPN работает гораздо лучше, чем LEARNP когда есть значительные различия во входных размерах вектора.

Теперь SIM может быть использован для классификации любого другого вектора входа. Например, классифицировать входной вектор [0,7; 1,2]. График этой новой точки с оригинальным обучением показывает, как выполняется сеть. Чтобы отличить его от обучающего множества, его цвет красный

p = [0.7; 1.2];

a = net (p);

plotpv (p, a);

circle = findobj (gca,'type','line');

set (circle,'Color','red');

.

Подключим «hold», чтобы предыдущий график не стирался. Добавим набор обучения и классифицирующую линию на график.

hold on;

plotpv (P, T);

plotpc (net.IW{1}, net. b{1});

holdoff;

Наконец, Увеличиваем интересующую область.

Персептрон правильно классифицирует нашу новую точку (она красная) как категорию «ноль» (представленную в виде круга), и нет «один» (представленную в виде плюса). Персептрон учится правильно в гораздо более короткие сроки, несмотря на выброс (сравните с «выбросом входных векторов» демо).

axis ([-2 2 -2 2]);

2.3 Программный код

P = [ -0.5 -0.5 +0.3 -0.1 -40;… % определяет последовательность входа для 5 векторов -0.5 +0.5 -0.5 +1.0 50];

T = [1 1 0 0 1]; % определяет последовательность цели (категорию вектора)

plotpv (P, T); % графическое представление входных целевых векторов

net = newp ([-40 1;-1 50], 1,'hardlim','learnpn');

hold on

linehandle = plotpc (net.IW{1}, net. b{1});

E = 1;

net.adaptParam.passes = 3; % разрешает адаптацию сети

while (sse (E))

[net, Y, E] = adapt (net, P, T);

linehandle = plotpc (net.IW{1}, net. b{1}, linehandle);

drawnow;

end

p = [0.7; 1.2];

a = net (p);

plotpv (p, a);

circle = findobj (gca,'type','line');

set (circle,'Color','red');

hold on;

plotpv (P, T);

plotpc (net.IW{1}, net. b{1}); % изображение линии классификации в векторном пространстве перцептрона

holdoff;

axis ([-2 2 -2 2]); % устанавливает масштаб по осям x, y для активного графического окна.

Заключение

В ходе работы была достигнута цель выполнения курсового проекта — расширение теоретических и закрепление практических знаний, полученных в ходе аудиторных и самостоятельных занятий по дисциплине Интеллектуальные информационные системы.

Для достижения поставленной цели были решены следующие задачи:

· самостоятельно изучена специальная литература;

· изучены встроенные инструментальные средства системы для математических расчетов MATLAB;

· рассмотрены возможности и особенности базового программного обеспечения из состава ППП NeuralNetworkToolbox (NNT) ПС MATLAB 6.

1. Мартынов Н. Н.

Введение

в MATLAB 6.х. — М.: Кудиц-образ, 2002. — 347 с.

2. Минский, М., Пейперт, С. Персептроны. — М.: Мир, 2007. — 261 с.

3. Семенов Н. А. Интеллектуальные информационные системы: Учебное пособие. 1-е изд. Тверь: ТГТУ, 2004. 100 с.

4. Цисарь И. Ф. MATLAB SIMULINK — лаборатория экономиста. — М.:Анкил, 2001. — 102 с.

5. Медведев В. С., Потемкин В. Г. Нейронные сети. MATLAB 6. — М.: Диалог-МИФИ, 2002. — 489 с.

6. Галушкин А. И. Теория нейронных сетей. — М.: Журн. «Радиотехника», 2000. — 415 с.

7. Каллан Р. Основные концепции нейронных сетей. — М. И др.: Вильямс, 2001. — 287 с.

8. Круглов В. В. Искусственные нейронные сети: Теория и практика. — М.: Горячая линия-Телеком, 2002. — 381 с.