Помощь в написании студенческих работ
Антистрессовый сервис

Эволюционные алгоритмы формирования коллективов нейронных сетей для решения задач моделирования и прогнозирования

Диссертация: Эволюционные алгоритмы формирования коллективов нейронных сетей для решения задач моделирования и прогнозирования
ДиссертацияПомощь в написанииУзнать стоимостьмоей работы

Апробация. Результаты диссертационной работы были доложены и обсуждены на следующих научно-практических конференциях: Всемирный конгресс по вычислительному интеллекту (IEEE World Congress on Computational Intelligence (WCCI'2010), г. Барселона, Испания, 2010) — XII Национальная конференция по искусственному интеллекту с международным участием КИИ-2010 (г. Тверь, 2010) — I Всероссийская научная… Читать ещё >

Эволюционные алгоритмы формирования коллективов нейронных сетей для решения задач моделирования и прогнозирования (реферат, курсовая, диплом, контрольная)

Содержание

  • ГЛАВА 1. Разработка и исследование вероятностного эволюционного метода проектирования структуры нейронных сетей
    • 1. 1. Основные понятия теории искусственных нейронных сетей
    • 1. 2. Эволюционные алгоритмы обучения нейронных сетей
    • 1. 3. Экспериментальное исследование эффективности эволюционных алгоритмов
    • 1. 4. Методы проектирования структур нейронных сетей
    • 1. 5. Вероятностный эволюционный метод проектирования структур нейронных сетей
    • 1. 6. Экспериментальное исследование эффективности методов проектирования структур нейронных сетей
  • Выводы
  • ГЛАВА 2. Разработка и исследование гибридного алгоритма генетического программирования для задач символьной регрессии
    • 2. 1. Метод генетического программирования для задачи символьной регрессии
    • 2. 2. Метод генетического программирования с эволюционными алгоритмами настройки параметров модели
    • 2. 3. Разработка гибридного алгоритма генетического программирования для задач символьной регрессии
    • 2. 4. Экспериментальное исследование методов генетического программирования
  • Выводы
  • ГЛАВА 3. Разработка и исследование эволюционного метода формирования коллективов нейронных сетей
    • 3. 1. Коллективы нейронных сетей
    • 3. 2. Разработка эволюционного метода формирования коллективов нейронных сетей
    • 3. 3. Исследование эффективности методов формирования коллективов нейронных сетей
  • Выводы
  • ГЛАВА 4. Практическая реализация разработанных методов
    • 4. 1. Программная система для исследования эволюционных алгоритмов оптимизации
    • 4. 2. Программная система «IT-PEGAS» для интеллектуального анализа данных
    • 4. 3. Решение практических задач разработанными методами
  • Выводы

В настоящее время интенсивность использования интеллектуальных информационных технологий (ИИТ) возрастает во многих отраслях человеческой деятельности. Этому способствуют не только расширяющиеся вычислительные мощности, которые могут быть использованы для решения насущных практических задач, но и сама суть ИИТ, выражающаяся в способности систем, основанных на их использовании, эффективно решать широкий спектр задач. В этой связи можно говорить, что рост заинтересованности в использовании интеллектуальных технологий анализа данных не в последнюю очередь связан с их способностью к интенсификации процессов обработки информации.

Уже сейчас очевидно, что одним из основных направлений дальнейшего развития систем на основе ИИТ, помимо совершенствования и использования лишь одной из таких технологий, является совместное использование в рамках одной системы нескольких ИИТ, что, порой, позволяет получить качественные улучшения характеристик системы в целом.

Можно выделить два способа совместного использования нескольких ИИТ в рамках одной системы, решающей конкретную прикладную задачу. Первый способ — это совместное параллельное использование нескольких интеллектуальных технологий для выработки общего решения задачи. Примером такого объединения может служить коллектив искусственных нейронных сетей. Существенным представляется вопрос о выборе способа выработки общего решения задачи в таких объединениях.

Вторым способом объединения ИИТ в рамках одной системы является использование одних технологий для автоматического проектирования других. Потребность в таком объединении может быть обоснованна как необходимостью повышения эффективности проектирования ИИТ, так и стремлением к автоматизации процесса проектирования систем на основе ИИТ. Последний аргумент представляется особенно важным ввиду все более возрастающих масштабов систем, использующих ИИТ и жесткости ограничений на временные и человеческие ресурсы, характерные для современного состояния большинства отраслей технической деятельности. Одним из примеров такого объединения ИИТ может служить использование эволюционных алгоритмов для проектирования и обучения нейронных сетей.

Объединение в одной системе обоих способов совместного использования ИИТ позволило бы существенно повысить качество решений, получаемых с помощью такой системы, при минимизации требований к дорогостоящим ресурсам, необходимым для ее проектирования, за счет интенсификации и автоматизации процессов генерации технологий. В конечном счете, использование для интеллектуального анализа данных таких объединений ИИТ способно существенно повысить эффективность решения прикладных задач во многих отраслях человеческой деятельности, а следовательно, создание методов проектирования коллективов ИИТ является актуальной научно-технической задачей.

Целью диссертационной работы является повышение эффективности использования нейронных сетей при решении задач моделирования и прогнозирования за счет совершенствования процедуры синтеза структур нейронных сетей и разработки эффективных методов объединения нейронных сетей — в коллектив на основе эволюционных алгоритмов.

Достижение поставленной цели работы предполагает решение следующей совокупности задач:

1. Проведение сравнительного исследования методов обучения нейронных сетей на основе эволюционных алгоритмов.

2. Анализ существующих методов проектирования искусственных нейронных сетей. Программная реализация основных эволюционных методов проектирования структур нейронных сетей и исследование эффективности их применения на наборе тестовых задач.

3. Разработка нового метода проектирования структур искусственных нейронных сетей и сравнение разработанного метода с другими методами проектирования нейронных сетей на тестовых задачах.

4. Анализ существующих методов проектирования коллективов искусственных нейронных сетей.

5. Разработка гибридного алгоритма генетического программирования, сочетающего в себе стандартный метод генетического программирования и локальный поиск на структуре дерева.

6. Разработка нового метода формирования коллективов искусственных нейронных сетей на основе метода гибридного генетического программирования.

7. Сравнительное исследование разработанного метода и других методов формирования коллективов нейронных сетей на наборе тестовых е задач. 4.

8. Апробация на практических задачах в рамках единого эволюционного подхода разработанных методов проектирования нейронных сетей и методов их объединения в коллектив.

Методы исследования. При выполнении диссертационной работы использовались методы теории обработки информации, системного анализа, теории вероятности и математической статистики, теории оптимизации,^ методики разработки интеллектуальных информационных систем.

Научная новизна результатов диссертационной работы состоит в следующем:

1. Предложен новый вероятностный эволюционный метод проектирования структур искусственных нейронных сетей, отличающийся от известных меньшим числом настраиваемых параметров и уменьшением числа операций кодирования-декодирования структуры нейросетевых моделей, связанных с бинаризацией.

2. Предложен новый гибридный алгоритм генетического программирования, отличающийся от стандартного наличием процедуры локального поиска на структуре дерева и позволяющий достичь более высокой точности построения регрессионных моделей.

3. Предложен новый метод формирования коллективов нейронных сетей на основе операторов разработанного метода гибридного генетического программирования, отличающийся от известных возможностью автоматического выбора способа формирования коллективного решения и позволяющий достичь более высокой эффективности при решении задач моделирования и прогнозирования.

Теоретическая значимость результатов диссертационного исследования состоит в том, что разработаны новые эволюционные алгоритмы для автоматического проектирования искусственных нейронных сетей и их коллективов, предназначенных для решения задач моделирования и прогнозирования, обладающие более высокой эффективностью и адаптивностью, что имеет существенное значение для теории интеллектуальных технологий представления знаний и практики их применения в системах обработки информации и интеллектуального анализа данных.

Практическая значимость. На основе предложенных алгоритмов разработаны современные программные системы, которые позволяют в рамках единого комплексного эволюционного подхода осуществлять проектирование коллективов нейронных сетей для решения задач моделирования и прогнозирования. Полученные в диссертационной работе рекомендации по настройке параметров эволюционных алгоритмов проектирования коллективов нейронных сетей позволяют конечным пользователям, не владеющим аппаратом эволюционной оптимизации и нейросетевого моделирования, используя разработанные программные системы решать сложные задачи, возникающие в реальной практике.

В целом предложенный в работе подход и разработанные алгоритмы могут быть использованы в системах обработки информации и системах интеллектуального анализа данных, а также в системах поддержки принятия решений различного назначения.

Реализация результатов работы.

Разработанные программные системы были использованы в качестве лабораторной установки для обучения студентов, Сибирского государственного аэрокосмического университета по дисциплине «Интеллектуальные технологии и представление знаний».

Разработанные методы применялись во время стажировки в Высшей технической школе г. Ульм (Hochschule Ulm), Германия, в 2008 году в ходе выполнения практической работы по созданию системы прогнозирования скорости и объема потока жидкости в открытых каналах для предупреждения чрезвычайных ситуаций.

Диссертационная работа поддержана Фондом содействия развитию малых форм предприятий в научно-технической сфере по программе «У.М.Н.И.К.» («Участник молодежного научно-инновационного конкурса») в рамках НИОКР «Разработка коэволюционного вероятностного алгоритма для автоматизированного проектирования интеллектуальных информационных технологий» на 2008;2011 гг. Работа финансировалась из средств госбюджета в рамках НИР Б 1.01.05 «Разработка и исследование бионических методов идентификации и оптимизации — сложных систем» ЕЗН СибГАУ, а также в рамках выполнения проекта «Система поддержки принятия решения при проектировании интегрированных систем безопасности», ставшего победителем конкурса инновационных проектов СибГАУ на 2007;2008 гг.

Диссертационное исследование проводилось также в рамках НИР № 2.1.1./2710 «Математическое моделирование инвестиционного развития региональных экономических систем» АВЦП «Развитие научного потенциала высшей школы (2009;2010 годы)» и НИР НК-136П/3 «Автоматизированная система решения сложных задач глобальной оптимизации многоагентными стохастическими алгоритмами» ФЦП.

Научные и научно-педагогические кадры инновационной России" на 20 092 013 годы.

Созданные в ходе работы над диссертацией программные системы зарегистрированы в Федеральной службе по интеллектуальной собственности, патентам и товарным знакам Российской Федерации (Свидетельства о государственной регистрации программы для ЭВМ №№ 2 010 610 862, 2 010 613 317, 2 010 613 617).

Основные защищаемые положения:

1. Разработанный вероятностный эволюционный метод проектирования структур нейронных сетей не менее эффективен, чем метод, использующий генетический алгоритм с локальным поиском для настройки структуры нейронной сети.

2. Разработанный гибридный метод генетического программирования позволяет более эффективно решать задачи символьной регрессии по сравнению с каноническим методом генетического программирования.

3. разработанный эволюционный подход к проектированию коллективов нейронных сетей позволяет повысить эффективность применения коллективного нейросетевого подхода при решении задач моделирования и прогнозирования по сравнению с другими методами.

Апробация. Результаты диссертационной работы были доложены и обсуждены на следующих научно-практических конференциях: Всемирный конгресс по вычислительному интеллекту (IEEE World Congress on Computational Intelligence (WCCI'2010), г. Барселона, Испания, 2010) — XII Национальная конференция по искусственному интеллекту с международным участием КИИ-2010 (г. Тверь, 2010) — I Всероссийская научная конференции «Теория и практика системного анализа» (г. Рыбинск, Институт системного анализа РАН и РГАТА, 2010) — конференция-конкурс «Технологии Microsoft в теории и практике программирования» (г. Томск, ТПУ, 2010, г. Новосибирск, НГУ, 2008) — Международные научнопрактические конференции «Решетневские чтения» (г. Красноярск, СибГАУ, 2006;2009), Всероссийская научно-практическая конференция студентов, аспирантов и молодых специалистов «Актуальные проблемы авиации и космонавтики», (г. Красноярск, СибГАУ, 2006;2009 гг.) и также на ряде молодежных и студенческих конференций.

Публикации. По теме диссертации опубликовано 23 работы, из них 3 статьи в изданиях из перечня ВАК, 3 программные системы зарегистрированы федеральной службе по интеллектуальной собственности, патентам и товарным знакам Российской Федерации («Роспатент»).

Структура работы. Диссертация состоит из введения, четырех глав, заключения, списка литературы из 95 наименований и содержит 168 страниц основного текста, 28 таблиц, 57 рисунков и 6 приложений.

Выводы.

С помощью реализованных программных систем было доказано, что разработанные алгоритмы и методы позволяют эффективно решать задачи моделирования и прогнозирования. Разработанные методы сделали возможным существенно повысить эффективность решения рассмотренных практических задач, их реализация в программных системах анализа данных является позитивным шагом в направлении разработки и реализации востребованных методов автоматического проектирования интеллектуальных информационных технологий, в частности, проектирования нейронных сетей.

Реализованный в программной системе «IT-PEGAS» комплексный эволюционный подход к проектированию коллективов ИНС позволил на четверть (25%) снизить ошибку в расчетах оценки предела прочности железобетонных изделий по сравнению с другими рассмотренными методами.

В задаче прогнозирования содержания углекислого газа на выходе газовой печи предлагаемый в работе подход позволил построить прогностическую модель, которая по точности как минимум на 20% превосходит другие модели различных авторов, исследования которых доступны в научной литературе и были проанализированы.

В целом, подход позволяет достаточно точно прогнозировать состояние газовой печи, характеризуемое концентрацией углекислого газа на ее выходе, и может быть рекомендован для решения других подобных задач.

Разработанный комплексный эволюционный подход обладает большим числом степеней свободы по наращиванию интенсивности использования вычислительных ресурсов за счет использования нескольких эффективно взаимодействующих интеллектуальных технологий. Исследования на практических задачах показали, что это позволяет успешно применять его в тех случаях, когда другие методы достигли предела своей эффективности и наращивание вычислительных мощностей не позволяет достичь улучшения решения задачи.

В целом можно говорить о том, что разработанные программные системы способны решать реальные практические задачи, а повышение эффективности решения задач обеспечивается за счет реализации в них предложенных методов автоматического проектирования отдельных нейронных сетей, коллективов ИНС, а так же методов решения задач символьной регрессии.

Заключение

.

В диссертационной работе получены следующие результаты:

1. Разработан новый вероятностный эволюционный метод для автоматического проектирования структуры нейронных сетей, который отличается от известных эволюционных методов меньшим числом" настраиваемых параметров за счет использования оригинальных процедур генерирования новых решений и уменьшением числа операций кодирования-декодирования структуры нейронных сетей.

2. Разработан гибридный метод генетического программирования, использующий совместно со стандартными операторами генетического программирования предложенную автором процедуру локального поиска на структуре решения.

3. Разработан новый метод формирования коллективов нейронных сетей, в котором реализованы разработанные автором методыавтоматического выбора способа формирования коллективного решения и отбора нейронных сетей.

4. Проведен сравнительный анализ эволюционных алгоритмов обучения нейронных сетей на множестве тестовых задач. Анализ результатов" проведенных исследований позволил выявить алгоритмы, наиболее эффективные в среднем на множестве задач, и разработать рекомендации по значениям параметров эволюционных алгоритмов для использования в дальнейшем в исследованиях.

5. Проведены сравнительные исследования разработанного вероятностного метода формирования структуры нейронных сетей и широко распространенного метода, основанного на использовании генетического алгоритма для настройки структуры нейронных сетей. Показано, что предлагаемый метод не менее эффективен, чем конкурирующий эволюционный подход, при этом он имеет меньшее число настраиваемых параметров, что облегчает его адаптацию при решении конкретной задачи. Кроме того, разработанный метод позволяет несколько сократить использование вычислительных ресурсов за счет устранения необходимости кодирования-декодирования решений в бинарные строки.

6. Проведено сравнительное исследование разработанного гибридного алгоритма генетического программирования и стандартного метода генетического программирования. Анализ результатов исследования показал, что разработанный метод оказывается более эффективным, чем стандартный, на всем множестве задач, которые использовались для проведения статистических исследований.

7. Проведен сравнительный анализ разработанного метода и других распространенных методов проектирования коллективов ИНС, в результате которого было показано, что на всех тестовых задачах эффективность предлагаемого метода не ниже, чем «эффективность других методов. В среднем, на большинстве тестовых задач, предлагаемый метод превосходит другие методы по эффективности не менее чем на 20%.

8. Разработаны и апробированы программные системы, реализующие описанные в работе алгоритмы и методы.

9. С помощью разработанных программных систем успешно решены реальные практические задачи.

Таким образом, в диссертации разработаны, исследованы и апробированы новые эволюционные алгоритмы для автоматического проектирования искусственных нейронных сетей и их коллективов, предназначенных для решения задач моделирования и прогнозирования, обладающие более высокой эффективностью и адаптивностью, что имеет существенное значение для теории интеллектуальных технологий представления знаний и практики их применения в системах обработки информации и системах интеллектуального анализа данных.

Показать весь текст

Список литературы

  1. , А.Я. Программирование в С++ Builder 6 и 2006 / А .Я.
  2. , М. А. Тагин М.: Бином-Пресс, 2007. — 1184 с.
  3. , Б. Просто и ясно о Borland С++ / Б. Бабэ М.: БИНОМ, 1994. -400 с.
  4. , А.Б. Нейронные сети: распознавание, управление, принятие решений / А. Б. Барский — М.: Финансы и статистика, 2004. — 176 с.
  5. , С.С. Разработка и исследование гибридного эволюционного алгоритма для решения сложных задач оптимизации / С. С. Бежитский // Вестник университетского комплекса. Сборник научных трудов. Выпуск 1(15), 2004. С.166−173.
  6. , Дж. Анализ временных рядов, прогноз и управление. В 2-х т.: Пер. с английского / Г. М. Дженкинс, Дж. Бокс М.: Издательство «Мир», 1974.-608 с.
  7. , В.В. Вероятностный метод формирования структуры нейронных сетей /В.В. Бухтояров // Теория и практика системного анализа: Труды I Всероссийской научной конференции молодых ученых. Т. I. -Рыбинск: РГАТА, 2010. — С. 121−127.
  8. , В.В. Автоматизированное генерирование интеллектуальных информационных технологий на основе самонастраивающихся эволюционных алгоритмов / В. В. Бухтояров, Р. Б. Сергиенко // Технологии
  9. Microsoft в теории и практике программирования. Конференция-конкурс работ студентов, аспирантов и молодых учёных. — Новосибирск: НГУ, 2008.—С. 167−169.
  10. , В.В. Гибридный метод генетического программирования / В. В. Бухтояров // Актуальные проблемы экономики, информатики и права: сб. научн. тр. VIII межвузовской научно-практической конференции. Красноярск: МГУ ЭСИ, 2008.
  11. , Дж. Возможности вычислительных машин и человеческий разум. От суждений к вычислениям. Пер. с англ. / Дж. Вейценбаум М.: Радио и связь, 1982 г. 368 с.
  12. , А.Ю. Адаптивные эволюционные алгоритмы решения сложных задач оптимизации: дисс.. канд. техн. наук / А. Ю. Ворожейкин. Красноярск: СибГАУ 2008 — 177 с.
  13. , А.И. Нейрокомпьютеры и их применение.: Учеб. пособие для вузов / Общая редакция А. И. Галушкина. М.: ИПРЖР, 2000.
  14. , O.E. Экспертная система рудно-термической плавки: дис.. канд. техн. наук / O.E. Гонебная. Красноярск: ГУЦМиЗ, 2004. — 136 с.
  15. , A.A. Нейрокомпьютинг и его применения в экономике и безнесе/ A.A. Ежов, С. А. Шумский. -М.: 1998.
  16. , М.Н. Коэволюционный алгоритм решения сложных задач оптимизации: дисс.. канд. техн. наук / М. Н. Жукова. Красноярск: СибГАУ 2004- 126 с.
  17. Каллан, Роберт Основные концепции нейронных сетей.: Пер. с английского / Роберт Каллан. М.: Издательство «Вильяме», 2001. — 287с.
  18. , Л.Г. Нейрокомпьютеры: Учеб. пособие для вузов./ Л. Г. Комарцова, А. В Максимов. 2-е изд. — М.: Изд-во МГТУ имени Н. Э. Баумана, 2004. — 400 с.
  19. , В.И. Нейронные сети и их применение в системах управления и связи / В. И. Комашинский, Д. А. Смирнов. — М.: Горячая линия -Телеком, 2003. 94 с.
  20. Кругл ob, B.B. Искусственные нейронные сети. Теория и практика. 2-е изд. / В. В. Борисов, В. В. Круглов. — М: Горячая линия-Телеком, 2002. — 382 с.
  21. , Л.В. Алгоритмы генетического программирования для формирования интеллектуальных информационных технологий: дис. канд. техн. наук /Л.В. Липинский Красноярск, 2006 — 168 с.
  22. Мак-Каллок, У. С. Логическое исчисление идей, относящихся к нервной активности / У.С. Мак-Каллок, В. Питтс // В сб.: «Автоматы» под ред. К. Э. Шеннона и Дж. Маккарти. — М.: Изд-во иностр. лит., 1956. С.363−384.
  23. , Е.М. Нейроинформатика: учеб. пособие / Е. М. Миркес. -Красноярск: ИПЦКГТУ, 2002.
  24. , С. Нейронные сети для обработки информации: Пер. с польского И. Д. Рудинского / С. Осовский. М.: Финансы и статистика, 2002. -344 с.
  25. , Ф. Принципы нейродинамики: Перцептроны и теория механизмов мозга / Ф. Розенблатт — М.: Мир, 1965. — 480 с.
  26. , А.И. Методы оптимизации: учеб. пособие / А. И. Рубан. -Красноярск: НИИ ИЛУ, 2001. 528 с.
  27. , Д. Нейронные сети, генетические алгоритмы и нечеткие системы: Пер. с польского И. Д. Рудинского / М. Пилинский, Д. Рутковская, JI. Рутковский. — М.: Горячая линия-Телеком, 2006. — 452 с.
  28. , Е.С. Адаптивные поисковые методы оптимизации сложных систем / Е. С. Семёнкин, О. Э. Семёнкина, С. П. Коробейников. -Красноярск: СИБУП, 1997.-355 с.
  29. , Е.С. Вероятностные эволюционные алгоритмы оптимизации сложных систем / Е. С. Семёнкин, Е. А. Сопов // Труды Международных научно-практических конференций AIS'05/CAD-2005. M.: Физматлит, 2005. — С. 77−78.
  30. , Р.Б. Генетический алгоритм решения сложных задач оптимизации / Р. Б. Сергиенко, Е. С. Семенкин // Вестник Сибирского государственного аэрокосмического университета имени академика М. Ф. Решентнева. № 2 (23). — 2009. — С. 17−21.
  31. , Е.А. Разработка и исследование вероятностных эволюционных алгоритмов для моделирования и оптимизации сложных систем: дисс. магистра / Е. А. Сопов — Красноярск: СибГАУ 2004 — 117 с.
  32. , Е.А. Вероятностный генетический алгоритм с прогнозированием сходимости / Е. А. Сопов // Вестник университетского комплекса. Красноярск: ВСФ РГУИТП, НИИ СУВПТ, 2004. — Вып. 1 (15). -С. 219−227.
  33. Хайкин, Саймон Нейронные сети: полный курс, 2-е издание.: Пер. с англ. / Саймон Хайкин — М.: Издательский дом «Вильяме», 2006. — 1104с.
  34. , У.Р. Конструкция мозга. Происхождение адаптивного поведения/ У. Р. Эшби. М.: ИЛ, 1962. — 397 с.
  35. , Г. А. Нечеткие множества и нейронные сети: Учеб. пособие. / Г. Э. Яхъева. М.: БИНОМ. Лаборатория знаний, 2006. — 316 с.
  36. Alcock, R.J. Time-Series Similarity Queries Employing a Feature-Based Approach / R.J. Alcock, Y. Manolopoulos // 7th Hellenic Conference on Informatics. August 27−29. Ioannina, Greece 1999.
  37. , P.J. «An evolutionary algorithm that constructs recurrent neural networks»/ P.J. Angeline, J.B. Pollack, G.M. Sauders // IEEE Trans. Neural Networks, vol. 5, Jan. 1994. pp. 54−65.
  38. Asuncion, A. UCI Machine Learning Repository: http://www.ics.uci.edu/~mleam/MLRepository.html. / A. Asuncion, D.J. Newman // Irvine, CA: University of California, School of Information and Computer Science.
  39. , P. «Training a neural network with a genetic algorithm» / P. Bartlett, T. Downs // Dep. Elect. Eng., Univ. Queensland, Australia, Tech. Rep., Jan. 1990.
  40. , R.K. «Evolving networks: Using genetic algorithm with connectionist learning» / R.K. Belew, J. Mclnerney, N.N. Schraudolph, // Comput. Sci. Eng. Dep. (C-014), Univ. of California, San Diego, Tech. Rep. CS90−174 (revised), Feb. 1991.
  41. Box, G.E.P. Time Series Analysis, Forecasting and Control / G.E.P. Box. Holden Day, San Francisco, 1970.
  42. Breiman, L. Bagging predictors / L. Breiman // Machine Learning 24 (2) (1996) pp.123−140.
  43. Cherkauer, K.J. Human expert level performance on a scientific image analysis task by a system using combined artificial neural networks / K.J.
  44. Cherkauer // in: Proc. AAAI-96 Workshop on Integrating Multiple Learned Models for Improving and Scaling Machine Learning Algorithms, Portland, OR, AAA! Press, MenloPark, CA, 1996, pp.15−21.
  45. , S.E. «The cascade-correlation learning architecture» // S.E. Fahlman, C. Lebiere // Advances in Neural Information Processing Systems, 1990, vol. 2, pp. 524−532.
  46. , S.S. «Glove-talk: A neural network interface between a data-glove and a speech synthesizer» /S.S. Fels, G.E. Hinton // IEEE Trans. Neural • Networks, vol. 4, Jan. 1993. pp. 2−8.
  47. Goldberg, D.E. Genetic algorithms in search, optimization and machine learning Text. / D.E. Goldberg. Reading, MA: Addison-Wesley, 1989.
  48. Gutta, S. Face recognition using hybrid classifier systems / S. Gutta, H. Wechsler // in: Proc. ICNN-96, Washington, DC, IEEE Computer Society Press, Los Alamitos, CA, 1996, pp. 1017−1022.
  49. Hampshire, J. A novel objective function for improved phoneme recognition using time-delay neural networks / J. Hampshire, A. Waibel // IEEE Transactions on Neural Networks 1 (2) (1990) pp. 216−228.
  50. Hansen, L.K. Neural network ensembles / L.K. Hansen, P. Salamon IEEE Trans. Pattern Analysis and Machine Intelligence 12 (10) (1990) pp.9 931 001.
  51. , B. «Optimal brain surgeon and general network pruning» / B. Hassibi, D.G. Stork, G.J. Wolff // IEEE International Conference on Neural Networks, 1992, vol. 1, p. 293−299.
  52. Hauptmann, W. A neural net topology for bidirectional fuzzy-neuro transformation / W.A. Hauptmann // Proceedings of the IEEE International Conference on Fuzzy Systems (1995) pp. 1511—1518.
  53. Holland, J.H. Adaptation in natural and artificial systems / J.H. Holland Ann Arbor. MI: University of Michigan Press, 1975.58. http.7/archive.ics.uci.edu/ml/datasets/Concrete+Compressive+Strength
  54. I-Cheng, Yeh «Modeling of strength of high performance concrete' using artificial neural networks» / Yeh I-Cheng // Cement and Concrete Research, Vol. 28, No. 12, 1998. pp. 1797−1808.
  55. Jimenez, D. Dynamically weighted ensemble neural networks for classification / D. Jimenez // in: Proc. IJCNN-98,vol.l, Anchorage, AK, IEEE Computer Society Press, Los Alamitos, CA, 1998. pp. 753−756.
  56. , H. «Designing neural networks using genetic algorithms with graph generation system»/ H. Kitano // Complex Syst, vol. 4, no. 4, 1990. pp. 461−476.
  57. , S. «Handwritten digit recognition by neural networks with single-layer training» I G. Dreyfus, S. Knerr, L. Personnaz I I IEEE Trans. Neural Networks, vol. 3, Nov. 1992. pp. 962−968.
  58. Koza, John R. Genetic programming tutorial. URL: http://www.genetic-programming.com/gpanimatedtutorial.html.
  59. Koza, John R. The Genetic Programming Paradigm: Genetically Breeding Populations of Computer Programs to Solve Problems / John R. Koza. -Cambridge, MA: MIT Press, 1992.
  60. Lang, K.J., A time-delay neural network architecture for isolated word recognition in Neural Networks / G.E. Hinton, K.J. Lang, A.H. Waibel // vol. 3, no. 1, 1990. pp. 33−43.
  61. Lee, S.-W. «Off-line recognition of totally unconstrained handwritten numerals using multilayer cluster neural network» / S.-W. Lee // IEEE Trans. Pattern Anal. Machine Intell., vol. 18, June 1996. pp. 648−652.
  62. Lee, T.-C «A multilayer feed-forward neural network with dynamically adjustable structures» / T.-C Lee, A.M. Peterson, J. J-C. Tsai // IEEE International Conference on Systems, Man and Cybernetics, 1990, p. 367−369.
  63. Lee, Y.-C., A combined approach to fuzzy model identification / Y.-C. Lee, E. Hwang, Y.-P. Shih // IEEE Transactions on Systems, Man and Cybernetics 24 (1994) pp. 736−744.
  64. Leung, K. Data mining using grammar based genetic programming and applications / K. Leung, M. Wong. New York: Kluwer Academic Publisher, 2002.-213 pp.
  65. Lin, Y. A new approach to fuzzy-neural system modeling / G.A. Cunningham, Y. A. Lin // IEEE Transactions on Fuzzy Systems 3 (1995) 190−197.
  66. Maclin, R. Combining the predictions of multiple classifiers: using competitive learning to initialize neural networks / R. Maclin, J.W. Shavlik // in: Proc. IJCAI-95, Montreal, Canada, Morgan Kaufmann, San Mateo, CA, 1995, pp. 524−530.
  67. , G.F. «Designing neural networks using genetic algorithms»/ S.U. Hegde, G.F. Miller, P.M. Todd // in Proc. 3rd Int. Conf. Genetic Algorithms and Their Applications, J. D. Schaffer, Ed. San Mateo, CA: Morgan Kaufmann, 1989, pp. 379−384.
  68. , J.E. «Smoothing regularizers for projective basis function networks» / J.E. Moody, T. Rognvaldsson // Advances in Neural Information Processing Systems, 1997, vol. 9, pp. 585−591.
  69. Nie, J. Constructing fuzzy model by self-organising counter propagation network / J. Nie // IEEE Transactions on Systems Man and Cybernetics 25 (1995) pp. 963−970.
  70. Opitz, D.W. Actively searching for an effective neural network ensemble / D.W. Opitz, J.W. Shavlik // Connection Science 8 (3−4) (1996) pp. 337 353.
  71. Pedtycz, W. An identification algorithm in fuzzy relational systems / W. Pedtycz // Fuzzy Sets and Systems 13 (1984) pp. 153−167.
  72. Perrone, M.P. L.N. Cooper, When networks disagree: ensemble method for neural networks / M.P. Perrone // in: R.J. Mammone (Ed.), Artificial Neural Networks for Speech and Vision, Chapman & Hall, New York, 1993, pp.126−142.
  73. , D.L. «New learning algorithm for training multilayered*neural networks that uses genetic-algorithm techniques» / D.L. Prados // Electron. Lett., vol. 28, July 1992. pp. 1560−1561.
  74. , D.L. «Training multilayered neural networks by replacing the least fit hidden neurons» / D.L. Prados // in Proc. IEEE SOUTHEASTCON' 92, vol. 2, pp. 634−637.
  75. Schapire, R.E. The strength of weak learnability / R.E. Schapire // Machine Learning 5 (2) (1990) pp. 197−227.
  76. Shimshoni, Y. Classification of seismic signals by integratingtensembles of neural networks / N. Intrator, Y. Shimshoni // IEEE Trans. Signal Processing 46 (5) (1998) pp. 1194−1201.
  77. Sugeno, M. A fuzzy-logic approach to qualitative modeling / M. Sugeno, T. Takagi // IEEE Transactions on Fuzzy Systems 1 (1993) 7−31.
  78. Sugeno, M. Linguistic modelling based on numerical data / M. Sugeno, T. Takagi // Proceedings of the IFSA91, 1991.
  79. Surmann, H. Self-organising and genetic algorithm for an automatic design of fuzzy control and decision systems / A. Kanstein, K. Goser, H. Surmann / Proceedings of the FUFITs93 (1993) pp. 1079−1104.
  80. , R.S. «Two problems with backpropagation and other steepest-descent learning procedures for networks» / R. S Sutton. // in Proc. 8th Annual Conf. Cognitive Science Society. Hillsdale, NJ: Erlbaum, 1986, pp. 823−831.
  81. Tong, R.M. The evaluation of fuzzy models derived from experimental data / R.M. Tong // Fuzzy Sets and Systems 4 (1980) pp. 1−12.
  82. , A.S. «Generalization by weight-elimination with aplication to forecasting» / B.A. Huberman, D.E. Rumelhart, A.S. Weigend // Advances in Neural Information Processing Systems, 1991, vol. 3, pp. 875−882.
  83. , D. «Genetic algorithms and neural networks: Optimizing connections and connectivity» / C. Bogart, T. Starkweather, D. Whitley // Parallel Comput., vol. 14, no. 3, 1990. pp. 347−361.
  84. Xin, Yao. Evolving Artificial Neural Networks / Yao Xin // Proceedings of the IEEE, vol. 87, No 9, September 1999.
  85. Xu, C.W. Fuzzy model identification and self-learning for dynamic systems / Y.Z. Lu, C.W. Xu // IEEE Transactions on Systems, Man and Cybernetics 17 (1987) pp. 683−689.
  86. Yao, X. Making use of population information in evolutionary artificial neural networks / Y. Liu, X. Yao // IEEE Transactions on Systems, Man and Cybernetics Part B: Cybernetics 28 (3) (1998) pp. 417−425.
  87. Zhi-Hua, Zhou. Combining Regression Estimators: GA-based Selective Neural Network Ensemble / Wu Jianxin, Tang Wei, Zhou Zhi-Hua // International Journal of Computational Intelligence and Applications, vol. 1, Number 4, December 2001, pp. 341−356
  88. Bukhtoyarov, V. Comprehensive evolutionary approach for neural network ensemble automatic design / V. Bukhtoyarov, O. Semenkina // Proceedings of the IEEE World Congress on Computational Intelligence, Barcelona, Spain, 2010. Pp. 1640−1645.
  89. , В.В. Разработка комплексного эволюционного подхода для проектирования коллективов нейронных сетей для задач моделирования / В. В. Бухтояров // Труды Международных научно-практических конференций AIS’lO/CAD-2010. M.: Физматлит, 2010
  90. Здесь и далее знаком (*) обозначены публикации ы изданиях из перечня ВАК.179
  91. Бухтояров, В. В- Вероятностный метод формирования: структуры, нейронных сетей / В. В. Бухтояров // Теория и практика системного анализа: Труды I Всероссийской научной конференции молодых ученых. — Т. I. Рыбинск: PI ATA. 2010. С. 1(А27.
  92. , В.В. Разработка комплексного эволюционного- подхода для проектирования коллективов нейронных сетей / В. В. Бухтояров // Технологии Microsoft в теории и практике программирования:. Конференция-конкурс. — Томск: ТПУ, 2010.—С. 125−127.
  93. Бухтояров, В. В- Моделирование: Гибридный- алгоритм-генетического программирования // М.: ФИПС, 2010. Свид-во о гос. per. № 2 010 613 317.
  94. , В.В. Комплексное проектирование коллективов нейронных сетей // М.: ФИПС, 2010. Свид-во о гос. per. № 2 010 613 617.
  95. Бухтояров, В.В.. Вероятностный метод формирования? структуры нейронных сетей / В. В. Бухтояров, Е. С. Семенкин // М.: ФИПС, 2010.- Свид-во о гос. per.
  96. , В.В. Разработка гибридной интеллектуальной системы для моделирования сложных процессов / В. В. Бухтояров // Решетневские чтения: материалы XIII Международной научной конференции. — Красноярск: СибГАУ, 2009.
  97. , В.В. Разработка гибридного метода генетического программирования /В.В. Бухтояров // Решетневские чтения: материалы XII Международной научной конференции. — Красноярск СибГАУ, 2008.
  98. , В.В. Гибридный метод генетического программирования / В. В. Бухтояров // Актуальные проблемы экономики, информатики и права: труды VIII Межвузовской научно-практической конференции. Красноярск: МГУ ЭСИ, 2008.
  99. , В.В. Разработка гибридного генетического алгоритма / В. В. Бухтояров // Решетневские чтения: материалы XI Международной научной конференции. — Красноярск: СибГАУ, 2007. — С.220−221.
Заполнить форму текущей работой

Сессия? Спокойно!