Ранее авторами в работе [Комарцова и др., 2004] были созданы и исследованы комбинированные генетические алгоритмы НGAPSO (Hibrid of Genetic Algorithm and Particle Swarm Optimization — гибридный генетический алгоритм оптимизации роя частиц) и Island GA — (параллельный генетический алгоритм островного типа), которые показали свою эффективность по сравнению с простым ГА (GA) при решении задачи обучения многослойной нейронной сети (НС). Ошибка распознавания НC, обученной с помощью НGAPSO и Island GA при решении широко распространенных тестовых задач распознавания ирисов и вин [http://www.ics.uci.edu/~mlearn/databases/], была значительно ниже, чем для GA.
Сравнение предложенного комбинированного HS c созданными ранее алгоритмами НGAPSO, Island GA и GA проведено на тех же тестовых функциях.
Для получения достоверных результатов работы НС и снижения влияния вероятностных параметров рассматриваемых алгоритмов осуществлялось по 50 запусков каждого алгоритма и полученные значения ошибок обучения (Еоб) и времени обучения НС усреднялись. Найденное по окончании работы каждого из алгоритмов наилучшее решение затем проверялось на тестовой выборке, при этом вычислялась ошибка обобщения (Еобобщ), соответствующая ошибке распознавания НС при решении определенной тестовой задачи.
Полученные результаты сравнительного анализ четырех исследуемых алгоритмов: классического ГА — GA, гибридного — HGAPSO, параллельного — Island GA и алгоритма HS показывают динамику изменения наилучшего (усредненного по всем запускам) значения функции качества (процента распознавания НС) в течение всех поколений работы алгоритмов. Приведенные ниже значения ошибок и времени обучения (в секундах-с) НС являются усредненными (по 50 запускам):
1) Задача распознавания ирисов:
для GA — время обучения 42с, Еобуч=19.98%, Еобобщ=25.32%;
для HGAPSO — время обучения 287с, Еобуч=6.04%, Еобобщ=8.92%;
для Island GA — время 221с, Еобуч=3.02%, Еобобщ=5.44%;
для HS — время обучения 242с, Еобуч=2.03%, Еобобщ=3.82%.
2) Задача распознавания вин.
для GA — время обучения 67с, Еобуч=27.22%, Еобобщ=33.28%;
для HGAPSO — время обучения 365с, Еобуч=14.9%, Еобобщ=22.8%;
для Island GA — время обучения 469с, Еобуч=5.42%, Еобобщ=12.97%;
для HS — время обучения 304с, Еобуч=4.14%, Еобобщ=6.72%.
Лучшие найденные решения:
- 1) Задача распознавания ирисов: для GA — Еобуч=2%, Еобобщ = 6%; для HGAPSO — Еобуч = 2%, Еобобщ = 6%; для Island GA — Еобуч = 1%, Еобобщ = 4%; HS — Еобуч = 0.83% Еобобщ = 2.52%.
- 2) Задача распознавания вин: для GA — Еобуч = 6%, Еобобщ = 15.4%; для HGAPSO — Еобуч = 4%, Еобобщ = 11.5%; для Island GA — Еобуч = 2%, Еобобщ = 3.8%; HS — Еобуч = 1.8%; Еобобщ = 3.1%.
