Помощь в написании студенческих работ
Антистрессовый сервис

Синтез методов оптимизации и дискриминантного анализа в математических моделях экономики

ДиссертацияПомощь в написанииУзнать стоимостьмоей работы

Теоретическая ценность работы состоит в том, что в ней представлены доказательства теоремы об устойчивости задачи линейного программирования по неформализованному ограничению и теоремы о сходимости метода, соединяющего дискриминантный анализ и рандомизацию с линейной оптимизацией. Практическая ценность работы заключается в том, что предложенный программный комплекс в сочетании с системами… Читать ещё >

Синтез методов оптимизации и дискриминантного анализа в математических моделях экономики (реферат, курсовая, диплом, контрольная)

Содержание

  • Глава 1. Синтез дискриминантного анализа и линейной оптимизации
    • 1. 1. Математическая модель задачи ЛПНО
    • 1. 2. Общий метод решения задачи ЛПНО
    • 1. 3. Устойчивость задачи ЛПНО
    • 1. 4. Алгоритм? порождения образцов
    • 1. 5. Теорема сходимости для алгоритма ?
    • 1. 6. Реализационные аспекты алгоритма ?
    • 1. 7. Случай нескольких неформализованных ограничений
  • Глава 2. Алгоритм ЛП-ДА
    • 2. 1. Общая схема алгоритма ЛП-ДА
    • 2. 2. Формирование начального набора образцов
    • 2. 3. Критерий завершения итерационного процесса
    • 2. 4. Рандомизация
    • 2. 5. Метод осцилляций
    • 2. 6. Проблема погрешности вычислений
  • Глава 3. Программный комплекс ЛП-ДА
    • 3. 1. Модульная структура комплекса
    • 3. 2. Формат входных данных ЬР>1С
    • 3. 3. Параллельная реализация
      • 3. 3. 1. Классификация параллельных методов решения задачи ЛПНО
      • 3. 3. 2. Параллельная версия алгоритма ЛП-ДА
    • 3. 4. Реализация прототипа
  • Глава 4. Компьютерный анализ алгоритма ЛП-ДА
    • 4. 1. Эксперименты на искусственных задачах
      • 4. 1. 1. Модельная задача Мос1-п
      • 4. 1. 2. Влияние радиуса рандомизации на эффективность
      • 4. 1. 3. Влияние мощности рандомизации на эффективность
      • 4. 1. 4. Эффективность метода осцилляций
      • 4. 1. 5. Эксперименты с неполными наборами образцов
    • 4. 2. Эксперименты на реальной задаче
    • 4. 3. Масштабируемость параллельного алгоритма

АКТУАЛЬНОСТЬ ТЕМЫ

.

В практике экономико-математического моделирования часто встречаются задачи, при решении которых приходится учитывать большое число взаимосвязанных факторов, включая плохо формализуемые [16, 21, 22, 25]. Процесс решения плохо формализуемой задачи включает в себя преобразование ее формулировки путем уточнений и упрощений. В результате этого процесса мы получаем формализованную задачу, имеющую некоторое отношение к исходной постановке задачи. Во многих случаях удается построить формализованную задачу в виде задачи линейного программирования [7, 12, 14, 18, 52]. Однако решение формализованной задачи может сколь угодно сильно отличаться от решения исходной задачи в силу наличия неформализованных ограничений.

Помимо формальных методов и моделей для решения плохо формализуемой задачи используются средства неформального анализа, включающие в себя суждения экспертов для учета так называемых «внемодель-ных» факторов [26, 51]. При этом человеческий компонент в процессе экспертизы может постепенно, с помощью обучения, заменяться машинным компонентом путем использования экспертных систем [8, 36, 54] или ней-росетевых программ [28, 29, 30, 63, 64]. Однако при решении задач линейного программирования большой размерности эти подходы могут оказаться неэффективными, если их применять для решения всей задачи в целом. Это объясняется тем, что трудно адекватно настроить (обучить) экспертную систему или нейронную сеть в случае, когда система ограничений содержит тысячи линейных неравенств и десятки тысяч переменных. В таких ситуациях перспективным является подход, основанный на сочетании методов линейной оптимизации с процедурами экспертного оценивания. Алгоритм решения задачи в этом случае строится как итерационный процесс, в ходе которого шаг за шагом происходит уточнение ограничений, относящихся к неформализованной части задачи. Приближенные решения исходной задачи, получаемые в ходе итерационного процесса, формируют множество образцов, квалифицируемых экспертом. Применяя к этому множеству образцов процедуру дискриминантного анализа [23, 32, 37, 66, 71], мы получаем разделяющую поверхность, аппроксимирующую неформализованные ограничения.

В соответствии с этим актуальной является задача разработки, анализа и реализации на ЭВМ алгоритмов решения задач линейного программирования с неформализованными ограничениями путем синтеза методов дискриминантного анализа и линейной оптимизации.

ЦЕЛЬ И ЗАДАЧИ ИССЛЕДОВАНИЯ

.

Цель данной работы состояла в разработке и исследовании методов и алгоритмов решения задач линейного программирования с неформализованными ограничениями и их реализации в виде программного комплекса. Для достижения этой цели необходимо было решить следующие задачи:

1. Построить математическую модель задачи линейного программирования с неформализованными ограничениями (ЛПНО) и описать общий подход к ее решению.

2. На базе данного подхода разработать метод решения задачи ЛПНО, допускающий реализацию в виде алгоритма для ЭВМ, и исследовать сходимость этого метода.

3. На основе описанного метода разработать и исследовать алгоритм ЛП-ДА (Линейное Программирование — Дискриминантный Анализ), соединяющий алгоритмы линейного программирования с алгоритмами дискриминантного анализа.

4. Спроектировать и реализовать программный комплекс для решения задач ЛПНО, использующий предложенные методы и алгоритмы.

5. Провести вычислительные эксперименты для анализа эффективности предложенного подхода.

6. Разработать и реализовать параллельную версию алгоритма ЛП-ДА. Провести вычислительные эксперименты на кластерной системе для исследования ускорения и расширяемости параллельного алгоритма.

МЕТОДЫ ИССЛЕДОВАНИЯ.

В исследованиях, проводимых в диссертационной работе, используется аппарат теории математического программирования и распознавания образов, применяются методы дискриминантного анализа и линейной оптимизации.

НАУЧНАЯ НОВИЗНА.

Научная новизна работы заключается в следующем:

1. предложен метод решения задачи линейного программирования с неформализованными ограничениями, базирующийся на синтезе методов дискриминантного анализа и методов линейной оптимизации, и доказана сходимость генерируемой им итерационной последовательности к точному решению задачи ЛПНО;

2. предложен оригинальный метод осцилляций, позволяющий существенно ускорить сходимость последовательности приближений к точному решению задачи ЛПНО;

3. разработан новый алгоритм, соединяющий симплекс-метод и метод линейной коррекции, и предложена его параллельная версия;

4. выполнена реализация алгоритма решения задач ЛПНО в виде программного комплекса для персональных компьютеров и многопроцессорных систем на основе стандарта МР1−2.

ТЕОРЕТИЧЕСКАЯ И ПРАКТИЧЕСКАЯ ЦЕННОСТЬ.

Теоретическая ценность работы состоит в том, что в ней представлены доказательства теоремы об устойчивости задачи линейного программирования по неформализованному ограничению и теоремы о сходимости метода, соединяющего дискриминантный анализ и рандомизацию с линейной оптимизацией. Практическая ценность работы заключается в том, что предложенный программный комплекс в сочетании с системами экспертного оценивания может быть использован для решения плохо формализуемых задач, возникающих в экономико-математическом моделировании.

СТРУКТУРА И ОБЪЕМ РАБОТЫ.

Диссертация состоит из введения, четырех глав, заключения, библиографии и приложения, в котором приводятся основные обозначения, используемые в диссертационной работе. Объем диссертации составляет 92 страницы, объем библиографии — 77 наименований.

Основные результаты диссертации полностью опубликованы в следующих печатных работах.

1. Соколинская И. М. Синтез симплекс-метода и метода линейной коррекции в задачах линейной оптимизации с неформализованными ограничениями // Вычислительные методы и программирование. -2005. -Том 6, № 2.-С. 103−115.

2. Mazurov Vl.D., Sokolinskaya I.M. Discrimination analysis and randomization in linear optimization problems with not formalized restrictions // Pattern Recognition and Image Analysis. -2006. -Vol. 16, No. 2. -P. 170−178.

3. Соколинская И. М. Метод осцилляций в задачах линейного программирования с неформализованным ограничением // Алгоритмический анализ неустойчивых задач: Тез. докл. Всерос. науч. конф. (2−6 февраля 2004 г., Екатеринбург). -Екатеринбург: Изд.-во Урал, ун-та. -2004.-С. 302−303.

4. Соколинская И. М., Соколинский Л. Б. Программный комплекс для решения задач линейного программирования с неформализованными ограничениями // Первая Международная Конференция «Системный Анализ и Информационные Технологии» САИТ-2005 (12−16 сентября 2005 г., Переславль-Залесский, Россия): Труды конференции. В 2 т. Т. 2. -М.: КомКнига. -2005. -С. 286−292.

5. Соколинская И. М., Соколинский Л. Б. Параллельный алгоритм решения задачи линейного программирования с неформализованными ограничениями // Проблемы оптимизации и экономические приложения: Тезисы докладов международной конференции. -Омск: Омск. гос. ун-т. -2006. -С. 1.

АПРОБАЦИЯ РАБОТЫ.

Основные положения диссертационной работы, разработанные модели, методы, алгоритмы и результаты вычислительных экспериментов докладывались автором на следующих международных и всероссийских научных конференциях: на Всероссийской научной конференции «Алгоритмический анализ неустойчивых задач» (2−6 февраля 2004 г., Екатеринбург) — на Международной научной конференции «Системный Анализ и Информационные Технологии» САИТ-2005 (12−16 сентября 2005 г., Пе-реславль-Залесский) — на III Всероссийской научной конференции «Проблемы оптимизации и экономические приложения» (Омск, 11−15 июля 2006 г.).

НАПРАВЛЕНИЯ ДАЛЬНЕЙШИХ ИССЛЕДОВАНИЙ.

Теоретические исследования и практические разработки, выполненные в рамках этой диссертационной работы, предполагается продолжить по следующим направлениям.

1. Доказательство сходимости представленного в данной диссертации алгоритма? при более слабых ограничениях. В частности, может быть сформулирована гипотеза о том, что теорема сходимости для алгоритма? остается справедливой и в случае устранения условия нормализации. В пользу этой гипотезы свидетельствуют теорема 3 (см. раздел 1.6 диссертации) и проведенные в ходе диссертационного исследования эксперименты на реальных и искусственных задачах (см. главу 4 диссертации), так как во всех экспериментах был использован вариант алгоритма без условия нормализации.

2. Создание версии программного комплекса для 64-разрядных процессоров. Здесь основной проблемой является подбор оптимальных значений допусков, связанных с преодолением ошибок округления.

3. Создание в рамках программного комплекса альтернативных блоков для решения задач линейного программирования и дискриминантно-го анализа (в дополнение к симплекс-методу и методу линейной коррекции предполагается реализовать методы фейеровского типа [2, 3, 9, 10] и метод комитетов [20, 26, 27, 46]).

ЗАКЛЮЧЕНИЕ

.

В диссертационной работе были рассмотрены вопросы, связанные с решением задач линейного программирования при наличии неформализованных ограничений. Было показано, что задачу с несколькими неформализованными ограничениями можно свести к задаче с одним неформализованным ограничением. Предложен общий метод для решения задач с одним неформализованным ограничением, базирующийся на дискриминантном анализе и экспертизе новых образцов, получаемых в результате решения задачи линейного программирования. Каждый новый образец получается как решение аппроксимационной задачи линейного программирования, где вместо неформализованного ограничения фигурирует неравенство на основе разделяющей функции. В случае, когда решение аппроксимационной задачи уже присутствует в наборе образцов, применяется процедура рандомизации. Для описанного метода была доказана теорема сходимости и рассмотрены вопросы его практической реализации. В качестве реализации общего метода предложен итерационный алгоритм ЛП-ДА для решения задач линейного программирования при наличии нескольких неформализованных ограничений. Этот алгоритм базируется на сочетании симплекс-метода и метода линейной коррекции. Рассмотрены различные аспекты реализации алгоритма ЛП-ДА в виде программы для ЭВМ. Предложена параллельная версия алгоритма. Выполнены проектирование и реализация программного комплекса на языке Си и проведено большое количество вычислительных экспериментов на реальных и искусственных задачах, подтверждающих эффективность предложенных подходов.

Работа выполнялась при поддержке Российского фонда фундаментальных исследований (проекты 03−01−565, 06−01−380).

В заключение перечислим основные полученные результаты диссертационной работы, приведем данные о публикациях и апробациях, и рассмотрим направления дальнейших исследований в данной области.

Показать весь текст

Список литературы

  1. Е.А., Ерёмин И. И., Попов Л Д. Распределенные фейеровские процессы для систем линейных неравенств и задач линейного программирования // Автоматика и телемеханика. -N0. 2. -2004. -С. 16−32.
  2. В.В., Еремин И. И. Операторы и итерационные процессы фейеров-ского типа. Теория и приложения. -Екатеринбург: УрО РАН, 2005. -210 с.
  3. Вл.В., Капитонова А. П. Методы описания и классификации архитектур вычислительных систем. —М: Изд-во МГУ, 1994. -103 с.
  4. В.В., Воеводин Вл.В. Параллельные вычисления. -СПб.: БХВ-Петербург, 2002. -600 с.
  5. А.Л., Гуревич И. Б., Скрипкин В. А. Современное состояние проблемы распознавания: Некоторые аспекты. -М.: Радио и связь, 1985. -161 с.
  6. Дж. Линейное программирование, его применение и обобщения. -М.: Прогресс, 1966. -600 с.
  7. П. Введение в экспертные системы. -М: Издательский дом «Вильяме», 2001.-624 с.
  8. И.И. Методы фейеровских приближений в выпуклом программировании //Мат. заметки. -1968. -Т. 3, вып. 2. -С. 217−234.
  9. И.И. Применение метода фейеровских приближений к решению задач выпуклого программирования с негладкими ограничениями // Журн. вычисл. мат. и мат. физики. -1969. -Т. 9, № 5. -С. 1153−1160.
  10. И.И. Общая теория устойчивости в линейном программировании // Известия ВУЗов. Математика. -1999. -N 12. -С. 43−52.
  11. И.И. Теория линейной оптимизации. -Екатеринбург: Изд-во «Екатеринбург», 1999. -312 с.
  12. И.И. Фейеровские методы сильной отделимости выпуклых полиэдральных множеств // Известия вузов. Сер. математика. -2006. (в печати).
  13. ИИ., Астафьев H.H. Введение в теорию линейного и выпуклого программирования. -М.: Наука, 1976. -192 с.
  14. Еремин И. И, Мазуров Вл.Д. Нестационарные процессы математического программирования. -М.: Наука, 1979. -291 с.
  15. И. И., Мазуров Вл. Д. Вопросы оптимизации и распознавания образов. -Свердловск: Сред.-Урал. кн. изд-во, 1979. -63 с.
  16. Еремин И. И, Мазуров Вл.Д., Скарин В Д., Хачай М. Ю. Математические методы в экономике. -Екатеринбург: У-Фактория, 2000. -280 с.
  17. Л.В. Математические методы организации и планирования производства. -Л.: Изд-во ЛГУ, 1939. -68 с.
  18. В.В. Параллельные вычислительные системы. -М.: «Нолидж», 1999. -320 с.
  19. Вл. Д. Комитеты систем неравенств и задача распознавания // Кибернетика. -1971. -№ 3. -С. 140−146.
  20. Вл. Д. Об одном итерационном методе планирования, использующем распознавание образов для учета плохо формализуемых факторов // Изв. АН СССР. Техн. кибернетика. -1973. № з. -С. 205−207.
  21. Вл.Д. Распознавание образов как метод формирования плохо формализуемых ограничений в моделях планирования // Оптимизация. Вып. 10 (27). -Новосибирск: СО АН СССР, 1973. -С. 144−158.
  22. Вл.Д. Дискриминантный анализ при математическом моделировании плохо формализуемых ситуаций // Нелинейная оптимизация и приложения в планировании. -Свердловск: УНЦ АН СССР, 1973.-С. 26−35.
  23. Вл.Д. Комитеты в нечетких задачах // Методы оптимизации и распознавания образов в задачах планирования. -Свердловск: УНЦ АН СССР, 1980. -С. 44−65.
  24. Вл.Д. О задаче оптимизации с плохо формализуемой целью // Параметрическая оптимизация. -Свердловск: УНЦ АН ССР, 1985. -С. 51−53
  25. Вл.Д. Метод комитетов в задачах оптимизации и классификации. -М.: Наука, 1990. -248 с.
  26. Вл.Д., Кривоногое А. И., Казанцев B.C., Сачков И. О., Белецкий КГ. Комитеты в принятии решений // Кибернетика. -1984. -№ 1. -С. 90−95.
  27. Вл.Д., Мазуров П. В. Оптимизация, распознавание и нейронные сети в экономике. -Екатеринбург: УрГУ, 1999. -58 с.
  28. Мак-Каллок У.С., Питтс В. Логическое исчисление идей, относящихся к нервной деятельности // Нейрокомпьютер. -1992. -№ 3−4. -С. 29−34.
  29. И. И. Нейронные сети и комбинаторная оптимизация // Автоматика и телемеханика. 1994. — № 11. — С. 3−40.
  30. . Современное линейное программирование: Теория и практика. -М.: Мир, 1984. -224 с.
  31. B.C. Экономико-математические методы и модели. -Т. 3. -М.: Наука, 1967.
  32. Н. Обучающиеся машины. -М.: Мир, 1967. -180 с.
  33. Н.Н. Основы параллельного программирования в системе MPI. -M.: изд-во ВЦ РАН, 2005. 90 с.
  34. Портал вычислительного кластера «Infinity» http://cluster.susu.ru/.
  35. Д. А. Логико-лингвистические модели в системах управления. -М.: Энергоиздат, 1981. -232 с.
  36. .Б. Теория распознавания образов в экономических исследованиях. -М.: Статистика, 1973.
  37. КМ. Синтез симплекс-метода и метода линейной коррекции в задачах линейной оптимизации с неформализованными ограничениями // Вычислительные методы и программирование. -2005. -Том 6, № 2.-С. 103−115.
  38. Л.Б., Цымблер Н. Ю. Параллельный алгоритм решения задач линейного программирования на основе фейеровских отображений. Технический отчет РФФИ#06−01−380/УШ1. -Челябинск: ЮУрГУ, 2006.
  39. Э. Современные операционные системы. -Издательство: Питер, 2002.-1040 с.
  40. В.Н. Оптимизация плановых программ при слабо согласованных ограничениях. -М.: Наука, 1986. -164 с.
  41. .Н. Высокопроизводительные многопроцессорные вычислительные системы // Вестник российской академии наук. -2002. -Том 72, № 9. с. 786−794.
  42. Ablow С.М., Kaylor D.J. A committee solution of the pattern recognition problem // IEEE Trans. -1965. -V. 71, No. 5.
  43. Bartels R.H., Golub G.H. The simplex method of linear programming using LU decomposition // Communications of the ACM. -1969. Vol. 12, No. 5. -P. 266−268.
  44. Bishop CM. Neural Networks for Pattern Recognition. -Oxford University Press, 1996. -504.
  45. Dantzig G.B., Wolfe P. Decomposition principle for linear programs // Oper Res.-1960.-Vol. 8, No. l.-P. 101−111.
  46. Dongarra J. J., Otto S. W., Snir M., Walker D. A message passing standard for MPP and workstations // Communications of the ACM. -1996. -Vol. 39, No. 7. -P. 84−90.
  47. Gass S.I. Linear Programming. New York: McGraw-Hill. -1969.
  48. Ghosh J., Hwang K. Critical issues in mapping neural networks on message-passing multicomputers // Proceedings of the 15th Annual International Symposium on Computer architecture. Honolulu, Hawaii, United States. -1988.-P. 3−11.
  49. Giarratano J.C., Riley G.D. Expert Systems: Principles and Programming. -Course Technology. -1998. -624 p.
  50. Gose T., Johnsonbaugh R., JostS. Pattern Recognition and Image Analysis. -Prentice Hall, 1996. -483 p.
  51. Gropp W., Huss-Lederman S., Lumsdaine A., LuskE., NitzbergB., Saphir W., Snir M. MPI The Complete Reference: Volume 2, The MPI Extensions. -MIT Press, 1998.
  52. Gunther N.J. The Practical Performance Analyst. -Authors Choice Press, 2000. -468 p.
  53. FausettL. V. Fundamentals of Neural Networks. -Prentice Hall, 1994. -461 p.
  54. Flynn M.J., Rudd K. W. Parallel architectures // ACM Computing Surveys. -1996.-Vol. 28, No. l.-P. 67−70.
  55. Forrest J. J.H., Tomlin J.A. Implementing the simplex method for the optimization subroutine library // IBM Systems Journal. -1992. -Vol. 31, No. l.-P. 11−25.
  56. Hadley G. Linear Programming. Mass.: Addison-Wesley, Reading. -1962.
  57. Hopfield J.J., TankD. W. Neural computation of decision in optimization problems // Biol. Cybernet. -1985. -V. 52. -P. 141−152.
  58. Jordan M.I., Bishop C.M. Neural networks // ACM Computing Surveys. -1996. -Vol. 28, No. l.-P. 73−75.
  59. Kennedy J. V., Austin J., Pack R., Cass B. CNNAP A Parallel Processing Architecture for Binary Neural Networks I I Proceedings of the IEEE International Conference on Neural Networks (ICNN'95), Perth, Western Australia. -1995.
  60. Lachenbruch P.A. Discriminant Analysis. -New York: Hafner Press, 1975.
  61. Lyu J.J., Luh H., Lee M.-C. Solving Linear Programming Problems on the Parallel Virtual Machine Environment // American Journal of Applied Sciences. -2004. -Vol. 1, No. 2. -P. 90−94.
  62. Martinson R.K., Tind J. An interior point method in Dantzig-Wolfe decomposition// Computers & Operations Research. -1999. -Vol. 26, No. 12. -P. 1195−1216.
  63. Mazurov Vl.D., Sokolinskaya I.M. Discrimination analysis and randomization in linear optimization problems with not formalized restrictions // Pattern Recognition and Image Analysis. -2006. -Vol. 16, No. 2. -P. 170−178.
  64. Molina F. W. A Survey of Resource Directive Decomposition in Mathematical Programming // ACM Computing Surveys. -1979. -Vol. 11, No. 2. -P. 95−104.
  65. McLachlan G.J. Discriminant Analysis and Statistical Pattern Recognition. -New York: John Wiley and Sons, 1992. -526 p.
  66. Nazareth J.L. Computer Solution of Linear Programs. -Oxford University Press, 1988.
  67. Orchard-Hays W. Advanced Linear Programming Computing Techniques. -New York: McGraw-Hill, 1968.
  68. Quinn M.J. Parallel Computing: Theory and Practice. -McGraw-Hill Companies, 1993. -446 p.
  69. Snir M., Otto S., Huss-Lederman S., Walker D., Dongarra J. MPI The Complete Reference. Volume 1, The MPI Core. 2nd Ed. -MIT Press, 1999.
  70. Stunke C.B.I, Reed D.A. Hypercube implementation of the simplex algorithm // Proceedings of the third conference on Hypercube concurrent computers and applications Volume 2. -New York, NY, USA: ACM Press. -1989. -P. 1473−1482.
  71. White W. W. A Status Report on Computing Algorithms for Mathematical Programming // ACM Computing Surveys. -1973. -Vol. 5, No. 3. -P. 135−166.
Заполнить форму текущей работой