Разработка распределенных гетерогенных вычислительных систем и запуск приложений в распределенной вычислительной среде

Растущие потребности" практики требуют все больших вычислительных ресурсов, а их увеличивающаяся сложность приводит к необходимости, консолидации большого количества разнородных ресурсов. Использование для этих целей стандартных Grid — технологий напрямую к успеху не приводят как из-за сложностей доступа к таким ресурсам, так и по технологическим соображениям. Grid может быть абстрактно рассмотрен просто как коллекция вычислительных ресурсов, способная решать вычислительные задачи. Такой подход отлично работает, если есть много простых задач и много ресурсов, на которых они запускаются. Еще' один" способ рассмотрения — это коллекция объектов, которые должны управляться запущенным кодом как единственной огромной машиной. Такой подход хорош в однородных системах, либо при возможности административного контроля ресурсов. Поэтому для решения поставленной задачи требуются новые подходы. В настоящем исследовании предполагается, что можно использовать основные достоинства Grid — систем, отказавшись от базового принципа — отрыв пользователя от инструментария и запуск приложений через виртуальные организации. Наоборот, комбинирование промежуточного программного обеспечения Grid с операционным окружением на базе UNIX позволяет строить распределенные гетерогенные вычислительные системы, на которых удается не просто запустить комплексные приложения, но и оптимизировать их. Фактически речь идет о построении определенного типа промежуточного программного обеспечения PSE (problem solution environment), которое позволяет создать удобное для пользователя операционное окружение, соединяющее достоинства Grid — инструментария с возможностями UNIXa по управлению приложениями.

Главные задачи Grid Engine могут быть категоризованы следующим образом:

• Распределенное планирование заданий.

• Балансировка ресурсов и управление ими во время выполнения.

• Аутентификация и авторизация.

• Мониторинг ресурсов и задач.

Помимо учета функциональных возможностей Grid надо иметь в виду, что родное операционное окружение UN*X сильно влияет на его структуру.

Услуги и другие объекты, которые существуют и общаются в Grid, реализованы как демоны UN*X. Кроме того, PSE предлагает огромный набор инструментов в режиме командной строки для" планирования заданий, мониторинг и общего управления, с возможностями резервного копирования, и дружественный к пользователю интерфейс. Такой подход открывает очень большие возможности для работы со скриптами операционного окружения, например в режиме терминала. В дополнение к отмеченным особенностям важно понимать, что реализация инфраструктуры Grid в среде UN*X разрешает использовать все уже доступные стандартные и привычные инструменты коммуникации, такие как rsh и ssh, продвижение Х-Window, NFS, NIS +, RPC и т. д.

В настоящей диссертации описаны эксперименты с различными способами запуска приложений в распределенных системах, варьируя возможности как параллельных библиотек, так и операционной среды распределенной системы.

Целью работы является создание набора программных средств для объединения гетерогенных вычислительных ресурсов в единый вычислительный комплекс и подбор (и программная реализация) комплекса математических моделей для тестирования и оптимизации получающихся распределенных вычислительных комплексов.

Для достижения поставленной цели в работе решены следующие задачи:

1. Тестирование Grid программного обеспечения в новых платформах;

2. Исследование алгоритмов виртуализации задачи и управления распределенными ресурсами;

3. Создание комплекса программ реализации Grid системы для запуска комплексных задач.

4. Разработка математических моделей, на, основе которых строится синтетический' тест, позволяющий определить эффективность вычислительных сред.

Методы^ исследований базируются на технологиях проектирования программного обеспечениятеории надежности, информационных систем, теории случайных процессов и потоков.

Научной новизной обладают следующие результаты, полученные автором в процессе выполнения работы:

1. Новый подход к системным интеграции! гетерогенного вычислительного комплекса.

2. Новый метод интеграции разноуровневых приложений на базе промежуточного программного обеспечения, предоставляемого платформой SGE.

3. Новые модели и алгоритмы тестирования работы приложений виртуального полигона в условиях распределенной вычислительной среды.

Достоверность научных результатов и выводов подтверждена результатами тестирования алгоритмов и программного обеспеченияа- также практическим использованием разработанных алгоритмическихи программных методов и средств.

Основные научные результаты.

1. Осуществлена системная интеграция гетерогенного вычислительного комплекса, состоящего из процессоров разных архитектур:

2. Предложен набор. программных продуктов, реализующих распределенный гетерогенный вычислительный комплекс.

3. Реализован набор вычислительных моделей, с помощью которых проведено тестирование созданного комплекса.

Научные положения, выносимые на защиту:

1. Подход к системной интеграции распределенных гетерогенных вычислительных структур.

2. Программные продукты для созданияоперационного окружения в распределенной гетерогенной среде.

3. Адаптированные модели grid NAS Benchmark для тестирования полученных гетерогенных сред.

Практическую значимость составляют:

1. Набор программных продуктов, осуществляющих системную интеграцию в гетерогенной распределенной вычислительной среде.

2. Набор моделей, осуществляющих тестирование и оптимизацию в гетерогенной распределенной вычислительной среде.

Внедрение результатов работы. Результаты диссертационной работы внедрены для интеграции ресурсов в вычислительном комплексе ПМ-ПУ СПбГУ и использованы в учебном процессе кафедр ИВТ СПбГМТУ и ВТ СПбГЭТУ «ЛЭТИ».

Апробация работы. Основные результаты работы докладывались и обсуждались на национальных и международных научно-технических конференциях:

— Национальная конференция МОРИНТЕХ 2009, Санкт-Петербург, 2009 г.

— Международная конференция «Computer Science & Information Technologies», Yerevan, Armenia, 2009 г.

— Научно-методическая конференция «Телематика-2009, Санкт-Петербург, 2009 г.

— 4-ая Международная конференция «Distributed Computing and Grid-Technologies in Science and Education». Dubna, 2010 r.

— Известия СПбГЭТУ «ЛЭТИ». Санкт-Петербург, 2011 г.

Публикации.

Основные теоретические и практические результаты диссертации опубликованы в 6 статьях и докладах, из них по теме диссертации 6, среди которых 1 публикация в ведущем рецензируемом издании, рекомендованном в действующем перечне ВАК. Доклады доложены и получили одобрение на 5 международных, всероссийских и межвузовских научно-практических конференциях перечисленных в конце автореферата.

Структура и объем диссертации

.

Диссертационная работа состоит из введения, шести глав с выводами, заключения, одного приложения и списка литературы, включающего 125 наименований. Основная часть работы изложена на 127 страницах машинописного текста. Работа содержит 54 рисунка.

Заключение

.

В работе рассмотрены основные проблемы, возникающие при интеграции разнородных распределенных вычислительных ресурсов. Проанализированы достоинства и недостатки интеграции распределенных вычислительных ресурсов на уровне приложений и на системном уровне. Далее рассматривается система NAS, интегрирующая параллельные и последовательные приложения, запущенные на различных кластерах. Работы проводились на базе тестового полигона, созданного на факультете ПМ-ПУ Санкт-Петербургского государственного университета.

Таким образом, в настоящей диссертации была разработана методика создания и оптимизации распределенных гетерогенных вычислительных комплексов. Основная идея состоит в объединении трех последовательных шагов. Сначала с помощью специально подобранного промежуточного программного обеспечения осуществляется системная интеграция вычислительных систем, входящих в гетерогенный комплекс. Затем на основе специальных алгоритмов создается операционное окружение для удобной работы пользователя в распределенной вычислительной среде. И, наконец, на основе набора простых математических моделей строится синтетический тест, позволяющий определять производительность созданного комплекса и, тем самым осуществлять его оптимизацию.

Особые возможности достигаются при применении технологии виртуализации, позволяющей балансировать производительности машин и создавать сплошную адресацию ячеек памяти, тем самым устраняя основные проблемы, ограничивающие масштабирование комплекса.

Всего было построено три варианта распределенной вычислительной среды на процессорах разной архитектуры (включая высокопроизводительные и многопоточные), которые демонстрировали высокую эффективность предлагаемых методик. Все это позволяет рекомендовать предложенные программные продукты и синтетическую модель для широкого использования в распределенных гетерогенных вычислительных средах.