Формирование общего решения в коллективах нейросетевых технологий

На втором этапе проектирования коллектива должны быть выбраны те нейронные сети, которые будут использованы для расчета коллективного решения, а также должен быть непосредственно определен способ, по которому в коллективном решении будут учтены решения отдельные его членов. Наиболее распространенными вариантами комбинирования решений отдельных нейронных сетей являются равноправное или неравноправное голосование для задач классификации [Hansen et al., 1990] и простое или взвешенное усреднение для задач регрессии [Perrone et al., 1993]. Наиболее разработаны варианты с взвешенным усреднением или неравноправным голосованием.

Для повышения эффективности выполнения этого этапа был разработан метод, позволяющий автоматически выбирать из сформированного предварительно пула те нейронные сети, которые будут участвовать в принятии коллективного решения, и формировать это коллективное решение в виде различных преобразований и комбинаций (линейных и нелинейных) решений отдельных участников коллектива. Предлагаемый метод основан на методе генетического программирования [Koza, 1992], который используется для решения задач символьной регрессии. Для построения решения предлагаемый метод использует элементы терминального и функционального множеств. В качестве множества термов, из которых будут строиться решения, используются решения, полученные нейронными сетями из предварительного пула, а не непосредственно переменные задачи, как в методе генетического программирования.

Общее коллективное решение, сформированное с помощью предлагаемого метода, представляет собой некоторую функцию, входными параметрами которой являются частные решения нейронных сетей, включенных в коллектив:

нейронный сеть автоматический прогнозирование.

(1.1).

Здесь — общее решение, — индивидуальное решенией сети, — число сетей в коллективе.

Предлагаемый метод позволяет расширить гибкость системы, основанной на использовании коллективов нейронных сетей, за счет отсутствия твердо закрепленной структуры взаимодействия между индивидуальными сетями, формирующими коллектив. При этом, рассматриваемый метод не только формирует структуру взаимодействия между членами коллектива, но и косвенно (за счет включения или не включения соответствующих аргументов в формулу общего решения) отбирает те нейронные сети, решения которых будут наиболее полезны в плане эффективности решения задачи.