Математическая сущность предлагаемого решения проблемы

В описании математического аппарата стандартного метода наименьших квадратов (МНК) в данной статье нет никакой необходимости, т.к. этому посвящено большое количество общедоступных работ.

Поэтому в данной статье мы рассмотрим только ключевые моменты, позволяющие так преобразовать исходные данные о наблюдениях, чтобы они учитывали количество информации в них, рассчитанное по методике численных расчетов АСК-анализа, и чтобы к ним было возможно применить стандартный МНК и при этом учитывалось количество информации в наблюдениях.

В работе [9] предлагается два варианта данной модификации взвешенного метода наименьших квадратов.

В первом варианте взвешивание наблюдений производится путем замены одного наблюдения с определенным количеством информации в нем соответствующим количеством наблюдений единичного веса, а затем к ним применяется стандартный метод наименьших квадратов (МНК). Фактически в этом варианте решение задачи взвешивания наблюдений решается самим методом наименьших квадратов. Алгоритм и программная реализация данного подхода подробно описаны в статье [36].

В данной же работе, как и планировалось в [36], кратко рассмотрим математические аспекты предлагаемого решения.

В стандартном методе наименьших квадратов минимизируется сумма квадратов отклонений эмпирических значений аппроксимируемой величины от расчетных значений, вычисленных в соответствии с моделью (1):

(1).

Во взвешенном методе наименьших квадратов минимизируется сумма квадратов отклонений эмпирических значений аппроксимируемой величины от расчетных значений, вычисленных в соответствии с моделью, причем разным наблюдениям приписывается разный вес (2):

Ключевым моментом при применении взвешенного МНК является способ выбора и задания весов наблюдений.

Традиционно считается, что разумным вариантом является выбор весов пропорционально ошибкам не взвешенной регрессии [38, 39]. Предполагается, что этим самым более надежным наблюдениям придается больший вес, а сомнительным — меньший. Вроде выглядит разумно. Но проблема в том, что к более надежными и или к сомнительными эмпирические наблюдения относятся путем их сравнения с расчетными значениями, полученными с применением создаваемой модели. Получается, что если модель хорошо описывает эмпирические данные, то они считаются надежными, а если нет, то ненадежными. Как говорится «если факты не соответствуют теории, то тем хуже для фактов». Автор не склонен придерживаться подобной логики и поэтому видит возможность сделать из этого и другой вывод: если модель хорошо описывает эмпирические данные, то эта модель надежная, а если нет, то ненадежная, и этот вывод выглядит гораздо более убедительным и разумным.

Подбор этих весов наблюдений вручную может являться сложной и практически неразрешимой задачей, как из-за сложной структуры данных (например, непостоянства дисперсии и среднего ошибок наблюдений), так и из-за возможной очень большой размерности данных. Таким образом, возникает задача автоматического определения весов наблюдений и разработка алгоритмов и программного инструментария, обеспечивающего автоматизацию определения и взвешивания весов наблюдений в МНК.

Предлагается новое, ранее не встречавшееся в литературе, решение этой задачи и соответствующее обобщение метода наименьших квадратов (МНК), в котором точки (наблюдения) имеют вес, равный количеству информации в значении аргумента о значении функции. Ясно, что по сути, речь идет о применении когнитивных функций [8−18] в взвешенном МНК.

Здесь I_i — количество информации в i-м наблюдении, т. е. точнее говоря в i-м значении аргумента о том, что i-e функции примет значение .

В выражениях (1), (2) и (3) не уточняется, могут ли эмпирические значения функции относиться к одному значению аргумента и это не существенно для МНК. Но если точно известно, что существует M значений аргумента и одному значению аргумента соответствует значений функции, то для дальнейшего изложения нам удобнее записать выражения (1), (2) и (3) в следующей форме, явно учитывающей это обстоятельство:

(1').

(2').

(3').

Отметим, что в случае, когда вес эмпирического наблюдения является целым числом, то выражение (2') эквивалентно выражению:

(2'').

Этим мы и воспользовались в статье [36], когда заменили одно наблюдение с весом этим количеством наблюдений с единичным весом.

Во втором варианте взвешивание наблюдений производится для каждого значения аргумента путем замены всех наблюдений с определенным количеством информации в них одним наблюдением единичного веса, полученным как средневзвешенное от них, а затем к ним применяется стандартный МНК. В данном варианте ВМНК решение задачи взвешивания наблюдений решается до применения стандартного метода наименьших квадратов с помощью другого инструментария, в качестве которого в частности может применяться и интеллектуальная система «Эйдос».

Перед применением стандартного МНК для каждого значения аргумента предварительно рассчитывается средневзвешенное значение функции из всех ее значений с их весами.

Рассмотрим, как по предлагаемой методике рассчитывается средневзвешенное значение функции с учетом количества информации в аргументе о значении функции для одного значения аргумента.

Для двух точек выбор координаты средневзвешенной точки y соответствует «правилу рычага», т. е. ее положение выбирается таким, чтобы рычаг, образованный двумя точками с координатами y₁ и y₂ и весами I₁ и I₂, находился в равновесии, если его опора будет в средневзвешенной точке с координатой :

(4).

Откуда находим y. При двух точках, соответствующих одному значению аргумента, координата y средневзвешенной точки, имеет вид:

. (5).

Если же для i-го значения аргумента x_i таких точек, то средневзвешенное значение функции выражение (5) принимает вид (6):

. (6).

В результате средневзвешенная точка находится тем ближе к некоторой точке, чем больше количество информации в значении аргумента о том, что функция примет значение, соответствующее этой точке.

После этого преобразования можно применять стандартный МНК.

В модуле визуализации когнитивных функций [11] этот метод реализован программно по постановке автора разработчиком интеллектуальных систем из Белоруссии Д. К. Бандык и обеспечивает отображение частично и полностью редуцированных когнитивных функций.