Выводы. 
Модификация взвешенного метода наименьших квадратов путем применения в качестве весов наблюдений количества информации в них (математические аспекты)

В данной статье кратко рассмотрена математическая сущность предложенной автором модификации взвешенного метода наименьших квадратов (ВМНК), в котором в качестве весов наблюдений применяется количество информации в них. Предлагается два варианта данной модификации ВМНК. В первом варианте взвешивание наблюдений производится путем замены одного наблюдения с определенным количеством информации в нем соответствующим количеством наблюдений единичного веса, а затем к ним применяется стандартный метод наименьших квадратов (МНК). Во втором варианте взвешивание наблюдений производится для каждого значения аргумента путем замены всех наблюдений с определенным количеством информации в них одним наблюдением единичного веса, полученным как средневзвешенное от них, а затем к ним применяется стандартный МНК. Подробно описана методика численных расчетов количества информации в наблюдениях, основанная на теории автоматизированного системно-когнитивного анализа (АСК-анализ) и реализованная в его программном инструментарии — интеллектуальной системе «Эйдос». Приводится иллюстрация предлагаемого подхода на простом численном примере.

Главный вывод, который можно сделать по материалам статьи, состоит в том, что предлагается обоснованное решение двух дополнительных проблем, сформулированных в начале статьи, т. е. предлагается теоретическое обоснование, методика численных расчетов и программная реализация модификации взвешенного метода наименьших квадратов, в котором в качестве весов наблюдений применяется количество информации в них. Если в ВМНК принимается гипотеза, что веса наблюдений тем больше (более надежны), чем меньше ошибка, в качестве которой используется дисперсия, то в предлагаемой модификации ВМНК непосредственно на основе эмпирических данных расчетным путем определяется количество информации в наблюдениях, которое используется в качестве весов наблюдений, вместо традиционной погрешности. Необходимо подчеркнуть, что предлагаемый способ расчета количества информации не основан на предположениях о независимости наблюдений и их нормальном распределении, т. е. является непараметрическим и обеспечивает корректное моделирование нелинейных систем, а также позволяет сопоставимо обрабатывать разнородные (измеряемые в шкалах различных типов) данные числовой и нечисловой природы, измеряемые в различных единицах измерения.

Таким образом, АСК-анализ и система «Эйдос» представляют собой современную инновационную (готовую к внедрению) технологию взвешенного метода наименьших квадратов, модифицированного путем применения в качестве весов наблюдений количества информации в них.

Данная статья может быть использована как описание лабораторной работы по дисциплинам:

• — Интеллектуальные системы;
• — Инженерия знаний и интеллектуальные системы;
• — Интеллектуальные технологии и представление знаний;
• — Представление знаний в интеллектуальных системах;
• — Основы интеллектуальных систем;
• — Введение в нейроматематику и методы нейронных сетей;
• — Основы искусственного интеллекта;
• — Интеллектуальные технологии в науке и образовании;
• — Управление знаниями;
• — Автоматизированный системно-когнитивный анализ и интеллектуальная система «Эйдос»;

которые автор ведет в настоящее время, а также и в других дисциплинах, связанных с преобразованием данных в информацию, а ее в знания и применением этих знаний для решения задач идентификации, прогнозирования, принятия решений и исследования моделируемой предметной области (а это практически все дисциплины во всех областях науки).

Ограничения и перспективы. В данной статье не ставилась задача исследовать математические и прагматические свойства предлагаемой модификации ВМНК, основанной на использовании в качестве весов наблюдений количества информации в них. Это предполагается сделать в будущих статьях, посвященных данному методу.

Профессор А. И. Орлов в переписке по поводу статьи отмечает, что в будущем «…желательно иметь вероятностно-статистическую теорию, в которой доказаны теоремы о состоятельности оценок параметров зависимости, построены доверительные интервалы для зависимости, как это сделано в классическом случае линейной зависимости в моих книгах (см., например, п. 5.1 в „Эконометрике“ http://ibm.bmstu.ru/nil/biblio.html#books-13-econ). К сожалению, вряд ли такую теорию можно быстро построить».