Общий подход к задачам идентификации на основе понятия штрафных функций

Все рассмотренные в предыдущем разделе методы идентификации нелинейных систем укладываются в рамки общего подхода к решению подобных задач, основанного на понятии функций штрафа. Под функциями штрафа для задач идентификации понимаются потери или штраф, связанные с недостижением абсолютно точного решения задачи идентификации. Пусть х — вектор точных значений параметров состояния объекта, a Я (Y) — его оценка, основанная на некотором наблюдении Y. Введем в рассмотрение функцию С [х (Y) ], где х=х—х (Y), которую назовем штрафом за ошибку или ценой ошибки. Типичным примером функции С [х (Y) 1 может служить квадратичная функция штрафа [121:

где L — положительно определенная симметричная матрица, и ступенчатая функция штрафа:

Практически истинное’значение вектора х никогда не известно абсолютно точно. Поэтому для характеристики отклонения Я от х естественно использовать статистические методы. В качестве такой характеристики используется условное математическое ожидание штрафа за ошибку в оценке вектора состояния:

где р (х | Y) — условная плотность распределения х относительно наблюдения Y. В зависимости от того, какая функция цены за ошибку подставляется под интеграл (8.49), получают различные типы штрафных функций R. Если под интеграл подставить квадратическую цену ошибки (8.47) и затем минимизировать функцию R оптимальным выбором х (Y), то в результате получим, что оптимальной оценкой х (Y)_opt будет условное математическое ожидание вектора х:

Если в качестве цены за ошибку использовать ступенчатую функцию (8.48), то, подставляя ее в выражение (8.49) и устремляя е к нулю, в пределе получил! штрафную функцию максимума апостериорной вероятности (МАВ):

Оценка х (Y), минимизирующая /?, называется оценкой максимальной апостериорной вероятности, поскольку она получается максимизацией условной плотности вероятности р (х |Y1 и находится из уравнения.

В пятой главе при рассмотрении общих вопросов проблемы идентификации упоминалось, что в качестве критерия эффективности решения задачи идентификации часто принимается степень согласия расчетных и измеренных данных. В терминах штрафных функций последнее соответствует тому, что наилучшая оценка ищется путем максимизации условной плотности вероятности наблюдения Y относительно параметра состояния х:

т. е. оцениваемому параметру х присваивается то значение, при котором наиболее вероятно появление наблюдавшегося измерения Y. Такая оценка называется оценкой максимального правд оподобия (МП).

Связь между плотностями распределения р (x|Y) и p (Y|x), а следовательно, и между оценками МАВ и МП выражается формулой Байеса:

откуда видно, что оценка МАВ есть оценка МП, улучшенная эа счет учета априорной информации об оцениваемом параметре, содержащейся в плотности вероятности р (х). Однако в самой оценке МП не используются никакие априорные знания о подлежащем оцениванию параметре х. Поэтому следует ожидать, что при правильном выборе параметров априорного распределения р (х) качество оценки МАВ выше качества оценки МП.

В самом деле, если, например, рассмотреть линейную дискретную систему, описываемую уравнениями состояния и наблюдения вида

и решить задачу идентификации вектора состояния х (0) по методу МАВ и по методу МП, то дисперсии ошибок оценок МП и МАВ определяются формулами [121.

где.

Отсюда видно, что дисперсия ошибки оценки по методу МАВ меньше, чем по методу МП (причем обе оценки получаются несмещенными). Здесь имеется в виду, что параметры априорного распределения, используемого для улучшения алгоритма идентификации, выбраны правильно. Однако, как видно из формулы Байеса (8.50), при ошибочном выборе априорного распределения оценка МП может оказаться лучше оценки МАВ. Кроме того, если неизвестные параметры распределения равномерно распределены или если есть значительная неопределенность в априорном распределении (т. е. матрица ковариаций V_x0 велика), то методы идентификации, но максимуму апостериорной вероятности и максимуму правдоподобия равнозначны по своей эффективности.

В начале предыдущего раздела были рассмотрены основные этапы байесовского подхода к решению задачи идентификации на примере статической задачи наблюдения. Здесь на основе той же процедуры будет сформулирована общая схема решения задачи оценки по критерию МАВ на примере полной динамической модели нелинейной дискретной системы, заданной соотношениями (8.33)—(8.34). В целях упрощения выкладок обозначим совокупность векторов х (0), х (1),.. ., х (N) и у (1), у (2),. .. … у (N) соответственно через X (TV) и Y (N). Условную плотность вероятности X относительно результатов измерений Y обозначим через р [X (N)IY (AT)]. Предполагается, что плотность р [х (0)] известна и соответствующее распределение является нормальным со средним X (0) и ковариационной матрицей V^.

В соответствии с критерием МАВ под наилучшей оценкой понимается такая оценка, которая определяется максимизацией по X условной плотности распределения р [Х|Y ] на всем интервале наблюдений. Таким образом, основой расчета является определение плотности распределения р [Х[Y].

По формуле Байеса имеем.

Для решения задачи необходимо определить все члены в правой части формулы (8.51). Поскольку v (к) — гауссовская величина, то при известном х (А:) плотность р [у (А)|х (Л)] также является гауссовской, поэтому можно записать.

Второй множитель в числителе формулы (8.51) представим в развернутом виде, пользуясь определением условной вероятности.

По условию задачи помеха w (/с) — гауссовская марковская последовательность, следовательно, последовательность х (к) также марковская, т. е.

С учетом этого равенства соотношение (8.53) примет вид.

где р[х (к) | х (к — 1)] — гауссовские плотности.

Таким образом, задача определения множителя р [X (N)] решена: плотность р (X (N) 1 образована из гауссовских компонент и, согласно уравнению состояния (8.33), имеет среднее значение f [х (к—1), А:—1J и ковариационную матрицу.

Остается определить знаменатель формулы Байеса. Величину р [Y (N) ] можно рассматривать как нормировочную константу, так как плотность р [Y (А^)1 не зависит от х (к) и является известной величиной в процессе максимизации. Подставляя выражения (8.52) и (8.54) в формулу Байеса (8.51), перепишем ее в развернутом виде:

|.

где.

а предэкспонента А, не зависит от х (к).

Из структуры выражения (?.55) видно, что его максимизация эквивалентна минимизации взятого с обратным знаком натурального логарифма правой части соотношения (8.55):

В зависимости от того, каким способом выполняется минимизация функционала (8.56), вычислительные методы идентификации можно разделить на две группы: прямые и косвенные (непрямые). Первую группу составляют методы непосредственной минимизации функционала (8.56) на каждом шаге интервала наблюдения. Сюда можно отнести градиентный метод и его многочисленные модификации, метод стохастической аппроксимации и др. Второй подход к решению задачи идентификации состоит в применении принципов теории оптимального управления на каждом шаге итерации. В частности, для минимизации функционала (8.56) применяется либо принцип максимума Понтрягина, либо метод неопределенных множителей Лагранжа. Соответствующая система канонических уравнений с необходимыми граничными условиями образует нелинейную двухточечную (начало и конец интервала наблюдения) краевую задачу (ДТКЗ), решением которой и является искомая оценка для фиксированного интервала наблюдения. Вычислительные методы решения двухточечных краевых задач, которые часто возникают в теории оптимизации, образуют группу так называемых непрямых вычислительных методов решения задач идентификации. К ним можно отнести метод квазилинеаризации, метод прогонки, метод инвариантного погружения и др.

Сформулируем двухточечную краевую задачу, возникающую при][ использовании дискретного принципа максимума для минимизации функционала (8.56) при ограничении, задаваемом разностным уравнением состояния (8.33). Гамильтониан рассматриваемой задачи имеет вид.

где

Запишем канонические уравнения:

и граничные условия.

Уравнения (8.57)—(8.59) с граничными условиями (8.60) —.

(8.61) представляют двухточечную краевую задачу (ДТКЗ), решением которой является искомая оценка.

Покажем теперь, что обобщенная задача идентификации, т. е. определение неизвестных параметров, укладывается в рамки рассмотренной схемы задачи оценки. Допустим, что динамическая система описывается следующими уравнениями состояния и наблюдения:

где а, b, с, d, е — векторы постоянных параметров, подлежащих определению; а — вектор неизвестных параметров, входящих в уравнения состояния динамической системы; d — вектор неизвестных параметров математической модели наблюдения; Ь — вектор неизвестных параметров входного шума объекта; с — вектор неизвестных средних значений шума на входе объекта; е — вектор неизвестных средних значений помех измерений.

Определим расширенный вектор состояния x*^r = [x⁷a^Tb^Tc^rd⁷e^/] и к исходному уравнению (8.62) добавим недостающие дифференциальные уравнения состояния, а = 0; 6 = 0; 6 = 0; 9 = 0; 6 = 0, аналогично тому, как это делалось в задаче поиска кинетических констант системы химических реакций, рассмотренной выше.

Для численного решения задачи оценки расширенного вектора состояния интервал наблюдения системы необходимо разбить на N участков (где N определяется требуемой точностью решения) и произвести аппроксимацию непрерывных уравнений.

(8.62) и (8.63), записанных теперь относительно расширенного вектора состояния х*, конечно-разностными уравнениями. В результате задача идентификации системы (8.62), (8.63) сводится к только что рассмотренной задаче оценки переменных состояния дискретной многошаговой системы.

Теперь на основании критерия МАВ можно сформулировать соответствующую ДТКЗ и затем решить ее тем или иным методом.

При этом необходимо, чтобы неизвестные параметры (которые рассматриваются как случайные величины) обладали гауссовскими плотностями распределения с известными априори средними значениями и дисперсиями в начальный момент времени. Если эти условия не выполняются, то решение ДТКЗ все же гарантирует получение оценок по методу наименьших квадратов с функцией штрафа (8.56).

Изложенная схема решения задачи идентификации отнюдь не является универсальной. Она обладает существенными ограничениями, связанными с теми допущениями, которые заложены в исходной постановке задачи. Перечислим наиболее важные с практической точки зрения ситуации, которые не укладываются в рамки рассмотренной схемы решения задачи идентификации: неизвестные параметры не являются постоянными, а «плывут» во времени; отсутствует априорная информация о дисперсии ошибок измерений; шум объекта и помехи измерений являются стационарными случайными процессами, отличными от белого шума; шум объекта является нестационарным случайным процессом; шум объекта и помехи измерений коррелированы.

Перечисленные ситуации нельзя считать экзотическими. Они весьма характерны для процессов химической технологии. Практически каждый из перечисленных случаев осложнения задачи идентификации требует применения специальных приемов и методов, которые в значительной мере определяются конкретными условиями задачи. Общие методы преодоления указанных трудностей находятся в настоящее время в стадии разработки. Тем не менее отдельные тенденции и пути в решении этих задач видны уже сейчас.

Так, например, при идентификации параметров, меняющихся во времени, представляется целесообразным представить неизвестный параметр как случайный процесс, порожденный линейной марковской моделью вида.

т. е. в той же форме, в которой заданы уравнения состояния исходной динамической системы, после чего можно осуществить процедуру построения расширенного вектора состояния. При этом уравнение состояния (8.64) для параметра желательно подобрать так, чтобы априорное распределение параметра а (t) было гауссовским с известным средним значением а (t₀) и дисперсией V_а (/₀), а составляющая tj (t) являлась бы гауссовским белым шумом с известным средним значением и интенсивностью.

Трудности, связанные с отсутствием априорной информации о дисперсиях шумов объекта и наблюдений, заключаются в том, что эти дисперсии входят в неэкспоненциальную часть штрафной функции МАВ, что резко усложняет формулировку критерия оптимальности и не позволяет получить его в форме (8.56). Один из возможных путей преодоления этих трудностей состоит в том, что заранее предполагают равномерное распределение априорных значений параметров и в этих предположениях доводят задачу до конца [12]. Другим возможным методом является решение задачи идентификации по критерию максимума правдоподобия (МП), когда максимизируется условная плотность р IY (N)IX] относительно X. Как уже упоминалось, данный подход пе требует никаких априорных знаний о подлежащих оцениванию параметрах.

Если случайная помеха на входе объекта по своим статистическим характеристикам существенно отличается от белого шума, то для реализации изложенной выше схемы решения задачи можно попытаться расширить вектор состояния системы (например, представляя входной шум в виде марковской модели) так, чтобы входной шум для системы с расширенным вектором состояний стал близким к белому шуму.

Для приближения статистических характеристик помех измерений к характеристикам белого шума иногда применяют операцию многократного дифференцирования вектора измерений [12].

Меры преодоления трудностей, связаппых с нестационарностью входных шумов и помех измерений, аналогичны мерам, которые используются, когда параметры системы изменяются во времени, и которые обсуждены выше.

Дополнительные трудности возникают, когда шумы объекта и помехи измерений коррелированы. В частности, это приводит к усложнению структуры штрафных функций критерия МАВ. Например, пусть система (8.62), (8.63) характеризуется матрицей ковариаций V"_r (к), т. е.

В этом случае функционал (8.56) критерия МАВ примет вид.

где.

Эта структура функционала является основой при формулировке гамильтониана, канонических уравнений ДТКЗ и ее решения одним из упомянутых выше методов. Другие возможные пути преодоления указанных трудностей, возникающих при решении задач оценки параметров и идентификации, а также вычислителе ры? аспекты эти* задач обсуждены, а работах [12, 13],.