Подход на основе теории меры и интерпретации вероятности

Здесь мы собираемся обсудить возможные вероятностные интерпретации колмогоровского подхода на основе теории меры (математические теории мер специального класса). Как мы уже увидели, вероятностные меры могут быть связаны с любыми вероятностными моделями (классической, ансамбль и частотной моделями). Таким образом, в принципе, возможно использовать в подходе на основе теории меры, классическую, ансамбль и частотную интерпретации. Однако, А. Н. Колмогоров предложил не только математический формализм, но также и интерпретацию этого формализма.

• 1. Ансамбль-частотная интерпретация. Колмогоров интерпретировал вероятность следующим образом: «…предположим, что событию А, которое может или не может случиться при условиях Е ставиться в соответствие действительное число Р (А), которое имеет следующие характеристики: (а) практически достоверно то, что когда комплекс условий Е повторяется огромное число раз N, и если п — число свершений события А, то отношение n/N будет мало чем отличаться от величины Р (А); (Ь) если число Р (А) очень мало, практически достоверно то, что когда условия Е реализуются только один раз, событие А может не произойти вовсе». Такая интерпретация есть смесь частотной и ансамбль интерпретаций. На самом деле, (а) — частотная интерпретация, а (Ь)
• — ансамбль интерпретация. Тем нс менее, мы не можем отождествить колмогоровскую интерпретацию ни с одной из них (к примеру, мы не можем предполагать (см. [88], с. 5), что каждое бесконечное повторение условий Е будет генерировать коллектив). Такая смесь интерпретаций порождала некоторые проблемы и играла негативную роль в приложениях к теории вероятностей. Колмогоров не разделял соотношение (меру) в ансамбле и частоту реализаций. Более того, оказалось, что он часто сводил соотношение в ансамбле к соотношению (2.1) для возможных исходов^[1]. Для примера он рассматривал эксперимент с подбрасыванием монеты дважды и получал конечное пространство элементарных событий П = {ГГ. РГ, ГР, РР}, где метки Г, Р обозначают стороны монеты. Я думаю, Колмогоров очень хорошо понимал слабость своей интерпретации. По этой причине он рассмотрел эту проблему снова 30 лет спустя и предложил теорию алгоритмической сложности для случайных последовательностей (см. [7б|). Однако, более поздняя теория есть ни что иное, как попытка оправдать частотную теорию фон Мизеса.

Замечание 6.1. Поскольку ансамбль-частотная интерпретация основана на обоих аргументах: частотном и пропорциональном, область применения формулы Байеса (2.4) ограничивается замечаниями 2.1 и 3.1. По сути, формула Байеса есть дополнительный постулат аксиоматики Колмогорова. Вообще говоря, мы можем использовать теорию Колмогорова (вероятностные пространства) без формулы Байеса (2.4). Такая теория будет описывать физические системы в которых нарушается свойство (2.4). Такая теория была развита Аккарди [1]; мы будем обсуждать ее в связи с квантовой теорией.

Как мы уже увидели, существуют два (существенно различных) вклада Колмогорова в теорию вероятностей. Первый из них — это подход на основе теории меры, а второй ансамбль-частотная интерпретация. Первый — чисто математический, а второй — феменологический. Конечно, возможна комбинация колмогоровского формализма на основе теории и меры и других интерпретаций вероятности. Однако, нам следует обратить внимание на проблему, которая состоит в том, что использование специфической интерпретации влечет некоторые ограничения на колмогоровский подход на основе теории меры. Мы начинаем с ансамбльвероятности.

2. Подход на основе теории меры и ансамбль-интерпретация.

Пусть S произвольный (возможно бесконечный) ансамбль. Пусть Vs =.

(S,}^г, P$) — колмогоровское вероятностное пространство основанное на S. Это пространство можно использовать для вероятностного анализа на ансамбле S. Однако, нам следует помнить, что множество тг$, свойств элементов ансамбля, может отличаться от множества случайных величин RV ('Ps) — Там могут существовать случайные величины? Е RV (Vs) (а, в частности, множества А Е F), которым не соответствует ни одного свойства s Е S. Как уже упоминалось Колмогоровым, анализ, основанный на величинах? Е RV (Vs) может дать некоторые результаты для элементов // Е яд, которые не имеют реального физического смысла. С другой стороны, там есть свойства ц Е its, кото!)ые не являются случайными величинами (т.е. неизмеримыми отображениями // на 'Ps). Другая важная вещь состоит в том, что все распределения вероятностей зависят от ансамбля S.

Рассмотрим следующий пример. Пусть Vj = (flj, РД j = 1,2, — колмогоровские вероятностные пространства и пусть ?,•: —" R слу чайные величины с распределениями вероятностей Р<-. Тогда в рамках Колмогоровской теории всегда возможно построить единое вероятностное пространство V = (Q.J⁷. Р) такое, что там корректно определяются случайные величины ?_} Е RV ('P), j — 1,2, такие, что Р? = Р^. Мы просто полагаем П = Hi х П₂, Т = Т <ЪТч, Р = Pi ®Р2 " ?j (o;i, a;₂) = ?j (uj) — Однако, эго будет выглядеть нелепо, если мы сделаем гоже самое в рамках теории ансамблей. Пусть Qi = Q₂ ⁼ S и € its, j = 1,2. Вообще говоря, бессмысленно использовать ансамбль О = S х 5 для представления свойств первоначального ансамбля S.

3. Подход на основе теории меры и частотная вероятность. Р.

фон Мизес считал, что колмогоровская вероятностная мера есть ни что иное как распределение вероятностей Р _г (на пространстве меток L_x) коллектива г. Колмогоровское вероятностное пространство в теории Мизеса выбрано как V_x = (L_x, Tl_x, Р_г) где, в общем случае, J~l_x есть некоторая <�т-алгебра подмножеств множества L_x. Как мы уже отмечали, в непрерывном случае нс все множества А Е Ti_r имеют частотную интерпретацию. В частности, если подход на основе теории меры используется для описания частотного феномена, то должна контролироваться возможность частотной проверки для событий, А е J-i_r. Тем нс менее, важнее всего постоянно контролировать зависимость вероятностного пространства от коллектива.

Рассмотрим следующий пример (похожий на пример, рассмотренный в рамках теории ансамблей). Пусть x*, j = 1,2, — два коллектива с пространствами меток Lj и распределениями вероятностей P_xj. Пусть Vj = = 1,2, — соответствующие колмогоровские вероят ностные пространства. Пусть Aj € F_Lj. Предположим где-то нам необходимо использовать условную вероятность PfAi/A?) — Каков смысл формулы Байеса (2.4) в этом случае?

4. Подход на основе теории меры и ансамбль-частотная интерпретация. Как мы уже отмечали, обычно колмогоровский формализм на основе теории меры на абстрактных вероятностных пространствах используется вместе с ансамбль-частотной интерпретацией вероятности. Однако, как и в случаях ансамбль и частотной теорий, мы должны быть осторожными с применением абстрактного формализма теории меры. Изучим вопрос выбора вероятностного пространства для конкретного вероятностного эксперимента.

Из части (а) ансамбль-частотной интерпретации вероятности следует, что пространство П должно описывать появления событий в очень длинных последовательностях повторений некоторого условия Е (в математической теории последовательности могут быть бесконечной длины). По-видимому, коллективы могут использоваться для описания таких явлений. Однако, часть (Ь) относят к появлениям событий при единственной реализации условия Е. Вероятность единственной реализации это нонсенс для коллективов. Давайте попытаемся разрешить противоречие между вероятностью в длинной последовательности повторений условия Е и одной реализацией условия Е. Мы можем рассмотреть пространство С всех возможных коллективов которые можно индуцировать повторениями условия Е. Тогда мы можем ввести на С вероятностную меру Р (она, как окажется, имеет смысл ансамбль-вероятности для ансамбля С), которая обеспечила бы математическое описание части (Ь). Последнее должно означать, что если мера Р (А) очень мала, тогда единственная реализация события А (в одном из коллективов х € С) является практически невозможной (с точки зрения теории ансамблей). Однако, в стандартном формализме пространство С, всех коллективов, не используется как пространство элементарных событий П.^[2] Вместо С, используют пространство = L°° всех бесконечных последовательностей меток a 6 L. Такой выбор естественен для теории меры. Однако, это влечёт рассмотрение последовательностей, не имеющих вероятностного смысла.

Теперь построим колмогоровскую вероятностную меру Р^Ко) на пространстве всех последовательностей ft, которая даст (как повсеместно принято) математическую реализацию пунктов (а) и (Ь) колмогоровской интерпретации вероятности. Начнем с рассмотрения симметричной монеты (со сторонами, обозначенными символами 0 и 1), L = {0,1}. Здесь мы можем использовать классическое определение, как отправную точку для конструкции меры Р^Ко1. Так как имеются два равновозможных исхода, классические вероятности Р^с|(0) = Р^с1(1) = ½. Теперь рассмотрим т испытаний для этой монеты и запишем все возможные результаты этих испытаний (3.2). До этого места кажется, что теория развивается тем же путем, что и теория фон Мизеса. Однако, следующий шаг показывает важное различие между двумя подходами. Обозначим через S_m = L^m множество всех векторов длины т с координатами 0,1. Это множество рассматривается как статистический ансамбль. Таким образом, для i = (г*1,…, г_т) € S_m, P^ens(i) = P$_m(i) = 1/|S_TO| = ½^W. Бернулли доказал следующий математический результат для этих ансамбльвероятностей:

Теорема 6.1. (Бернулли) Чем больше т, тем больше доля тех векторов в S_m, в которых относите. льное число нулей (или единиц) отклоняется от величины ½ не более челг на заданное е.

Очевидно, что это результат для пропорциональной вероятности. Но Бернулли и большинство авторов формулировали его как результат для частотной вероятности: если кто-либо подбрасывает ‘правильную' монету достаточно долго, то почти наверное, что относительное число выпадений гербов будет отличаться от ½ менее чем на е.

Колмогоровская вероятностная мера Р^Ко1 на пространстве элементарных событий.

где L = {0.1}, будет определена с помощью ансамбль-вероятностей P$_m. Для i = (*ь…, г_т)? S_m, цилиндрическое подмножество в ft с основанием i определяется как.

Положим P^Kol(2?j) = P$_m(i) = l/2^m. Обозначим a-алгебру, порождённую всеми цилиндрическими подмножествами, через Т (иными словами, это минимальная «т-алгсбра, содержащая все цилиндрические подмножества множества Q). Мера Р^Ко1 продолжается как ^—аддитивная мера на а- алгебру Т.

Обычно полагают, что частотная часть (а) интерпретации может быть описана следующим математическим результатом для меры Р^Ко1.

Теорема 6.2. (Закон больших чисел) Для любого е > О,.

где = rc_m(l;w)/rn и rc_m(l;w) = Y!j=^r.

Однако, как и в классической теореме Бернулли, закон больших чисел не связан с частотной аппроксимацией вероятностей. Эго утверждение об аппроксимации классических вероятностей Р^г1(0) = Р^г,(1) = ½ с помощью ансамбль-вероятностей. С другой стороны, мы могли бы воспользоваться так называемым усиленным законом больших чисел.

Теорема 6.3. (Усиленный закон больших чисел) Найдется подмножество Q' € Т такое, что P^Ko,(Q') = 1, a и_т(l, w) —> ½, т —" оо, для всех последовательностей и> € П'.

Но на основе этого утверждения мы ничего нс можем сказать о статистической стабилизации величины для произвольной фиксированной последовательности ш 6 П. Усиленный закон больших чисел ничего не говорит о частотной аппроксимации ансамбль-вероятностей; это утверждение о частотной аппроксимации классических вероятностей Р^с1(0) = Р^с1(1) = ½ в смысле ансамбль-вероятностей.

Заключение

Закон больших чисел, не может применяться для описания статистической стабилизации частот в выборочных экспериментах.

Теперь построим колмогоровскую меру Р^Ко1 в общем виде. Классическое определение вероятности нс может использоваться дня несимметричной монеты. Мы используем частотное определение. Статистические эксперименты, но подбрасыванию монеты производят коллективы х с множествами меток L = {0,1}. Давайте предположим, что все эти коллективы имеют одно и то же вероятностное распределение: </о = P^fr(0) и q = 1 — <7о = P^fr(l). Для цилиндрического множества В_х = {a; G П: од = г!,…, cok = i*}, i = (ij, …, i/.), ц € L = {0,1}, вероятность определяется как

где |i| = i Н——+ ik-

В симметричном случае (q₀ = щ = ½) происхождение формулы (6.1) было объяснено в рамках теории ансамблей. В общем случае мы нс могли бы применить теорию ансамблей. Здесь можно применить частотные аргументы. Пусть х^ = (т^)^, j = 1.2. …, А коллективы, имеющие одно и тоже множество меток L = {(). 1} и распределение вероятностей Р*О)(0) = г/о, Р_хо>(1) = q 1. Образуем новый коллектив х = (х*)^ с пространством меток L^k = L х • • • х L полагая x_t = (x[^)^k_=l, t = 1,2,… Мы предполагаем, что коллективы х^^} независимы (подробнее, см. разделы 9,10). В частности, из этого следует разложение распределения вероятностей Р_с в произведение распределений вероятностей Р_хщ. Таким образом, для каждого i = (ij,…, й), 6 = 0,1, найдется вероятность.

где /A/(i:х) = пм (х)/М и 1Ум (ц;х^) = Пм (йх®)/М — относительные частоты для меток i € L^k и ц € L (в коллективах х и х^ соответственно). Формула (6.2) может использоваться как мотивировка для определения, но формуле (6.1) вероятностей для цилиндрических подмножеств В множества О.

Вероятность Р^Ко1, определённую на цилиндрических подмножествах, но формуле (6.2), можно продолжить до вероятностной меры, заданной на (7-алгебре J-, множеств из ft, порожденных цилиндрическими подмножествами.

Теперь проанализируем, как вероятность Р^Ко1 служит целям (а) и (Ь). Здесь мы можем также использовать усиленный закон больших чисел:

Теорема 6.4. (Усиленный закон больших чисел для несимметричных распределений) Существует подмножество ft' € Т такое, что P^Ko,(ft') = 1 и г/м (а;ш) = пм (а;ш)/М —> q_Q, M —> оо, а = 0,1, для всех последовательностей и € ft'.

Видимо (с некоторыми замечаниями, как в симметричном случае), это и есть математическое воплощение пункта (а). Часть (Ь) может интерпретироваться следующим способом. Если, например, </о << 1, тогда для каждого j, P^Ko,(u;: loj = 0) = <�у_(| " 1. Таким образом ‘вероятность получить 0 в j-ом испытании практически равна нулю'. На самом деле, проблема сложнее. В несимметричном случае мы не могли бы интерпретировать последовательности u? € ft (даже некоторые из них) как коллективы, порожденные статистическим экспериментом^[3]. Конструкция колмогоровской меры Р^Ко1 показывает, что элементы w € П понимаются в смысле (бесконечных) ‘мульти-меток' для коллектива х = где х = € О, который получен на основе последовательности.

{x^}, j = 1,2,…, независимых коллективов, имеющих одинаковое распределение вероятностей q_a, a = 0,1 (т.с., последовательность (по j =

1,2,…), параллельно пробегающих последовательностей (но / = 1,2,…) подбрасываний монеты). Таким образом, усиленный закон больших чисел говорит, что ‘практически все' эти ‘мульти-метки' обладают свойством статистической стабилизации и пределы относительных частот (странным образом) совпадают с вероятностями q_a, соответствующих коллективам. Значит, вероятностная мера Р^Ко1 описывает частотную аппроксимацию вероятностей только косвенно.

Мера Р^Ко1 описывает только случайные явления которые обладают свойством эргодичности. Эргодичность имеет следующее значение. Вопервых рассмотрим статистический эксперимент в котором одно лицо производит длинный ряд подбрасываний монеты, и = (щ,…, ад/,…), и получает относительные частоты j/д /(а; и) = г?.д/(а; и)/М, а = 0,1. Затем мы рассмотрим другой статистический эксперимент, в котором все лица принадлежащие большому статистическому ансамблю S (населению) совершают одновременно только одно подбрасывание монеты. В результате последнего эксперимента мы получаем соотношения (в 5), i/$(a) = |5(a)|/|5|, a = 0,1, лиц которые получили метку а. Тогда 1/{(а: и) ~ 1/5(0) для большого М и |.5'|. Конечно же, мы не можем предполагать, что все случайные явления обладают свойством эргодичности. Следовательно, в общем случае, ансамбль и частотная интерпретации вероятности должны быть разделены.

Замечание 6.2. Пусть коллективы независимы, но, вообще говоря, неодинаково распределены: Р_ж(«(а) = q_aj, а = 0,1. Тогда мы получаем, что Р._г(i) = П/=1 4i[i- Это может использоваться как мотивация дня определения вероятностей цилиндрических подмножеств множества Q по формуле P^Kol(Z?i) = Снова подчеркнем, что здесь мы не можем использовать аргументы теории ансамблей при определении вероятностей цилиндрических подмножеств.

Заключение

Ансамблъ-частотппая интерпретация Колмогорова может использоваться только для эргодичных случайных явлений.

• [1] Здесь Колмогоров следовал исторической традиции.
• [2]^{Конструктивную} теорию вероятностей (см., например, [T9]) можно рассматриватькак попытку реализовать на строгом математическом уровне идею использования Скак пространства элементарных событий.
• [3] 0 Так им образом, в несимметричном случае закон больших чисел не мог бы интерпретироваться тем же способом, что и в симметричном случае. Только в симметричном случае мы можем интерпретировать некоторые из ‘элементарных событий' ш 6 11как коллективы, порожденные подбрасыванием монеты.