Иерархическое Байесово моделирование

Иерархическое Байесовское моделирование — это не принципиально новый статистический метод исследования связи между переменными. Напротив, это может быть уже знакомый нам метод, например, линейная регрессия, приведенный в иерархический вид и оцененный методом байесовской статистики. Байесовский анализ базируется на предположении, что вероятность определяется как уровень веры, а не частота, как в классической статистике P. E. Rossi, G. M. Allenby and R. McCulloch Hierarchical Bayes Models: A Practitioners guide 2005 John Wiley & Sons, Ltd. ISBN: 0−470−86 367−6 P 8.

Допустим, сначала нас интересует исключительно статистический вопрос. Для большей наглядности представим, что в клинике работает тест на наличие в истории пациента сердечного приступа. К нам приходит пациент, про которого мы точно знаем, что он пережил сердечный приступ, и мы хотим узнать, насколько тест чувствителен, или как часто тест дает положительный результат при условии, что у пациента уже был сердечный приступ. В байесовской статистике это описывается следующей формулой Высокое значение вероятности будет значить, что тест достаточно чувствителен к наличию сердечного приступа, а низкое — слабую чувствительность.

Однако потом наша задача изменяется. К нам приходит еще один конкретный пациент. Мы не знаем ничего о его болезнях. Предположим, он находится в состоянии комы, и ничего не может рассказать нам. Тем не менее, мы хотим внести в историю его болезней информацию о сердечных приступах. Теперь нас интересует, какова вероятность, что у человека был сердечный приступ, если тест дал нам положительный результат, или. Таким образом, Байесовская теорема позволяет нам переместиться от к.

Байесовская теорема опирается на закон условной вероятности:

В общем виде Байесовская теорема может быть записана следующим образом:

Содержательный смысл байесовской теоремы, как и смысл любой другой теоремы, лишь в оценке вероятностей наступления события Тем не менее, ее замечательное свойство в том, что она позволяет перейти от знания о том, какие были бы данные при условии нашего точного знания о мире, к знанию о том, каким был бы мир при условии имеющихся данных. Иначе это можно записать в следующем виде:

(где? — это параметр, который мы хотим оценить при условии имеющихся данных, а знак "? «означает пропорциональность двух частей уравнения, поскольку наличие знаменателя в формуле Байеса не отменяется. Знаменатель просто не потребуется для дальнейших вычислений) Уравнение z можно также записать в ином виде; в Байесовской статистике левая часть уравнения называется «апостериорная вероятность», а в правой части стоит произведение «правдоподобия» и «априорной вероятности»:

Если мы хотим с помощью байесовского анализа оценить апостериорную вероятность события при условии большого числа данных параметров, то уравнение получится слишком сложным, практически неподъемным для вычислений вручную, поэтому появление методов MCMC стало «спасительным кругом» для байесовского подхода.