Минимизация ошибок 2-го рода

Предположим, что вероятность ошибки первого рода не превышает некоторого уровня значимости а, и мы хотим найти критерий, для которого р (8) будет минимальна.

Лемма Неймана — Пирсона. Предположим что 8* критерий следующего вида: для некоторой константы k > 0: гипотеза //₀ принимается, если /₀(х) > kj(х), и отвергается в пользу If, если /₀(х) < kf (х), причем в случае /₀(х) = kf_x (х) принимается Я₀ или If. Если 8 — произвольный другой критерий, для которого а (8) Р (8*). Более того, если а (8) р (8*).

Доказательство. Из теоремы следует, что.

Если а (8) Р (6*).

Если имеем строгое неравенство а (5) Р (5*).

Чтобы проиллюстрировать применение леммы, предположим, что ищется критерий для которого а (8) = 0,05 и Р (8) минимальна. В соответствии с леммой следует искать значение k, для которого а (8*) = 0,05. Тогда при этом критерии р (5*) будет иметь минимальное возможное значение. Если распределение выборки имеет непрерывное распределение, то обычно (но нс всегда) можно найти значение k, при котором а (5*) = а₀.

Для дискретных распределений, как правило, такое к найти не удается.

Пример 10.2. Предположим, что х, …, х" — выборка из Л^г(0, 1), и пусть проверяются гипотезы Я₀: 0 = 0, Яр 0 = 1.

Найдем среди всех критериев, для которых а (б) < 0,05, критерий 5, минимизирующий Р (6). Так как.

то после очевидных преобразований отношение правдоподобия может быть записано в виде.

Из последнего равенства видно, что критерий, при котором Я₀ отвергается, когда отношение подобия больше некоторой положительной константы k > 0, эквивалентен следующему критерию: отвергнуть Я₀, когда Обозначим k' = — н— In k и пусть для к'

2 п

Тогда для критерия б*, отвергающего Я₀, когда х > k а (5*) = = 0,05.

Кроме того, но лемме Неймана — Пирсона б* будет оптимальным критерием в том смысле, что он минимизирует значение Р (б) среди всех критериев, для которых а (б) < 0,05. Найдем k', для которого справедливо (10.3). Когда 0 = 0, то х имеет N (0, 1 /я), распределение; следовательно, Z = п^]/2х имеет стандартное нормальное распределение и уравнение (10.3) перепишется в виде P{Z > n^{{ 2}k') = = 0,05. По таблицам находим, что n^l/2k' = 1,645 или к' = 1,645и~*^/2. Короче говоря, среди всех критериев б, для которых а (б) < 0,05, критерий, при котором Я₀ отвергается, когда х > 1,645лг^{_ 1 2}, оптимален. Найдем ошибку 2-го рода р (б*):

Когда 0 = 1, х имеет распределение N (1, 1 /п)_} поэтому Z' = = п^{1 2}(.г — 1) имеет распределение Л'(0, 1). Следовательно,.

Например, когда п = 9 по таблицам находим, что.

Определим теперь критерий 5, для которого 2а (8) + Р (8) принимает минимальное значение и вычислим сумму, когда п = 9. Из теоремы 10.1 следует, что критерий 5q, для которого сумма 2а (5) + Р (5) минимальна, состоит в том, чтобы отвергнуть 77₀, когда отношение правдоподобия больше 2. В соответствии с рассмотренным примером, это эквивалентно: отвергать 77₀, когда.

— ^{1 1} ,.

х> — + — In2; при м = 9 имеем х > 0, о77. Для этого критерия получаем.

Следовательно, 2а (5) + Р (5) = 0,1856.

Пример 10.3. Пусть х_{у…, х_п — выборка из совокупности, имеющей распределение Бернулли с неизвестным параметром р> и проверяются гипотезы 7/₀: р = 0,2, Н.р = 0,4.

Найдем критерий б, для которого а (б) = 0,05 и Р (8) принимает минимальное значение. Каждое х, принимает значение 0 либо 1. Поэтому если у = Х + … + х_п, то.

Следовательно, отношение правдоподобия равно

Условие f (y)/fo (y) ^> k_} где к — некоторая константа, эквивалентно условию.

На основании леммы Неймана —Пирсона можно найти критерий 5, при котором а (5) = 0,05 и (3(5) принимает минимальное значение. Попытаемся найти значение к', для которого где Y = л.*| +…+ х".

Если справедлива гипотеза Я₀, то Y имеет биномиальное распределение с параметрами п и р = 0,2. Поскольку это дискретное распределение, то не для всех и существует к', при котором справедливо равенство (10.4). Например, при п = 10 по таблицам биномиального распределения находим, что P{Y> 41р = 0,2} = 0,0328 и P{Y> 3р = 0,2} = 0,1209. Следовательно, не существует критической области, для которой а (6) = 0,05.

Поэтому если необходимо использовать критерий 8, определяемый леммой Неймана — Пирсона, то а (6) может быть 0,0328 или 0,1209.

Рандомизированные критерии. В предыдущем примере равенство а (5) = 0,05 может быть достигнуто с использованием так называемого рандомизированного критерия, который состоит в следующем: гипотеза Я₀ отвергается, если у > 4, и принимается, если у < 4; если у = 4, то гипотеза отвергается с вероятностьюр и принимается с вероятностью q_it причем р_ь с/, подбираются таким образом, чтобы вероятность ошибки l-ro рода была равна 0,05. В нашем случае эта ошибка равна а (8) = P{Y> 41р = 0,2} + p_{P{Y = Ар = 0,2} = 0,0328 + 0,0881р_ь

поэтому выбрав р = 0,195, получаем, что а (5) = 0,05.

При применении рандомизации не имеет смысла говорить о критической области. Критерий в этом случае задается критической функцией 0 < ф (.г) < 1, которая равна вероятности отвергнуть Я₀ при наблюдении х.