Несмещенность, состоятельность и эффективность точечных оценок

В результате освоения материала данной главы студент должен: знать

• • основные понятия математической статистики;
• • основные выборочные характеристики;
• • требования, предъявляемые к точечным оценкам;
• • теорему Рао — Фреше — Крамера;
• • понятие асимптотических оценок;
• • понятие количества информации и энтропии;
• • теорему о минимуме информации Фишера, достигаемой на нормальном распределении;

уметь

• • исследовать точечные оценки на несмещенность, состоятельность и эффективность;
• • вычислять информационную энтропию случайной величины; владеть
• • навыками исследования точечных оценок.

Основные понятия математической статистики

Слово «статистика» происходит от лат. status — состояние дел. В науку термин «статистика» ввел в 1746 г. немецкий ученый Г. Ахенваль^[1], предложив заменить название курса «Государствоведение», преподававшегося в университетах Германии, на «Статистика», положив тем самым начало развитию статистики как науки и учебной дисциплины.

Следует разделить предмет статистики и математической статистики.

Статистика — отрасль знаний, которая занимается сбором сведений, их сортировкой, группировкой, проводит изучение массива полученных данных (статистическое исследование), находит полезную информацию для создания количественных и качественных выводов о случайной величине на основе данных массового наблюдения. Решая эти задачи, статистика в большинстве использует готовые привнесенные извне идеи, методы, формулы. Термин «статистика» употребляют также для простого обозначения набора количественных данных.

Про статистику Марк Твен в своем произведении «Главы моей автобиографии» написал: «Существуют три вида обмана: ложь, наглая ложь и статистика». Видимо, он имел ввиду тенденциозную подборку данных, подгонку под известный результат, создание общих выводов на основе нескольких примеров и т. д. Чтобы изъять статистику из этой триады, существует математическая статистика.

Математическая статистика — наука, разрабатывающая математические методы систематизации и использования статистических данных для научных и практических выводов. Она научно обосновывает методы и формулы, разрабатывает приемы статистического наблюдения и анализа статистических данных, которыми следует руководствоваться, ведя наблюдения и их обработку. Математическая статистика опирается на теорию вероятностей, дающую возможность оценить надежность и точность выводов, делаемых на основании ограниченного статистического материала, а также на математический анализ и линейную алгебру как инструменты исследования.

Среди задач, решаемых наукой математической статистикой, перечислим следующие:

• 1) задачи определения закона распределения случайной величины по статистическим данным;
• 2) оценка по выборочным характеристикам исследуемых параметров и функций от них;
• 3) задачи проверки статистических гипотез.

Познакомимся с основными понятиями, которыми оперирует математическая статистика.

Генеральной совокупностью называется выделенное множество объектов произвольной природы, обладающих признаками, доступными для наблюдения и количественного измерения. Объекты, входящие в генеральную совокупность, называются ее элементами, а их общее число — ее объемом N.

Например, генеральной совокупностью может быть население определенного города, а изучаемой случайной величиной — доход отдельного жителя. Для построения функции распределения дохода, нахождения среднего дохода и других характеристик желательно опросить каждого жителя города. Но для многотысячного или миллионного города это невозможно сделать. И тогда опрашивается некоторое количество жителей, т. е. делаются наблюдения: говоря языком математической статистики, из генеральной совокупности извлекаются случайным образом элементы х_ь х₂, …, х_п.

Выборкой называется набор некоторого числа наблюдений из генеральной совокупности. Число сделанных наблюдений называется объемом выборки. Проводится статистический анализ выборки, по результатам которого определяется нужная нам числовая характеристика случайной величины. По выборке мы находим выборочную, или эмпирическую, характеристику, которая отличается от генеральной, или теоретической, характеристики, вычисляемой по всей генеральной совокупности. Задача статистики — построить наблюдения и провести анализ таким образом, чтобы вычисленная по ним выборочная характеристика была максимально близка генеральной характеристике.

Для этого должны быть выполнены некоторые условия.

• 1. Выборка должна репрезентативной, т. е. должно выполняться соответствие характеристик выборки характеристикам всей генеральной совокупности. Репрезентативность определяет, насколько возможно по выборке обобщить результаты исследования на всю генеральную совокупность.
• 2. Выборка должна быть случайной, т. е. все элементы генеральной совокупности имеют одинаковую вероятность попасть в выборку.
• 3. Выборка должна быть массовой. Имея в наблюдениях один-два элемента, невозможно сделать объективные выводы.

После того как выборка сделана, проводится первичная обработка наблюдений. Ряд наблюдений упорядочивается по возрастанию. Полученный ряд называется вариационным рядом. Некоторые наблюдения могут оказаться имеющими одинаковое значение. Вводится понятие варианты. Вариантами называют различные численные значения наблюдений.

Вариационный ряд представляется графически в виде полигона, гистограммы или графика накопленных частот.

Полигоном частот называется ломаная линия, отрезки которой соединяют точки (xj, п,), (х₂, п₂), (х_к, п_к), где х" i = 1, 2, …, к, — варианты (члены вариационного ряда); п_; — количества появлений наблюдения х, в выборке. Полигон используется для изображения выборки в случае дискретных случайных величин.

Гистограмма представляет собой ступенчатую фигуру, состоящую из прямоугольников с основаниями определенной длины Дх, высоты которых равны относительным частотам где пА_х — число наблюдений, попавших в промежуток Дх. ⁷¹

При п —> оо и Дх —> 0 гистограмма сходится по вероятности в каждой точке х к кривой плотности распределения р?(х) случайной величины т. е. для любого е > 0 и любого х.

поэтому используется для изображения эмпирической плотности распределения в случае непрерывных случайных величин.

График накопленных частот — это фигура, строящаяся аналогично гистограмме, с той лишь разницей, что для расчета высот прямоугольников берутся накопленные относительные частоты —, где п_х — число наблюдений, меньших х. ^п

При п —> оо график накопленных частот сходится по вероятности к кривой функции распределения F-_C(x) случайной величины т. е. для любого е > 0 и любого х.

Вследствие этого график накопленных частот используется для изображения эмпирической функции распределения.

• [1] Ахенваль Готфрид (1719—1772) — знаменитый статистик, профессор Геттингенского университета.