Основы теории вероятностей и математической статистики

Для успешного исследования системы посредством моделирования недостаточно просто создать блок-схему системы, преобразовать ее в компьютерную программу и выполнить один или несколько повторных прогонов для каждой из предложенных конфигураций. Такое исследование требует задания математических параметров модели, что невозможно сделать без применения теории вероятностей и статистики. В частности, теория вероятностей и статистика нужны, чтобы понимать, как моделируется вероятностная система, проверять достоверность имитационной модели, выбирать входные распределения вероятностей, генерировать случайные выборки из этих распределений, выполнять статистический анализ выходных данных моделирования и планировать имитационные эксперименты.

Случайные величины и их свойства

Эксперимент — это процесс, результат которого точно не известен. Совокупность всех возможных результатов эксперимента называется пространством выборки и обозначается S. Сами результаты называются элементами выборки в пространстве выборки [6, 9, 16].

Случайная величина — это функция (или правило), которая определяет вещественное число (любое число больше и меньше ) каждому элементу в пространстве выборки 5 [16, 17]. Случайные величины обозначают прописными буквами X, Y, Z, а значения, которые принимают случайные величины, — строчными буквами х, у, г.

Функция распределения вероятностей (иногда именуемая также интегральной функцией распределения вероятностей) случайной величины X определяется для каждого вещественного числа х следующим образом:

(2.1).

где  — вероятность, связанная с событием

Следовательно,  — это вероятность того, что после выполнения эксперимента случайная величина X получит значение, не превышающее число х. Функция распределения имеет такие свойства:

• 1) для всех значений х;
• 2) является неубывающей функцией; т. е., если , тогда
• 3) и (поскольку X принимает только конечные значения) [17,18].

Случайная величина X считается дискретной, если она может принимать значения из счетного множества, например: (счетное множество — это множество возможных значений переменной, взаимно однозначно соответствующих множеству положительных целых чисел; примером несчетного множества являются вещественные числа между О и 1). Следовательно, случайная величина, принимающая только конечное число значений , является дискретной.

Вероятность, с которой дискретная случайная величина X принимает значение , задается как.

для (2.2).

и для нее должно выполняться равенство.

(2.3).

Все вероятностные характеристики величины X могут быть вычислены с помощью функции , именуемой вероятностной мерой дискретной случайной величины X. Если , где а и b — вещественные числа, для которых >, то.

(2.4).

где символ обозначает «содержится в», а суммирование означает сложение всех величин , для которых . Функция распределения дискретной случайной величины X

(2.5).

для всех

Рассмотрим случайные величины, которые могут принимать только несчетно-бесконечное число различных значений (например, все неотрицательные вещественные числа). Случайная величина X считается непрерывной, если существует такая неотрицательная функция , при которой для любого множества вещественных чисел В (например, В может включать все вещественные числа между 1 и 2).

и (2.6).

Таким образом, общая площадь под функцией равна 1. Если X- неотрицательная случайная величина, что часто встречается при моделировании, вторая область интегрирования будет в пределах от 0 до

Все вероятностные характеристики величины X могут (в принципе) вычисляться с помощью функции , которая называется плотностью распределения вероятностей непрерывной случайной величины X.

Для дискретной случайной величины X функция  — это действительная вероятность, связанная со значением х. Однако функция не является вероятностью того, что непрерывная случайная величина X равна х. Для любого вещественного числа х

(2.7).

Так как вероятность, связанная с каждым значением х, равна О, можно дать следующую интерпретацию функции . Если х — это любое число, а , тогда.

(2.8).

что равно площади под функцией между х и . Отсюда следует, что с большей вероятностью непрерывная случайная величина X попадет в интервал, где функция имеет большое значение, чем в интервал, где функция имеет небольшое значение.

Функция распределения непрерывной случайной величины X

(2.9).

для всех

Таким образом, с некоторыми формальными нестрогими допущениями , где  — производная от функции i. Кроме того, если / = [а, Ь, где а и Ь-любые вещественные числа, для которых >, то.

(2.10).

Последнее равенство представляет применение фундаментальной теоремы вычислений, поскольку

При моделировании обычно приходится иметь дело с п (п — положительное целое число) случайными величинами одновременно. Примем , т. е. воспользуемся двумя случайными величинами X и У.

Если X и Y являются дискретными случайными величинами, тогда для всех х, у, где называется совместной вероятностной мерой функции величин X и Y. При этом величины X и Y будут независимыми, если для всех х, у, где функции.

(2.11).

(2.12).

есть безусловные вероятностные меры величин Х и Y.

Случайные величины Х и Y называются совместно непрерывными, если для них существует неотрицательная функция f (x, у), именуемая совместной функцией плотности распределения вероятностей величин Х и Y, определенная для всех множеств вещественных чисел А и В следующим образом:

(2.13).

В этом случае величины 1 и У являются независимыми, если для всех х, у, где функции.

(2.14).

(2.15).

представляют собой плотности безусловного распределения вероятностей соответственно величин Х и Y.

Иными словами, случайные величины Х и Y (как дискретные, так и непрерывные) являются независимыми, если известное значение, которое может принимать одна величина, не сказывается на распределении другой величины. Также, если величины X и Y не являются независимыми, их называют зависимыми.

Рассмотрим еще раз случай с п случайными величинами . В частности, обратимся к некоторым характеристикам отдельной случайной величины Xj и некоторым показателям зависимости, которая может существовать между двумя случайными величинами и .

Среднее значение, или математическое ожидание, случайной величины (где ) обозначается или и определяется как.

(2.16).

Средние значения обладают такими важными свойствами (с и обозначают константу — вещественное число):

• 1) ;
• 2) , даже если зависимые.

Дисперсия случайной величины обозначается или Она определяется как.

(2.17).

Дисперсия является показателем рассеяния случайной величины по отношению к ее среднему значению. Чем больше дисперсия, тем более вероятно, что случайная величина будет принимать значения, далекие от среднего.

Дисперсия имеет такие свойства:

• 1)
• 2)
• 3)

если значения X, являются независимыми (или некоррелированными).

Стандартное отклонение случайной величины определяется как . Наиболее точное толкование стандартного отклонения может быть дано, когда имеет нормальное распределение.

Показателем линейной зависимости между случайными величинами и (где ) является ковариация, которая обозначается или и определяется как.

(2.18).

Ковариации симметричны, т. е. , и если , то

При случайные величины и считаются некоррелированными. Легко доказать, что если и являются независимыми случайными величинами, то . Однако обратное утверждение не является справедливым. Тем не менее, если и являются совместно нормально распределенными случайными величинами с , то они являются также и независимыми.

Приведем два определения, которые помогут уяснить значение ковариации. Если , то и считаются положительно коррелированными величинами. Тогда имеет место тенденция возникать совместно и , а также и . Таким образом, если одна из положительно коррелированных случайных величин имеет большое значение, другая, скорее всего, тоже будет иметь большое значение.

Если Су < 0, то Xj и Xj считаются отрицательно коррелированными величинами. В этом случае тенденцию возникать совместно имеют Xj >ц, — и Xj а также Xt <ц, — и Xj > ц;. Таким образом, если одна из отрицательно коррелированных случайных величин имеет большое значение, другая, скорее всего, будет иметь маленькое значение.

Если Х, Хг, …, Х" представляют собой выходные данные моделирования, часто нужно знать не только среднее значение и дисперсию а?

при I = 1, 2 и, но и показатель зависимости между Xj и Xj при i *j.

Однако сложность использования ковариации С, у в качестве показателя зависимости между иХ/ИXj заключается в том, что она не является безразмерной величиной, что усложняет ее толкование. (Если Xj и Лу? измеряются, например, в минутах, то ковариация С, у будет измеряться в минутах в квадрате.).

В связи с этим в качестве основного показателя линейной зависимости между Су используется корреляция ру, определяемая по формуле.

(2.19).

Корреляцию между Xj и Xj можно обозначать и как Сог (Ау?, Xj). Так как знаменатель в формуле имеет положительное значение, естественно, что корреляция ру будет иметь тот же знак, что и ковариация Су. Более того, -1 < < 1 при всех / и j. Если Ру имеет значение, близкое к +1, то А) и Xj — сильно положительно коррелированные величины. Если Ру близко к -1, то Xj и Xj — сильно отрицательно коррелированные величины [6, 5,9, 16,17].