Воспользуемся изложенным выше общим методом для решения одной задачи, а именно для нахождения закона распределения суммы двух случайных величин. Имеется система двух случайных величин (X,Y) с плотностью распределения f(x,у). Рассмотрим сумму случайных величин X и Y: и найдем закон распределения величины Z. Для этого построим на плоскости хОу линию, уравнение которой (рис. 7). Это -- прямая, отсекающая на осях отрезки, равные z. Прямая делит плоскость хОу на две части; правее и выше ее; левее и ниже.
Область D в данном случае -- левая нижняя часть плоскости хОу, заштрихованная на рис. 7. Согласно формуле (16) имеем:
Дифференцируя это выражение по переменной z, входящей в верхний предел внутреннего интеграла, получим:
Это -- общая формула для плотности распределения суммы двух случайных величин.
Из соображений симметричности задачи относительно X и Y можно написать другой вариант той же формулы:
который равносилен первому и может применяться вместо него.
Пример композиции нормальных законов. Рассмотрим две независимые случайные величины X и Y, подчиненные нормальным законам:
Требуется произвести композицию этих законов, т. е. найти закон распределения величины: .
Применим общую формулу для композиции законов распределения:
Если раскрыть скобки в показателе степени подынтегральной функции и привести подобные члены, получим:
Подставляя эти выражения в уже встречавшуюся нам формулу
после преобразований получим:
а это есть не что иное, как нормальный закон с центром рассеивания
и среднеквадратическим отклонением
К тому же выводу можно прийти значительно проще с помощью следующих качественных рассуждений.
Не раскрывая скобок и не производя преобразований в подынтегральной функции (17), сразу приходим к выводу, что показатель степени есть квадратный трехчлен относительно х вида
где в коэффициент А величина z не входит совсем, в коэффициент В входит в первой степени, а в коэффициент С -- в квадрате. Имея это в виду и применяя формулу (18), приходим к заключению, что g(z) есть показательная функция, показатель степени которой -- квадратный трехчлен относительно z, а плотность распределения; такого вида соответствует нормальному закону. Таким образом, мы; приходим к чисто качественному выводу: закон распределения величины z должен быть нормальным. Чтобы найти параметры этого закона -- и -- воспользуемся теоремой сложения математических ожиданий и теоремой сложения дисперсий. По теореме сложения математических ожиданий. По теореме сложения дисперсий или откуда следует формула (20).
Переходя от среднеквадратических отклонений к пропорциональным им вероятным отклонениям, получим: .
Таким образом, мы пришли к следующему правилу: при композиции нормальных законов получается снова нормальный закон, причем математические ожидания и дисперсии (или квадраты вероятных отклонений) суммируются.
Правило композиции нормальных законов может быть обобщено на случай произвольного числа независимых случайных величин.
Если имеется n независимых случайных величин: подчиненных нормальным законам с центрами рассеивания и среднеквадратическими отклонениями,то величина также подчинена нормальному закону с параметрами
Вместо формулы (22) можно применять равносильную ей формулу:
Если система случайных величин (X, Y) распределена по нормальному закону, но величины X, Y зависимы, то нетрудно доказать, так же как раньше, исходя из общей формулы (6.3.1), что закон распределения величины есть тоже нормальный закон. Центры рассеивания по-прежнему складываются алгебраически, но для среднеквадратических отклонений правило становится более сложным: , где, r -- коэффициент корреляции величин X и Y.
При сложении нескольких зависимых случайных величин, подчиненных в своей совокупности нормальному закону, закон распределения суммы также оказывается нормальным с параметрами
или в вероятных отклонениях
где -- коэффициент корреляции величин X i , X j , а суммирование распространяется на все различные попарные комбинации величин.
Мы убедились в весьма важном свойстве нормального закона: при композиции нормальных законов получается снова нормальный закон. Это -- так называемое «свойство устойчивости». Закон распределения называется устойчивым, если при композиции двух законов этого типа получается снова закон того же типа. Выше мы показали, что нормальный закон является устойчивым. Свойством устойчивости обладают весьма немногие законы распределения. Закон равномерной плотности неустойчив: при композиции двух законов равномерной плотности на участках от 0 до 1 мы получили закон Симпсона.
Устойчивость нормального закона -- одно из существенных условий его широкого распространения на практике. Однако свойством устойчивости, кроме нормального, обладают и некоторые другие законы распределения. Особенностью нормального закона является то, что при композиции достаточно большого числа практически произвольных законов распределения суммарный закон оказывается сколь угодно близок к нормальному вне зависимости от того, каковы были законы распределения слагаемых. Это можно проиллюстрировать, например, составляя композицию трех законов равномерной плотности на участках от 0 до 1. Получающийся при этом закон распределения g(z) изображен на рис. 8. Как видно из чертежа, график функции g(z) весьма напоминает график нормального закона.
Пусть имеется система двух случайных величин X и Y , совместное распределение которых известно. Ставится задача найти распределение случайной величины . В качестве примеров СВ Z можно привести прибыль с двух предприятий; число определенным образом проголосовавших избирателей с двух разных участков; сумму очков на двух игральных костях.
1.Случай двух ДСВ. Какие бы значения ни принимали дискретные СВ (в виде конечной десятичной дроби, с разным шагом), ситуацию почти всегда можно свести к следующему частному случаю. Величины X и Y могут принимать только целые значения, т.е. где . Если изначально они являлись десятичными дробями, то целыми числами их можно сделать умножением на 10 k . А отсутствующим значениям между максимумами и минимумами можно приписать нулевые вероятности. Пусть известно совместное распределение вероятностей. Тогда, если пронумеровать строки и столбцы матрицы по правилам: , то вероятность суммы:
Элементы матрицы складываются по одной из диагоналей.
2. Случай двух НСВ. Пусть известна совместная плотность распределения . Тогда плотность распределения суммы:
Если X и Y независимы, т.е. , то
Пример 1. X , Y – независимые, равномерно распределенные СВ:
Найдём плотность распределения случайной величины .
Очевидно, что ,
СВ Z
может принимать значения в интервале (c+d
; a+b
), но не при всех x
. За пределами этого интервала . На координатной плоскости (x
, z
) областью возможных значений величины z
является параллелограмм со сторонами x
=с
; x
=a
; z=x+d
; z=x+b
. В формуле для пределами интегрирования будут c
и a
. Однако ввиду того, что в производится замена y=z-x
, при некоторых значениях z
функция . Например, если c
1) c+d ≤ z ≤ a+d . Тогда
2) а+d ≤ z ≤ b+c . Тогда
3) b+c ≤ z ≤ a+b . Тогда
Такое распределение называется законом Симпсона. На рис.8, 9 изображены графики плотности распределения СВ при с =0, d =0.
Чрезвычайно важным объектом теории вероятностей является сумма независимых случайных величин. Именно исследования распределения сумм независимых случайных величин заложили фундамент для развития аналитических методов теории вероятностей.
Распределение суммы независимых случайных величин
В данном разделе мы получим общую формулу, позволяющую вычислить функцию распределения суммы независимых случайных величин, и рассмотрим несколько примеров.
Распределение суммы двух независимых случайных величин. Формула свертки
независимые случайные величины с функциями распределения
соответственно
Тогда функцию распределения F суммы случайных величин
можно вычислить по следующей формуле (формула свертки )
Для доказательства воспользуемся теоремой Фубини.
Аналогично доказывается вторая часть формулы.
Плотность распределения суммы двух независимых случайных величин
Если распределения обеих случайных величины имеют плотности, то плотность суммы этих случайных величин можно вычислить по формуле
Если распределение случайной величины (или ) имеет плотность, то плотность суммы этих случайных величин можно вычислить по формуле
Для доказательства этих утверждений достаточно воспользоваться определением плотности.
Кратные свертки
Вычисление суммы конечного числа независимых случайных величин производится с помощью последовательного применения формулы свертки. Функция распределения суммы k независимых одинаково распределенных случайных величин с функцией распределения F
называется k –кратной сверткой функции распределения F и обозначается
Примеры вычисления распределения сумм независимых случайных величин
В этом пункте приведены примеры ситуаций, при суммировании случайных величин сохраняется вид распределения. Доказательства представляют собой упражнения на суммирование и вычисление интегралов.
Суммы независимых случайных величин. Нормальное распределение
Суммы независимых случайных величин.Биномиальное распределение
Суммы независимых случайных величин.Пуассоновское распределение
Суммы независимых случайных величин.Гамма распределение
Пуассоновский процесс
последовательность независимых одинаково распределенных случайных величин, имеющих экспоненциальное распределение с параметром
Случайная последовательность точек
на неотрицательной полуоси называется пуассоновский (точечный) процесс .
Вычислим распределение числа точек
пуассоновского процесса в интервале (0,t)
эквиваленты, поэтому
Но распределение случайной величины
является распределением Эрланга порядка k, поэтому
Таким образом распределение количества точек пуассоновского процесса в интервале (o,t) это пуассоновское распределение с параметром
Пуассоновский процесс используется для моделирования моментов наступления случайных событий – процесса радиоактивного распада, моментов поступления звонков на телефонную станцию, моментов появления клиентов в системе обслуживания, моментов отказа оборудования.
Воспользуемся изложенным выше общим методом для решения одной задачи, а именно для нахождения закона распределения суммы двух случайных величин. Имеется система двух случайных величин (X,Y) с плотностью распределения f(x,у).
Рассмотрим сумму случайных величин X и Y: и найдем закон распределения величины Z. Для этого построим на плоскости хОу линию, уравнение которой (рис. 6.3.1). Это - прямая, отсекающая на осях отрезки, равные z. Прямая делит плоскость хОу на две части; правее и выше ее ; левее и ниже
Область D в данном случае - левая нижняя часть плоскости хОу, заштрихованная на рис. 6.3.1. Согласно формуле (6.3.2) имеем:
Это - общая формула для плотности распределения суммы двух случайных величин.
Из соображений симметричности задачи относительно X и Y можно написать другой вариант той же формулы:
Требуется произвести композицию этих законов, т. е. найти закон распределения величины: .
Применим общую формулу для композиции законов распределения:
Подставляя эти выражения в уже встречавшуюся нам формулу
а это есть не что иное, как нормальный закон с центром рассеивания
К тому же выводу можно прийти значительно проще с помощью следующих качественных рассуждений.
Не раскрывая скобок и не производя преобразований в подынтегральной функции (6.3.3), сразу приходим к выводу, что показатель степени есть квадратный трехчлен относительно х вида
где в коэффициент А величина z не входит совсем, в коэффициент В входит в первой степени, а в коэффициент С - в квадрате. Имея это в виду и применяя формулу(6.3.4), приходим к заключению, что g(z) есть показательная функция, показатель степени которой - квадратный трехчлен относительно z, а плотность аспределения; такого вида соответствует нормальному закону. Таким образом, мы; приходим к чисто качественному выводу: закон распределения величины z должен быть нормальным. Чтобы найти параметры этого закона - и - воспользуемся теоремой сложения математических ожиданий и теоремой сложения дисперсий. По теореме сложения математических ожиданий . По теореме сложения дисперсий или откуда следует формула (6.3.7).
Переходя от среднеквадратических отклонений к пропорциональным им вероятным отклонениям, получим:
.
Таким образом, мы пришли к следующему правилу: при композиции нормальных законов получается снова нормальный закон, причем математические ожидания и дисперсии (или квадраты вероятных отклонений) суммируются.
Правило композиции нормальных законов может быть обобщено на случай произвольного числа независимых случайных величин.
Если имеется n независимых случайных величин: подчиненных нормальным законам с центрами рассеивания и среднеквадратическими отклонениями ,то величина также подчинена нормальному закону с параметрами
Если система случайных величин (X, Y) распределена по нормальному закону, но величины X, Y зависимы, то нетрудно доказать, так же как раньше, исходя из общей формулы (6.3.1), что закон распределения величины есть тоже нормальный закон. Центры рассеивания по-прежнему складываются алгебраически, но для среднеквадратических отклонений правило становится более сложным: , где, r - коэффициент корреляции величин X и Y.
При сложении нескольких зависимых случайных величин, подчиненных в своей совокупности нормальному закону, закон распределения суммы также оказывается нормальным с параметрами
где - коэффициент корреляции величин X i , X j , а суммирование распространяется на все различные попарные комбинации величин .
Мы убедились в весьма важном свойстве нормального закона: при композиции нормальных законов получается снова нормальный закон. Это - так называемое «свойство устойчивости». Закон распределения называется устойчивым, если при композиции двух законов этого типа получается снова закон того же типа. Выше мы показали, что нормальный закон является устойчивым. Свойством устойчивости обладают весьма немногие законы распределения. Закон равномерной плотности неустойчив: при композиции двух законов равномерной плотности на участках от 0 до 1 мы получили закон Симпсона.
Устойчивость нормального закона - одно из существенных условий его широкого распространения на практике. Однако свойством устойчивости, кроме нормального, обладают и некоторые другие законы распределения. Особенностью нормального закона является то, что при композиции достаточно большого числа практически произвольных законов распределения суммарный закон оказывается сколь угодно близок к нормальному вне зависимости от того, каковы были законы распределения слагаемых. Это можно проиллюстрировать, например, составляя композицию трех законов равномерной плотности на участках от 0 до 1. Получающийся при этом закон распределения g(z) изображен на рис. 6.3.1. Как видно из чертежа, график функции g(z) весьма напоминает график нормального закона.
Определение . Случайные величины Х 1 , Х 2 , …, Х n называются независимыми, если для любых x 1, x 2 , …, x n независимы события
{ω: Х 1 (ω) < x},{ω: Х 2 (ω) < x},…, {ω: Х n (ω) < x n }.
Из определения непосредственно следует, что для независимых случайных величин Х 1 , Х 2 , …, Х n функция распределения n -мерной случайной величины Х = Х 1 , Х 2 , …, Х n равна произведению функций распределения случайных величин Х 1 , Х 2 , …, Х n
F (x 1 , x 2 , …, x n ) = F (x 1 )F (x 2 )…F (x n ). (1)
Продифференцируем равенство (1) n раз по x 1 , x 2 , …, x n , получим
p (x 1 , x 2 , …, x n ) = p (x 1 )p (x 2 )…p (x n ). (2)
Можно дать другое определение независимости случайных величин.
Если закон распределения одной случайной величины не зависит от того, какие возможные значения приняли другие случайные величины, то такие случайные величины называются независимыми в совокупности.
Например, приобретены два лотерейных билета различных выпусков. Пусть Х – размер выигрыша на первый билет, Y – размер выигрыша на второй билет. Случайные величины Х и Y – независимые, так как выигрыш одного билета никак не повлияет на закон распределения другого. Но если билеты одного выпуска, то Х и Y – зависимые.
Две случайные величины называются независимыми, если закон распределения одной из них не меняется от того, какие возможные значения приняла другая величина.
Теорема 1 (свёртки) или «теорема о плотности суммы 2 случайных величин».
Пусть X = (Х 1 ;Х 2 ) – независимая непрерывная двумерная случайная величина, Y = Х 1 + Х 2 . Тогда плотность распределения
Доказательство . Можно показать, что если , то
где Х = (Х 1 , Х 2 , …, Х n ). Тогда, если Х = (Х 1 , Х 2), то функцию распределения Y = X 1 + X 2 можно определить так (рис. 1) –
В соответствии с определением, функция является плотностью распределения случайной величины Y = X 1 + X 2 , т.е.
p y (t ) = что и требовалось доказать.
Выведем формулу для нахождения распределения вероятностей суммы двух независимых дискретных случайных величин.
Теорема 2. Пусть Х 1 , Х 2 – независимые дискретные случайные величины,
Доказательство . Представим событие A x = {Х 1 +Х 2 = x } в виде суммы несовместимых событий
A x = å(Х 1 = x i ; Х 2 = x – x i).
Так как Х 1 , Х 2 – независимые то P (Х 1 = x i ; Х 2 = x – x i) = P (Х 1 = x i) P (Х 2 = x – x i), тогда
P (A x ) = P (å(Х 1 = x i ; Х 2 = x – x i )) = å(P (Х 1 = x i ) P (Х 2 = x – x i)),
что и требовалось доказать.
Пример 1. Пусть Х 1 , Х 2 – независимые случайные величины, имеющие нормальное распределение с параметрами N (0;1); Х 1 , Х 2 ~ N (0;1).
Найдём плотность распределения их суммы (обозначим Х 1 = x , Y = X 1 +X 2)
Легко видеть, что подинтегральная функция является плотностью распределения нормальной случайной величины с параметрами а = , , т.е. интеграл равен 1.
Функция p y (t ) является плотностью нормального распределения с параметрами а = 0, s = . Таким образом сумма независимых нормальных случайных величин с параметрами (0,1) имеет нормальное распределение с параметрами (0,), т.е. Y = Х 1 + Х 2 ~ N (0;).
Пример 2 . Пусть заданы две дискретные независимые случайные величины, имеющие распределение Пуассона , тогда
где k, m, n = 0, 1, 2, …,¥.
По теореме 2 имеем:
Пример 3. Пусть Х 1, Х 2 – независимые случайные величины, имеющие экспоненциальное распределение . Найдём плотность Y = Х 1 +Х 2 .
Обозначим x = x 1. Так как Х 1, Х 2 – независимые случайные величины, то воспользуемся «теоремой свертки»
Можно показать, что если задана сумма (Х i имеют экспоненциальное распределение с параметром l), то Y =имеет распределение , которое называется распределением Эрланга (n – 1) порядка. Этот закон был получен при моделировании работы телефонных станций в первых работах по теории массового обслуживания.
В математической статистике часто используют законы распределения случайных величин, являющихся функциями независимых нормальных случайных величин. Рассмотрим три закона наиболее часто встречающихся при моделировании случайных явлений.
Теорема 3. Если независимы случайные величины Х 1, ..., Х n , то независимы также функции от этих случайных величин Y 1 = f 1 (Х 1), ...,Y n = f n (Х n ).
Распределение Пирсона (c 2 -распределение ). Пусть Х 1, ..., Х n – независимые нормальные случайные величины с параметрами а = 0, s = 1. Составим случайную величину
Таким образом,
Можно показать, что плотность для х > 0 имеет вид , где k n – некоторый коэффициент для выполнения условия. При n ® ¥ распределение Пирсона стремится к нормальному распределению.
Пусть Х 1 , Х 2 , …, Хn ~ N(a,s), тогда случайные величины ~ N(0,1). Следовательно, случайная величина имеет c 2 распределение с n степенями свободы.
Распределение Пирсона табулировано и используется в различных приложениях математической статистики (например, при проверке гипотезы о соответствии закона распределения).