РК№1
«Теория вероятности»
Ковалев Артём, ИУ3-42Б
Вопрос 1. Сформулировать определения элементарных событий и случайного события. Свойства
операций над событиями (доказать 2-3 свойства). Диаграммы Венна-Эйлера.
Определение. Элементарное событие это каждый отдельный исход эксперимента.
Определение. Событие любое подмножество пространства элементарных событий A .
Определение. Случайное событие это такое событие A, для которого выполняется A
(является собственным подмножеством, то есть A = ) и A = . Замечание: событие называется
достоверным, а невозможным.
Определение. Свойства операций над событиями:
1. Коммутативность: A + B = B + A; AB = BA
2. Ассоциативность: (A + B) + C = A + (B + C); (AB)C = A(BC)
3. Дистрибутивность относительно умножения: (A + B)C = AC + BC
4. Дистрибутивность относительно сложения: (A + C)(B + C) = AB + C
5. Связь обратных событий: Если A B A B
6. Свойства дополнений: A = A; A + A = ; A · A = ; = ; =
7. Законы де Моргана: A + B = A · B; A · B = A + B
8. Операции с невозможным и достоверным событиями: A+ = A; A· = ; A+ =
; A · = A
9. A + A = A; A · A = A
10. Разность событий: A \ B = A · B
Доказательство (Первый закон де Моргана).
A + B = A · B
(
A + B A · B
A · B A + B
(
x A + B x A · B
x A · B x A + B
x A + B x / (A + B) x / A и x / B x A и x B x A · B
Доказательство (Второй закон де Моргана). Доказывается аналогично первому закону.
x A · B x / (A · B) x / A или x / B x A или x B x (A + B)
Отсюда следует, что A · B A + B, и аналогично доказывается обратное включение.
Определение (Диаграммы Венна-Эйлера). Все свойства операций над событиями, за исключением
Законов де Моргана, доказываются наглядно в свободной форме через диаграммы Венна-Эйлера.
Диаграммы позволяют графически представить множества и операции над ними (сложение как объ-
единение областей, умножение как их пересечение и т.д.).
Вопрос 2. Классическое, геометрическое и статистическое определения вероятности. Основные свой-
ства вероятности. Доказать свойства классической вероятности.
Определение (Классическое определение вероятности). В классическом определении вероятности ис-
ходят из следующих предположений:
1. Множество элементарных исходов конечно: || < ;
2. Элементарные события равновозможны, то есть ни одно из них не является объективно более
возможным, чем другие.
Вероятностью события A называют отношение числа N
A
исходов, благоприятствующих условию A,
1
к общему числу N равновозможных элементарных исходов.
P (A) =
N
A
N
Определение еометрическое определение вероятности). Предполагается, что пространство элемен-
тарных событий (ПЭС) замкнутая ограниченная измеримая область в R
n
, A R
n
.
Вероятностью события A называют число P (A), равное отношению меры множества A к мере мно-
жества .
P (A) =
µ(A)
µ(Ω)
где µ(A) мера множества A, то есть длина, площадь или объём (обобщённый объём) в R, R
2
или
R
3
(R
n
) соответственно.
Определение (Статистическое определение вероятности). В основе статистического определения ле-
жит общий принцип, в соответствии с которым методы теории вероятностей применимы только к
следующим испытаниям:
1. Они могут быть (по крайней мере теоретически) повторены бесконечное число раз;
2. При этом имеет место свойство устойчивости частот появления связанных с этими испытаниями
событий.
Вероятностью события A называют число P (A), равное пределу частоты события A при n , где
n число всех проведённых экспериментов.
P (A) = lim
n→∞
n
A
n
где
n
A
n
частота события A, n
A
число исходов, в которых наблюдалось событие A, n число всех
исходов.
Замечания к статистическому определению:
До проведения эксперимента нельзя ничего сказать о вероятности;
Повторить эксперимент бесконечное число раз невозможно;
Не надо проверять равновероятность исходов эксперимента.
Определение. Свойства вероятности:
1. Неотрицательность: P (A) 0;
2. Вероятность достоверного события: P (Ω) = 1;
3. Аксиома сложения для несовместных событий: AB = P (A + B) = P (A) + P (B).
Доказательство (Неотрицательность). Число исходов, благоприятствующих любому событию A, пред-
ставляет собой количество элементов множества, поэтому оно не может быть отрицательным: N
A
0.
Так как общее число исходов N > 0, их отношение всегда неотрицательно:
P (A) =
N
A
N
0
Доказательство (Вероятность достоверного события). Достоверное событие содержит все возмож-
ные исходы данного эксперимента. Это означает, что каждый исход является благоприятствующим
для , следовательно, N
= N. Подставляя это в формулу, получаем:
P (Ω) =
N
N
=
N
N
= 1
Доказательство (Аксиома сложения для несовместных событий). Условие AB = означает, что со-
бытия A и B несовместны, то есть у них нет ни одного общего благоприятного исхода (они не могут
произойти одновременно). В таком случае количество исходов, благоприятствующих наступлению
суммы событий отя бы одного из событий A или B), равно сумме их благоприятных исходов:
N
A+B
= N
A
+ N
B
2
Разделив левую и правую части на общее число исходов N, получаем:
P (A + B) =
N
A+B
N
=
N
A
+ N
B
N
=
N
A
N
+
N
B
N
= P (A) + P (B)
Вопрос 3. Сформулировать определения алгебры и σ-алгебры событий. Аксиоматическое определе-
ние вероятности. Сформулировать и доказать свойства вероятности. Теорема сложения.
Определение. Алгеброй событий W (Ω) называется непустая совокупность подмножеств множе-
ства , удовлетворяющая следующим условиям:
1. W (Ω);
2. A W (Ω) A W (Ω);
3. A, B W (Ω) AB W (Ω).
Определение. Если требовать замкнутость W (Ω) относительно любого счётного числа операций, то
W (Ω) называют σ-алгеброй событий.
Определение. Распределением вероятностей P на алгебре событий W (Ω) называется числовая
функция, определённая на W (Ω) и удовлетворяющая следующим аксиомам:
1. P (A) 0 A W (Ω);
2. P (Ω) = 1;
3. A, B W (Ω), AB = P (A + B) = P (A) + P (B).
Для σ-алгебр аксиома сложения (3) заменяется на следующую (аксиома счётной аддитивности):
A
i
W (Ω), A
i
A
j
= i = j P
X
n=1
A
n
!
=
X
n=1
P (A
n
)
Определение. Вероятностным пространством называют тройку < , W (Ω), P >.
Определение. Свойства вероятности:
1. P () = 0;
2. P (A) = 1 P (A);
3. A, B W (Ω), A B P (A) P (B);
4. A W (Ω) P (A) 1;
5. A, B W (Ω) P (A + B) P (A) + P (B);
Доказательство (1-е свойство).
+ = , = P (Ω + ) = P (Ω) + P () = 1 + P () P () = 0
Доказательство (2-е свойство).
A + A = , AA = P (A + A) = P (A) + P (A) = P (Ω) = 1 P (A) = 1 P (A)
Доказательство (3-е свойство).
A B, B = A + AB, A(AB) = P (B) = P (A) + P (AB)
Поскольку вероятность неотрицательна (P (AB) 0), получаем P (B) P (A).
Доказательство (4-е свойство).
A P (A) P (Ω) = 1
3
Доказательство (5-е свойство). По теореме сложения для двух событий, мы знаем, что:
P (A + B) = P (A) + P (B) P (AB)
Согласно первой аксиоме вероятности, вероятность любого события неотрицательна, следователь-
но P (AB) 0.
Если мы вычтем из суммы P (A) + P (B) неотрицательное число P (AB), результат может только
уменьшиться или остаться прежним. Отсюда напрямую следует:
P (A + B) P (A) + P (B)
Теорема (сложения для двух слагаемых).
A, B W (Ω) P (A + B) = P (A) + P (B) P (AB)
Доказательство.
A + B = A + B \ AB, A · (B \ AB) =
B = AB + B \ AB, AB · (B \ AB) =
Система уравнений вероятностей для этих разбиений:
(
P (A + B) = P (A) + P (B \ AB)
P (B) = P (AB) + P (B \ AB)
Вычитая из первого уравнения второе, получаем:
P (A + B) P (B) = P (A) P (AB) P (A + B) = P (A) + P (B) P (AB)
Теорема (сложения для нескольких слагаемых).
A, B, C W (Ω) P (A + B + C) = P(A) + P (B) + P (C) P (AB) P (AC) P (BC) + P (ABC)
Доказательство. Применяя теорему сложения для двух слагаемых, получаем:
P ((A + B) + C) = P (A + B) + P (C) P ((A + B)C) =
= P (A) + P (B) P (AB) + P (C) P (AC + BC) =
= P (A) + P (B) P (AB) + P (C) (P (AC) + P (BC) P (ABC)) =
= P (A) + P (B) + P (C) P (AB) P (AC) P (BC) + P (ABC)
Вопрос 4. Понятие условной вероятности в рамках классического определения вероятности. Геомет-
рическая интерпретация условной вероятности.
Определение (Условная вероятность). Вероятность события A, вычисленная в предположении, что
событие B уже произошло, называется условной вероятностью события A и обозначается P (A|B).
В рамках классического определения вероятности условную вероятность P (A|B) можно опреде-
лить как отношение числа N
AB
исходов, благоприятствующих совместному осуществлению событий
A и B, к числу N
B
исходов, благоприятствующих событию B, то есть:
P (A|B) =
N
AB
N
B
Путём деления числителя и знаменателя дроби на общее число исходов N получаем:
P (A|B) =
N
AB
/N
N
B
/N
=
P (AB)
P (B)
Таким образом, условной вероятностью события A при условии, что событие B уже произошло,
называется отношение:
P (A|B) =
P (AB)
P (B)
При этом предполагают, что P (B) = 0.
4
Определение еометрическая интерпретация условной вероятности). С точки зрения геометрическо-
го определения вероятности, наступление события B означает, что наше пространство элементарных
исходов (ПЭС) сужается от всего множества до его части множества B. При этом благоприят-
ными исходами для события A теперь являются только те, которые одновременно принадлежат и B,
то есть попадают в область пересечения AB.
Формула геометрической вероятности в данном случае принимает вид:
P (A|B) =
µ(AB)
µ(B)
=
µ(AB)(Ω)
µ(B)(Ω)
=
P (AB)
P (B)
Где µ(AB) и µ(B) меры случае плоских фигур площади) пересечения множеств (кругов)
A и B, и множества B соответственно, а µ(Ω) мера всего пространства.
Вопрос 5. Сформулировать определения зависимых и независимых событий. Сформулировать и до-
казать свойства зависимых и независимых событий.
Определение (Независимое событие). Случайное событие A W (Ω) называется независимым от
B W (Ω) (при условии, что P (B) > 0), если его вероятность не зависит от того, произошло событие
B или нет. Это записывается как:
P (A|B) = P (A)
Определение (Зависимое событие). Если условная вероятность события A при условии наступления
B не равна его безусловной вероятности, то есть P (A|B) = P (A), то говорят, что событие A зависит
от события B.
Теорема (Взаимность зависимости). Пусть A, B W (Ω), P(A) > 0, P (B) > 0. Тогда событие A
зависит от события B тогда и только тогда, когда событие B зависит от события A.
Доказательство. Пусть событие A не зависит от события B P (A|B) = P (A). Тогда по теореме
умножения:
P (AB) = P (A)P (B|A) = P (B)P (A|B)
Так как P (A|B) = P (A), получаем:
P (A)P (B|A) = P (B)P (A) P (B|A) = P (B)
Следовательно, событие B не зависит от события A. Обратное доказывается аналогично.
Теорема (Критерий независимости через произведение). Пусть A, B W (Ω), P (A) > 0, P (B) > 0.
Тогда события A и B независимы тогда и только тогда, когда P (AB) = P (A) · P (B).
Доказательство (Необходимость). Пусть события A и B независимы P (A|B) = P (A). По теореме
умножения:
P (AB) = P (B)P (A|B) = P (B)P (A) = P (A)P (B)
Доказательство (Достаточность). Пусть P (AB) = P (A) · P (B). По теореме умножения P(AB) =
P (B)P (A|B). Отсюда:
P (A)P (B) = P (B)P (A|B) P (A|B) = P (A)
Следовательно, событие A не зависит от события B и наоборот.
Теорема (Независимость противоположных событий). Пусть события A, B W (Ω) независимы. Тогда
независимы и следующие пары: A и B, A и B, A и B.
Доказательство. Пусть события A, B W (Ω) независимы, то есть P (AB) = P (A)P (B). Используя
свойство достоверного события = A + A 1 = P (A) + P (A), распишем вероятность события B:
P (B) = P (B · Ω) = P (B · (A + A)) = P (AB) + P (AB)
Выразим отсюда P (AB):
P (AB) = P (B) P (AB) = P (B) P (A) · P (B) = P (B) · (1 P (A)) = P (B) · P (A)
Поскольку P(AB) = P (A)P (B), события A и B независимы. Для остальных пар доказательство
аналогично.
5
Вопрос 6. Сформулировать определение условной вероятности. Сформулировать и доказать теоремы
умножения для зависимых и независимых событий.
Определение (Условная вероятность). Вероятность события A, вычисленная в предположении, что
событие B уже произошло, называется условной вероятностью события A и обозначается P (A|B).
Условной вероятностью события A при условии, что событие B уже произошло, называется от-
ношение:
P (A|B) =
P (AB)
P (B)
При этом предполагают, что P (B) = 0.
Теорема.
1) Для двух событий:
В общем случае (для зависимых событий):
P (AB) = P (A) · P (B|A), P (A) > 0
P (AB) = P (B) · P (A|B), P (B) > 0
Для независимых событий:
P (AB) = P (A) · P (B)
2) Для n событий:
В общем случае (для зависимых событий):
P (A
1
, A
2
, . . . , A
n
) = P (A
1
) · P (A
2
|A
1
) · P (A
3
|A
1
A
2
) · · · · · P (A
n
|A
1
A
2
. . . A
n1
)
Для независимых в совокупности событий:
P (A
1
, A
2
, . . . , A
n
) = P (A
1
) · P (A
2
) · · · · · P (A
n
)
Доказательство.
Доказательство теоремы умножения для зависимых событий:
Вытекает напрямую из определения условной вероятности. По определению:
P (A|B) =
P (AB)
P (B)
и P (B|A) =
P (AB)
P (A)
Умножая первое равенство на P (B), а второе на P (A), получаем искомую теорему умножения:
P (AB) = P (B) · P (A|B) = P (A) · P (B|A)
Доказательство теоремы умножения для независимых событий:
По определению, случайное событие A называется независимым от B, если его вероятность не
зависит от того, произошло событие B или нет, то есть:
P (A|B) = P (A)
Подставим это условие в доказанную выше общую формулу теоремы умножения P (AB) = P (B) ·
P (A|B):
P (AB) = P (B) · P (A)
В обратную сторону:
Пусть P (AB) = P (A)·P (B). По общей теореме умножения мы знаем, что P (AB) = P (B)·P (A|B).
Приравнивая правые части, получаем:
P (A) · P (B) = P (B) · P (A|B) P (A|B) = P (A)
Следовательно, событие A не зависит от события B.
6
Вопрос 7. Сформулировать определение полной группы событий. Сформулировать и доказать тео-
рему полной вероятности. Доказать теорему Байеса.
Определение. События H
1
, . . . , H
n
образуют полную группу попарно несовместных событий, если
выполняются следующие условия:
1. H
1
+ · · · + H
n
= ;
2. H
i
· H
j
= i = j.
События H
1
, . . . , H
n
называются гипотезами.
Теорема (Полная вероятность). Если H
1
, . . . , H
n
образуют полную группу попарно несовместных со-
бытий, то для любого события A W (Ω) справедлива формула:
P (A) =
n
X
k=1
P (H
k
)P (A|H
k
) =
n
X
k=1
P (AH
k
)
Доказательство. Представим событие A в виде произведения A на достоверное событие (сумма
всех гипотез):
A = A = A(H
1
+ · · · + H
n
) = AH
1
+ · · · + AH
n
Так как гипотезы попарно несовместны, то есть H
i
· H
j
= при i = j, то и события AH
i
и AH
j
также
попарно несовместны:
AH
i
· AH
j
= , i = j
Применяя аксиому сложения вероятностей для несовместных событий и теорему умножения P(AH
k
) =
P (H
k
)P (A|H
k
), получаем:
P (A) =
n
X
k=1
P (AH
k
) =
n
X
k=1
P (H
k
)P (A|H
k
)
Теорема (Байеса). Если гипотезы H
1
, . . . , H
n
W (Ω) образуют полную группу попарно несовмест-
ных событий, то A W (Ω):
P (H
k
|A) =
P (H
k
)P (A|H
k
)
P (A)
Где P (H
k
) априорные вероятности гипотезы, а P (H
k
|A) апостериорные вероятности гипотез.
Доказательство. По теореме умножения вероятностей распишем вероятность совместного наступле-
ния событий A и H
k
двумя способами:
P (AH
k
) = P (A)P (H
k
|A)
P (AH
k
) = P (H
k
)P (A|H
k
)
Приравнивая правые части, получаем:
P (A)P (H
k
|A) = P (H
k
)P (A|H
k
)
Разделив обе части на P (A), приходим к искомой формуле Байеса:
P (H
k
|A) =
P (H
k
)P (A|H
k
)
P (A)
Вопрос 8. Сформулировать определение схемы испытаний Бернулли. Сформулировать и доказать
теорему Бернулли и её следствия.
Определение. Схемой Бернулли называется последовательность из n испытаний, удовлетворяю-
щая следующим требованиям:
1. Каждое испытание имеет ровно два исхода: либо появление события A (его называют «успе-
хом»), либо появление дополнительного события A (его называют «неуспехом»);
2. Результат каждого испытания не зависит от того, что произошло в остальных;
7
3. Вероятность появления «успеха» во всех испытаниях одна и та же.
Теорема (Бернулли). Пусть P
n
(k) это вероятность того, что число успехов в серии из n испытаний
будет равно k. Тогда справедлива формула Бернулли:
P
n
(k) = C
k
n
p
k
q
nk
Доказательство. Рассмотрим один конкретный исход серии из n испытаний, в котором событие A
наступило ровно k раз, а событие A (неудача) наступило n k раз. Например, успехи произошли в
первых k испытаниях, а неудачи в остальных:
A · A · . . . · A
| {z }
k раз
· A · A · . . . · A
| {z }
nk раз
Так как по условию схемы Бернулли все испытания независимы, вероятность совместного на-
ступления независимых событий равна произведению их вероятностей. Значит, вероятность появле-
ния именно такой конкретной последовательности равна:
p · p · . . . · p
| {z }
k раз
· q · q · . . . · q
| {z }
nk раз
= p
k
q
nk
Заметим, что ровно k успехов могут распределиться среди n испытаний различными способами.
Количество таких способов равно числу сочетаний из n элементов по k, то есть C
k
n
(мы выбираем k
позиций для успехов из n возможных мест).
Каждая такая конкретная последовательность является несовместным событием по отношению
к любой другой последовательности (исходы не могут наступить одновременно).
По аксиоме сложения вероятностей для несовместных событий, вероятность того, что успех на-
ступит ровно k раз (неважно, в каком порядке), равна сумме вероятностей всех таких благоприятных
последовательностей. Так как их количество равно C
k
n
, а вероятность каждой равна p
k
q
nk
, мы по-
лучаем:
P
n
(k) = p
k
q
nk
+ p
k
q
nk
+ . . . + p
k
q
nk
| {z }
C
k
n
слагаемых
= C
k
n
p
k
q
nk
Следствие.
1. Вероятность того, что число успехов в n испытаниях находится в пределах от k
1
до k
2
:
P
n
(k
1
k k
2
) =
k
2
X
k=k
1
C
k
n
p
k
q
nk
2. Вероятность того, что в серии из n испытаний произойдёт хотя бы один успех:
P
n
(k 1) = 1 q
n
Доказательство (Доказательство 1-го следствия). Обозначим искомое событие как B = {k
1
k k
2
}.
Это событие означает, что в серии испытаний произойдет либо ровно k
1
успехов, либо ровно k
1
+ 1
успехов, . . ., либо ровно k
2
успехов.
Введем события E
i
= {k = i}, означающие, что успех наступил ровно i раз. Событие B можно
представить как сумму этих событий:
B = E
k
1
+ E
k
1
+1
+ . . . + E
k
2
=
k
2
X
i=k
1
E
i
События E
i
попарно несовместны, так как в одной серии из n опытов не может одновременно
быть, например, ровно 2 успеха и ровно 3 успеха.
По теореме сложения вероятностей для несовместных событий, вероятность суммы событий равна
сумме их вероятностей:
P
n
(k
1
k k
2
) = P (B) = P
k
2
X
i=k
1
E
i
!
=
k
2
X
i=k
1
P (E
i
)
8
По доказанной выше формуле Бернулли, вероятность каждого события E
i
равна P
n
(i) = C
i
n
p
i
q
ni
.
Подставляя это в сумму, получаем:
P
n
(k
1
k k
2
) =
k
2
X
i=k
1
C
i
n
p
i
q
ni
Доказательство (Доказательство 2-го следствия). Вероятность того, что в серии из n экспериментов
произойдёт n неуспехов (то есть 0 успехов), по формуле Бернулли равна:
P
n
(0) = C
0
n
p
0
q
n
= 1 · q
n
= q
n
Событие «произошёл хотя бы один успех» (k 1) является противоположным событию «не произо-
шло ни одного успеха» (k = 0). Тогда вероятность обратного события равна:
P
n
(k 1) = 1 P
n
(0) = 1 q
n
9