РК№1
«Теория вероятности»
Ковалев Артём, ИУ3-42Б
Вопрос 1. Сформулировать определения элементарных событий и случайного события. Свойства
операций над событиями (доказать 2-3 свойства). Диаграммы Венна-Эйлера.
Определение. Элементарное событие — это каждый отдельный исход эксперимента.
Определение. Событие — любое подмножество пространства элементарных событий A ⊂ Ω.
Определение. Случайное событие — это такое событие A, для которого выполняется A ⊂ Ω
(является собственным подмножеством, то есть A = Ω) и A = ∅. Замечание: событие Ω называется
достоверным, а ∅ — невозможным.
Определение. Свойства операций над событиями:
1. Коммутативность: A + B = B + A; AB = BA
2. Ассоциативность: (A + B) + C = A + (B + C); (AB)C = A(BC)
3. Дистрибутивность относительно умножения: (A + B)C = AC + BC
4. Дистрибутивность относительно сложения: (A + C)(B + C) = AB + C
5. Связь обратных событий: Если A ⊂ B ⇒ A ⊃ B
6. Свойства дополнений: A = A; A + A = Ω; A · A = ∅; Ω = ∅; ∅ = Ω
7. Законы де Моргана: A + B = A · B; A · B = A + B
8. Операции с невозможным и достоверным событиями: A+∅ = A; A·∅ = ∅; A+Ω =
Ω; A · Ω = A
9. A + A = A; A · A = A
10. Разность событий: A \ B = A · B
Доказательство (Первый закон де Моргана).
A + B = A · B ⇔
(
A + B ⊆ A · B
A · B ⊆ A + B
⇔
(
x ∈ A + B ⇒ x ∈ A · B
x ∈ A · B ⇒ x ∈ A + B
x ∈ A + B ⇒ x /∈ (A + B) ⇒ x /∈ A и x /∈ B ⇒ x ∈ A и x ∈ B ⇒ x ∈ A · B
Доказательство (Второй закон де Моргана). Доказывается аналогично первому закону.
x ∈ A · B ⇒ x /∈ (A · B) ⇒ x /∈ A или x /∈ B ⇒ x ∈ A или x ∈ B ⇒ x ∈ (A + B)
Отсюда следует, что A · B ⊆ A + B, и аналогично доказывается обратное включение.
Определение (Диаграммы Венна-Эйлера). Все свойства операций над событиями, за исключением
Законов де Моргана, доказываются наглядно в свободной форме через диаграммы Венна-Эйлера.
Диаграммы позволяют графически представить множества и операции над ними (сложение как объ-
единение областей, умножение как их пересечение и т.д.).
Вопрос 2. Классическое, геометрическое и статистическое определения вероятности. Основные свой-
ства вероятности. Доказать свойства классической вероятности.
Определение (Классическое определение вероятности). В классическом определении вероятности ис-
ходят из следующих предположений:
1. Множество элементарных исходов конечно: |Ω| < ∞;
2. Элементарные события равновозможны, то есть ни одно из них не является объективно более
возможным, чем другие.
Вероятностью события A называют отношение числа N
A
исходов, благоприятствующих условию A,
1
к общему числу N равновозможных элементарных исходов.
P (A) =
N
A
N
Определение (Геометрическое определение вероятности). Предполагается, что пространство элемен-
тарных событий (ПЭС) Ω — замкнутая ограниченная измеримая область в R
n
, A ⊂ Ω ⊂ R
n
.
Вероятностью события A называют число P (A), равное отношению меры множества A к мере мно-
жества Ω.
P (A) =
µ(A)
µ(Ω)
где µ(A) — мера множества A, то есть длина, площадь или объём (обобщённый объём) в R, R
2
или
R
3
(R
n
) соответственно.
Определение (Статистическое определение вероятности). В основе статистического определения ле-
жит общий принцип, в соответствии с которым методы теории вероятностей применимы только к
следующим испытаниям:
1. Они могут быть (по крайней мере теоретически) повторены бесконечное число раз;
2. При этом имеет место свойство устойчивости частот появления связанных с этими испытаниями
событий.
Вероятностью события A называют число P (A), равное пределу частоты события A при n → ∞, где
n — число всех проведённых экспериментов.
P (A) = lim
n→∞
n
A
n
где
n
A
n
— частота события A, n
A
— число исходов, в которых наблюдалось событие A, n — число всех
исходов.
Замечания к статистическому определению:
• До проведения эксперимента нельзя ничего сказать о вероятности;
• Повторить эксперимент бесконечное число раз невозможно;
• Не надо проверять равновероятность исходов эксперимента.
Определение. Свойства вероятности:
1. Неотрицательность: P (A) ≥ 0;
2. Вероятность достоверного события: P (Ω) = 1;
3. Аксиома сложения для несовместных событий: AB = ∅ ⇒ P (A + B) = P (A) + P (B).
Доказательство (Неотрицательность). Число исходов, благоприятствующих любому событию A, пред-
ставляет собой количество элементов множества, поэтому оно не может быть отрицательным: N
A
≥ 0.
Так как общее число исходов N > 0, их отношение всегда неотрицательно:
P (A) =
N
A
N
≥ 0
Доказательство (Вероятность достоверного события). Достоверное событие Ω содержит все возмож-
ные исходы данного эксперимента. Это означает, что каждый исход является благоприятствующим
для Ω, следовательно, N
Ω
= N. Подставляя это в формулу, получаем:
P (Ω) =
N
Ω
N
=
N
N
= 1
Доказательство (Аксиома сложения для несовместных событий). Условие AB = ∅ означает, что со-
бытия A и B несовместны, то есть у них нет ни одного общего благоприятного исхода (они не могут
произойти одновременно). В таком случае количество исходов, благоприятствующих наступлению
суммы событий (хотя бы одного из событий A или B), равно сумме их благоприятных исходов:
N
A+B
= N
A
+ N
B
2
Разделив левую и правую части на общее число исходов N, получаем:
P (A + B) =
N
A+B
N
=
N
A
+ N
B
N
=
N
A
N
+
N
B
N
= P (A) + P (B)
Вопрос 3. Сформулировать определения алгебры и σ-алгебры событий. Аксиоматическое определе-
ние вероятности. Сформулировать и доказать свойства вероятности. Теорема сложения.
Определение. Алгеброй событий W (Ω) называется непустая совокупность подмножеств множе-
ства Ω, удовлетворяющая следующим условиям:
1. Ω ⊃ W (Ω);
2. A ∈ W (Ω) ⇒ A ∈ W (Ω);
3. A, B ∈ W (Ω) ⇒ AB ∈ W (Ω).
Определение. Если требовать замкнутость W (Ω) относительно любого счётного числа операций, то
W (Ω) называют σ-алгеброй событий.
Определение. Распределением вероятностей P на алгебре событий W (Ω) называется числовая
функция, определённая на W (Ω) и удовлетворяющая следующим аксиомам:
1. P (A) ≥ 0 ∀A ∈ W (Ω);
2. P (Ω) = 1;
3. A, B ∈ W (Ω), AB = ∅ ⇒ P (A + B) = P (A) + P (B).
Для σ-алгебр аксиома сложения (3) заменяется на следующую (аксиома счётной аддитивности):
A
i
∈ W (Ω), A
i
A
j
= ∅ ∀i = j ⇒ P
∞
X
n=1
A
n
!
=
∞
X
n=1
P (A
n
)
Определение. Вероятностным пространством называют тройку < Ω, W (Ω), P >.
Определение. Свойства вероятности:
1. P (∅) = 0;
2. P (A) = 1 − P (A);
3. A, B ∈ W (Ω), A ⊂ B ⇒ P (A) ≤ P (B);
4. A ∈ W (Ω) ⇒ P (A) ≤ 1;
5. A, B ∈ W (Ω) ⇒ P (A + B) ≤ P (A) + P (B);
Доказательство (1-е свойство).
∅ + Ω = Ω, ∅Ω = ∅ ⇒ P (Ω + ∅) = P (Ω) + P (∅) = 1 + P (∅) ⇒ P (∅) = 0
Доказательство (2-е свойство).
A + A = Ω, AA = ∅ ⇒ P (A + A) = P (A) + P (A) = P (Ω) = 1 ⇒ P (A) = 1 − P (A)
Доказательство (3-е свойство).
A ⊆ B, B = A + AB, A(AB) = ∅ ⇒ P (B) = P (A) + P (AB)
Поскольку вероятность неотрицательна (P (AB) ≥ 0), получаем P (B) ≥ P (A).
Доказательство (4-е свойство).
A ⊆ Ω ⇒ P (A) ≤ P (Ω) = 1
3
Доказательство (5-е свойство). По теореме сложения для двух событий, мы знаем, что:
P (A + B) = P (A) + P (B) − P (AB)
Согласно первой аксиоме вероятности, вероятность любого события неотрицательна, следователь-
но P (AB) ≥ 0.
Если мы вычтем из суммы P (A) + P (B) неотрицательное число P (AB), результат может только
уменьшиться или остаться прежним. Отсюда напрямую следует:
P (A + B) ≤ P (A) + P (B)
Теорема (сложения для двух слагаемых).
A, B ∈ W (Ω) ⇒ P (A + B) = P (A) + P (B) − P (AB)
Доказательство.
A + B = A + B \ AB, A · (B \ AB) = ∅
B = AB + B \ AB, AB · (B \ AB) = ∅
Система уравнений вероятностей для этих разбиений:
(
P (A + B) = P (A) + P (B \ AB)
P (B) = P (AB) + P (B \ AB)
Вычитая из первого уравнения второе, получаем:
P (A + B) − P (B) = P (A) − P (AB) ⇒ P (A + B) = P (A) + P (B) − P (AB)
Теорема (сложения для нескольких слагаемых).
A, B, C ∈ W (Ω) ⇒ P (A + B + C) = P(A) + P (B) + P (C) − P (AB) − P (AC) − P (BC) + P (ABC)
Доказательство. Применяя теорему сложения для двух слагаемых, получаем:
P ((A + B) + C) = P (A + B) + P (C) − P ((A + B)C) =
= P (A) + P (B) − P (AB) + P (C) − P (AC + BC) =
= P (A) + P (B) − P (AB) + P (C) − (P (AC) + P (BC) − P (ABC)) =
= P (A) + P (B) + P (C) − P (AB) − P (AC) − P (BC) + P (ABC)
Вопрос 4. Понятие условной вероятности в рамках классического определения вероятности. Геомет-
рическая интерпретация условной вероятности.
Определение (Условная вероятность). Вероятность события A, вычисленная в предположении, что
событие B уже произошло, называется условной вероятностью события A и обозначается P (A|B).
В рамках классического определения вероятности условную вероятность P (A|B) можно опреде-
лить как отношение числа N
AB
исходов, благоприятствующих совместному осуществлению событий
A и B, к числу N
B
исходов, благоприятствующих событию B, то есть:
P (A|B) =
N
AB
N
B
Путём деления числителя и знаменателя дроби на общее число исходов N получаем:
P (A|B) =
N
AB
/N
N
B
/N
=
P (AB)
P (B)
Таким образом, условной вероятностью события A при условии, что событие B уже произошло,
называется отношение:
P (A|B) =
P (AB)
P (B)
При этом предполагают, что P (B) = 0.
4
Определение (Геометрическая интерпретация условной вероятности). С точки зрения геометрическо-
го определения вероятности, наступление события B означает, что наше пространство элементарных
исходов (ПЭС) сужается от всего множества Ω до его части — множества B. При этом благоприят-
ными исходами для события A теперь являются только те, которые одновременно принадлежат и B,
то есть попадают в область пересечения AB.
Формула геометрической вероятности в данном случае принимает вид:
P (A|B) =
µ(AB)
µ(B)
=
µ(AB)/µ(Ω)
µ(B)/µ(Ω)
=
P (AB)
P (B)
Где µ(AB) и µ(B) — меры (в случае плоских фигур — площади) пересечения множеств (кругов)
A и B, и множества B соответственно, а µ(Ω) — мера всего пространства.
Вопрос 5. Сформулировать определения зависимых и независимых событий. Сформулировать и до-
казать свойства зависимых и независимых событий.
Определение (Независимое событие). Случайное событие A ∈ W (Ω) называется независимым от
B ∈ W (Ω) (при условии, что P (B) > 0), если его вероятность не зависит от того, произошло событие
B или нет. Это записывается как:
P (A|B) = P (A)
Определение (Зависимое событие). Если условная вероятность события A при условии наступления
B не равна его безусловной вероятности, то есть P (A|B) = P (A), то говорят, что событие A зависит
от события B.
Теорема (Взаимность зависимости). Пусть A, B ∈ W (Ω), P(A) > 0, P (B) > 0. Тогда событие A
зависит от события B тогда и только тогда, когда событие B зависит от события A.
Доказательство. Пусть событие A не зависит от события B ⇒ P (A|B) = P (A). Тогда по теореме
умножения:
P (AB) = P (A)P (B|A) = P (B)P (A|B)
Так как P (A|B) = P (A), получаем:
P (A)P (B|A) = P (B)P (A) ⇒ P (B|A) = P (B)
Следовательно, событие B не зависит от события A. Обратное доказывается аналогично.
Теорема (Критерий независимости через произведение). Пусть A, B ∈ W (Ω), P (A) > 0, P (B) > 0.
Тогда события A и B независимы тогда и только тогда, когда P (AB) = P (A) · P (B).
Доказательство (Необходимость). Пусть события A и B независимы ⇒ P (A|B) = P (A). По теореме
умножения:
P (AB) = P (B)P (A|B) = P (B)P (A) = P (A)P (B)
Доказательство (Достаточность). Пусть P (AB) = P (A) · P (B). По теореме умножения P(AB) =
P (B)P (A|B). Отсюда:
P (A)P (B) = P (B)P (A|B) ⇒ P (A|B) = P (A)
Следовательно, событие A не зависит от события B и наоборот.
Теорема (Независимость противоположных событий). Пусть события A, B ∈ W (Ω) независимы. Тогда
независимы и следующие пары: A и B, A и B, A и B.
Доказательство. Пусть события A, B ∈ W (Ω) независимы, то есть P (AB) = P (A)P (B). Используя
свойство достоверного события Ω = A + A ⇒ 1 = P (A) + P (A), распишем вероятность события B:
P (B) = P (B · Ω) = P (B · (A + A)) = P (AB) + P (AB)
Выразим отсюда P (AB):
P (AB) = P (B) − P (AB) = P (B) − P (A) · P (B) = P (B) · (1 − P (A)) = P (B) · P (A)
Поскольку P(AB) = P (A)P (B), события A и B независимы. Для остальных пар доказательство
аналогично.
5
Вопрос 6. Сформулировать определение условной вероятности. Сформулировать и доказать теоремы
умножения для зависимых и независимых событий.
Определение (Условная вероятность). Вероятность события A, вычисленная в предположении, что
событие B уже произошло, называется условной вероятностью события A и обозначается P (A|B).
Условной вероятностью события A при условии, что событие B уже произошло, называется от-
ношение:
P (A|B) =
P (AB)
P (B)
При этом предполагают, что P (B) = 0.
Теорема.
1) Для двух событий:
• В общем случае (для зависимых событий):
P (AB) = P (A) · P (B|A), P (A) > 0
P (AB) = P (B) · P (A|B), P (B) > 0
• Для независимых событий:
P (AB) = P (A) · P (B)
2) Для n событий:
• В общем случае (для зависимых событий):
P (A
1
, A
2
, . . . , A
n
) = P (A
1
) · P (A
2
|A
1
) · P (A
3
|A
1
A
2
) · · · · · P (A
n
|A
1
A
2
. . . A
n−1
)
• Для независимых в совокупности событий:
P (A
1
, A
2
, . . . , A
n
) = P (A
1
) · P (A
2
) · · · · · P (A
n
)
Доказательство.
Доказательство теоремы умножения для зависимых событий:
Вытекает напрямую из определения условной вероятности. По определению:
P (A|B) =
P (AB)
P (B)
и P (B|A) =
P (AB)
P (A)
Умножая первое равенство на P (B), а второе на P (A), получаем искомую теорему умножения:
P (AB) = P (B) · P (A|B) = P (A) · P (B|A)
Доказательство теоремы умножения для независимых событий:
По определению, случайное событие A называется независимым от B, если его вероятность не
зависит от того, произошло событие B или нет, то есть:
P (A|B) = P (A)
Подставим это условие в доказанную выше общую формулу теоремы умножения P (AB) = P (B) ·
P (A|B):
P (AB) = P (B) · P (A)
В обратную сторону:
Пусть P (AB) = P (A)·P (B). По общей теореме умножения мы знаем, что P (AB) = P (B)·P (A|B).
Приравнивая правые части, получаем:
P (A) · P (B) = P (B) · P (A|B) ⇒ P (A|B) = P (A)
Следовательно, событие A не зависит от события B.
6
Вопрос 7. Сформулировать определение полной группы событий. Сформулировать и доказать тео-
рему полной вероятности. Доказать теорему Байеса.
Определение. События H
1
, . . . , H
n
образуют полную группу попарно несовместных событий, если
выполняются следующие условия:
1. H
1
+ · · · + H
n
= Ω;
2. H
i
· H
j
= ∅ ∀i = j.
События H
1
, . . . , H
n
называются гипотезами.
Теорема (Полная вероятность). Если H
1
, . . . , H
n
образуют полную группу попарно несовместных со-
бытий, то для любого события A ∈ W (Ω) справедлива формула:
P (A) =
n
X
k=1
P (H
k
)P (A|H
k
) =
n
X
k=1
P (AH
k
)
Доказательство. Представим событие A в виде произведения A на достоверное событие Ω (сумма
всех гипотез):
A = AΩ = A(H
1
+ · · · + H
n
) = AH
1
+ · · · + AH
n
Так как гипотезы попарно несовместны, то есть H
i
· H
j
= ∅ при i = j, то и события AH
i
и AH
j
также
попарно несовместны:
AH
i
· AH
j
= ∅, i = j
Применяя аксиому сложения вероятностей для несовместных событий и теорему умножения P(AH
k
) =
P (H
k
)P (A|H
k
), получаем:
P (A) =
n
X
k=1
P (AH
k
) =
n
X
k=1
P (H
k
)P (A|H
k
)
Теорема (Байеса). Если гипотезы H
1
, . . . , H
n
∈ W (Ω) образуют полную группу попарно несовмест-
ных событий, то ∀A ∈ W (Ω):
P (H
k
|A) =
P (H
k
)P (A|H
k
)
P (A)
Где P (H
k
) — априорные вероятности гипотезы, а P (H
k
|A) — апостериорные вероятности гипотез.
Доказательство. По теореме умножения вероятностей распишем вероятность совместного наступле-
ния событий A и H
k
двумя способами:
P (AH
k
) = P (A)P (H
k
|A)
P (AH
k
) = P (H
k
)P (A|H
k
)
Приравнивая правые части, получаем:
P (A)P (H
k
|A) = P (H
k
)P (A|H
k
)
Разделив обе части на P (A), приходим к искомой формуле Байеса:
P (H
k
|A) =
P (H
k
)P (A|H
k
)
P (A)
Вопрос 8. Сформулировать определение схемы испытаний Бернулли. Сформулировать и доказать
теорему Бернулли и её следствия.
Определение. Схемой Бернулли называется последовательность из n испытаний, удовлетворяю-
щая следующим требованиям:
1. Каждое испытание имеет ровно два исхода: либо появление события A (его называют «успе-
хом»), либо появление дополнительного события A (его называют «неуспехом»);
2. Результат каждого испытания не зависит от того, что произошло в остальных;
7
3. Вероятность появления «успеха» во всех испытаниях одна и та же.
Теорема (Бернулли). Пусть P
n
(k) — это вероятность того, что число успехов в серии из n испытаний
будет равно k. Тогда справедлива формула Бернулли:
P
n
(k) = C
k
n
p
k
q
n−k
Доказательство. Рассмотрим один конкретный исход серии из n испытаний, в котором событие A
наступило ровно k раз, а событие A (неудача) наступило n − k раз. Например, успехи произошли в
первых k испытаниях, а неудачи — в остальных:
A · A · . . . · A
| {z }
k раз
· A · A · . . . · A
| {z }
n−k раз
Так как по условию схемы Бернулли все испытания независимы, вероятность совместного на-
ступления независимых событий равна произведению их вероятностей. Значит, вероятность появле-
ния именно такой конкретной последовательности равна:
p · p · . . . · p
| {z }
k раз
· q · q · . . . · q
| {z }
n−k раз
= p
k
q
n−k
Заметим, что ровно k успехов могут распределиться среди n испытаний различными способами.
Количество таких способов равно числу сочетаний из n элементов по k, то есть C
k
n
(мы выбираем k
позиций для успехов из n возможных мест).
Каждая такая конкретная последовательность является несовместным событием по отношению
к любой другой последовательности (исходы не могут наступить одновременно).
По аксиоме сложения вероятностей для несовместных событий, вероятность того, что успех на-
ступит ровно k раз (неважно, в каком порядке), равна сумме вероятностей всех таких благоприятных
последовательностей. Так как их количество равно C
k
n
, а вероятность каждой равна p
k
q
n−k
, мы по-
лучаем:
P
n
(k) = p
k
q
n−k
+ p
k
q
n−k
+ . . . + p
k
q
n−k
| {z }
C
k
n
слагаемых
= C
k
n
p
k
q
n−k
Следствие.
1. Вероятность того, что число успехов в n испытаниях находится в пределах от k
1
до k
2
:
P
n
(k
1
≤ k ≤ k
2
) =
k
2
X
k=k
1
C
k
n
p
k
q
n−k
2. Вероятность того, что в серии из n испытаний произойдёт хотя бы один успех:
P
n
(k ≥ 1) = 1 − q
n
Доказательство (Доказательство 1-го следствия). Обозначим искомое событие как B = {k
1
≤ k ≤ k
2
}.
Это событие означает, что в серии испытаний произойдет либо ровно k
1
успехов, либо ровно k
1
+ 1
успехов, . . ., либо ровно k
2
успехов.
Введем события E
i
= {k = i}, означающие, что успех наступил ровно i раз. Событие B можно
представить как сумму этих событий:
B = E
k
1
+ E
k
1
+1
+ . . . + E
k
2
=
k
2
X
i=k
1
E
i
События E
i
попарно несовместны, так как в одной серии из n опытов не может одновременно
быть, например, ровно 2 успеха и ровно 3 успеха.
По теореме сложения вероятностей для несовместных событий, вероятность суммы событий равна
сумме их вероятностей:
P
n
(k
1
≤ k ≤ k
2
) = P (B) = P
k
2
X
i=k
1
E
i
!
=
k
2
X
i=k
1
P (E
i
)
8
По доказанной выше формуле Бернулли, вероятность каждого события E
i
равна P
n
(i) = C
i
n
p
i
q
n−i
.
Подставляя это в сумму, получаем:
P
n
(k
1
≤ k ≤ k
2
) =
k
2
X
i=k
1
C
i
n
p
i
q
n−i
Доказательство (Доказательство 2-го следствия). Вероятность того, что в серии из n экспериментов
произойдёт n неуспехов (то есть 0 успехов), по формуле Бернулли равна:
P
n
(0) = C
0
n
p
0
q
n
= 1 · q
n
= q
n
Событие «произошёл хотя бы один успех» (k ≥ 1) является противоположным событию «не произо-
шло ни одного успеха» (k = 0). Тогда вероятность обратного события равна:
P
n
(k ≥ 1) = 1 − P
n
(0) = 1 − q
n
9