Upload
ngophuc
View
224
Download
0
Embed Size (px)
Citation preview
dr hab.inż. Katarzyna Zakrzewska, prof.AGH Katedra Elektroniki, AGHe-mail: [email protected]
http://home.agh.edu.pl/~zak
Wykład 2.Prawdopodobieństwo i elementy
kombinatoryki
Wstęp do probabilistyki i statystyki
Wstęp do probabilistyki i statystyki. wykład 2 1
Plan:
Definicja prawdopodobieństwa
Zdarzenie losowe a zdarzenie elementarne
Algebra zdarzeń
Elementy kombinatoryki
Prawdopodobieństwo warunkowe
Wstęp do probabilistyki i statystyki. wykład 2 2
Definicja prawdopodobieństwa
Klasyczna
Geometryczna
Częstościowa (von Misesa)
Aksjomatyczna (Kołmogorowa)
Wstęp do probabilistyki i statystyki. wykład 2 3
Definicja klasyczna prawdopodobieństwa
( )Nn=AP a
Pierwszą (klasyczną) definicję prawdopodobieństwa podał P.S. Laplace w 1812 r. Rozważmy doświadczenie losowe kończące się zawsze dokładnie jednym spośród N jednakowo możliwych wyników.Prawdopodobieństwem zdarzenia A nazywamy stosunek liczby na zdarzeń sprzyjających zdarzeniu A do liczby wszystkich zdarzeń N
A jest podzbiorem tzw. zdarzenia pewnego Ω. A⊂ΩWstęp do probabilistyki i statystyki. wykład 2 4
Definicja geometryczna prawdopodobieństwa
Wstęp do probabilistyki i statystyki. wykład 2 5
( ))()(Gmiaragmiara=AP
Paradoks Bertranda
Wstęp do probabilistyki i statystyki. wykład 2 6
W danym kole prowadzimy „na chybił trafił” ( w sposób losowy) cięciwę.
Jakie jest prawdopodobieństwo, że będzie ona dłuższa od boku trójkąta równobocznego wpisanego w to koło?
Trzy sposoby rozwiązania, trzy różne odpowiedzi: ½, 1/3, ¼.
Przyczyna paradoksu tkwi w tym, że w treści zadania nie sprecyzowano dokładnie, co należy rozumieć przez poprowadzenie średnicy w sposób losowy.
Definicja częstościowa prawdopodobieństwa
Zaproponowana przez R. von Misesa w 1931 r. Nie ma wad definicji klasycznej ani geometrycznej. Jest zgodna z intuicją i z obserwowalną prawidłowością dotyczącą częstości. Nie jest jednak akceptowalna jako definicja pojęcia matematycznego ( a posteriori).
Prawdopodobieństwo zdarzenia A jest to granica częstości tego zdarzenia, gdy liczba doświadczeń n dąży do nieskończoności
Wstęp do probabilistyki i statystyki. wykład 2 7
nAn=AP
n
)(lim)(∞→
Aksjomatyczna definicja prawdopodobieństwa
( ) 1=ΩP
Każdemu zdarzeniu losowemu A przypisujemy liczbę P(A), zwaną prawdopodobieństwem tego zdarzenia, taką że
1. 0 ≤ P(A) ≤ 1.2. Prawdopodobieństwo zdarzenia pewnego jest równe
jedności
3. (przeliczalna addytywność prawdopodobieństwa) Prawdopodobieństwo alternatywy przeliczalnej ilości parami wykluczających się zdarzeń jest równe sumie prawdopodobieństw tych zdarzeń: jeżeli A1, A2, …Є M, przy czym dla każdej pary wskaźników i, j (i≠j) jest Ai ∩ Aj =Ø, to
Wstęp do probabilistyki i statystyki. wykład 2 8
( )∑∞
=
∞
=⎟⎟⎠
⎞⎜⎜⎝
⎛
11 kk
kk AP=AP U
Konsekwencje aksjomatów
Prawdopodobieństwo sumy wzajemnie wykluczających się zdarzeń losowych A i B jest równe sumie prawdopodobieństw tych zdarzeń
» (Kołmogorov, 1933)
( ) ( ) ( ) ∅∩∪ =BAgdzie,BP+AP=BAPczyli:
Wstęp do probabilistyki i statystyki. wykład 2 9
A B
Zdarzenie losowe a zdarzenie elementarne
W każdym doświadczeniu losowym można wyróżnić pewne najprostsze, nierozkładalne, elementarne wyniki (zdarzenia), charakteryzujące się tym, że każde powtórzenie tego doświadczenia kończy się jednym i tylko jednym z nich. Są to zdarzenia elementarne.
Wstęp do probabilistyki i statystyki. wykład 2 10
Dla każdego doświadczenia losowego rozważamy zbiór wszystkich możliwych wyników tego doświadczenia. Poszczególne wyniki nazywamy zdarzeniami elementarnymi. Zbiór wszystkich wyników nazywamy przestrzenią wyników albo przestrzenią (zbiorem) zdarzeń elementarnych i oznaczamy symbolem Ω.
Przykład zdarzenia losowego
Rzucamy monetą dwa razy. Możliwe wyniki to: (o, o) – wyrzucenie dwóch orłów (o, r) – wyrzucenie orła, a potem reszki (r, o) – wyrzucenie reszki, a potem orła (r, r) – wyrzucenie dwóch reszek
Zbiór: Ω=(o, o); (o, r) ; (r, o); (r, r) jest zbiorem zdarzeń elementarnych.
Jeżeli zbiór zdarzeń elementarnych ma n-elementów to zdarzeń losowych jest 2n
Wstęp do probabilistyki i statystyki. wykład 2 11
Przykład zdarzenia losowego
W tej sytuacji możliwych jest 24 zdarzeń losowych.
Wybrane zdarzenia losowe, np.:
A = (o,o); (o,r); (r,o) – wyrzucenie co najmniej 1 orłaB = (o,o); (o,r); - orzeł w pierwszym rzucieG = (o,o) - wyrzucenie dwóch orłówH = (o,r); (r,o) – wyrzucenie dokładnie jednej reszki
Wstęp do probabilistyki i statystyki. wykład 2 12
Przykład do samodzielnego rozwiązania
Dokonać przeglądu wszystkich (uwzględniając zdarzenie pewne i niemożliwe) zdarzeń (jedno-, dwu-, trzy- , cztero-, pięcio- i sześcio-elementowych) w doświadczeniu polegającym na rzucie kostką. Określić przestrzeń zdarzeń elementarnych. Podać liczbę wszystkich możliwych zdarzeń
Wstęp do probabilistyki i statystyki. wykład 2 13
Relacje zdarzeń
Suma zdarzeń – zachodzi co najmniej jedno ze zdarzeń A lub B
Iloczyn zdarzeń – zachodzi zdarzenie A oraz zdarzenie B
A∪B
A∩B
Wstęp do probabilistyki i statystyki. wykład 2 14
A B
A BA A BA∩B
Relacje zdarzeń
Zdarzenie przeciwne – nie zachodzi zdarzenie A
Zdarzenie A pociąga zdarzenie B (operator: zbiór A zawiera się w zbiorze B)
Zdarzenia A i B wzajemnie wykluczające się
A'
A⊂B
∅∩ =BAWstęp do probabilistyki i statystyki. wykład 2 15
Liczba obiektów w prostych sytuacjach kombinatorycznych
W wielu sytuacjach konieczne jest wyznaczenie liczby elementów rozważanego zbioru. Mogą tu być pomocne proste zasady arytmetyczne:reguła dodawaniareguła mnożenia
rzut monetą rzut kostkąwyciąganie kart z talii
Wstęp do probabilistyki i statystyki. wykład 2 16
Reguła dodawania
Jeżeli dwa zdarzenia wzajemnie się wykluczają, tzn. nie mogą wystąpić jednocześnie, wtedy możemy stosować regułę dodawania.
Twierdzenie dotyczące dodawania. Jeżeli zdarzenie e1 można zrealizować na n1sposobów, a zdarzenie e2 na n2 sposobów orazzdarzenia e1 i e2 wzajemnie się wykluczają, toliczba sposobów w jakich realizują się oba zdarzeniawynosi:
n1+ n2
Wstęp do probabilistyki i statystyki. wykład 2 17
Jeżeli rozważany zbiór Z jest sumą, rozłącznych parami podzbiorów,
Z= A1 ∪ A2 ∪ … ∪ Am
i znamy liczbę elementów każdego podzbioru, to liczba elementów zbioru Z jest sumą liczb elementów wszystkich podzbiorów A1, A2, …., Am
Jest to szczególny przypadek zasady włączeń-wyłączeńang. Principle of Inclusion-Exclusion, PIE
Uogólnienie reguły dodawania
|A1 ∪ A2| =|A1| + |A2|
Wstęp do probabilistyki i statystyki. wykład 2 18
Zasada włączeń-wyłączeń, Principle of Inclusion-Exclusion (PIE)
Rozważmy dwa zdarzenia, e1 i e2, dla których możliwe jest wystąpienie odpowiednio n1 i n2rezultatów. Jednak, tylko jedno zdarzenie może zachodzić a nie oba. W tej sytuacji nie stosuje się reguły dodawania. W języku zdarzeń: od sumy wszystkich możliwych wyników należy odjąć liczbę tych, które są wspólne dla obu zdarzeń. W języku zbiorów:
|A1 ∪ A2| =|A1| + |A2| - |A1∩ A2|
Wstęp do probabilistyki i statystyki. wykład 2 19
Reguła mnożenia
Jeżeli dwa zdarzenia nie wykluczają się, tzn. mogą zachodzić osobno, wtedy możemy stosować regułę mnożenia.
Twierdzenie dotyczące mnożenia. Jeżeli pewne doświadczenie można wykonać w mkolejnych etapach, przy czym w k-tym etapie możnauzyskać wk wyników, to liczba wszystkich wynikówdoświadczenia jest równa iloczynowi
w1 · w2 · … · wm
Wstęp do probabilistyki i statystyki. wykład 2 20
Zastosowanie reguł dodawania i mnożenia
Zamek jest strzeżony przez dwie wieże, jedna z nich jest zamknięta kodem dwucyfrowym nieparzystym, druga kodem dwucyfrowym parzystym. Wystarczy złamać kod na jednej wieży, aby wejść. Na ile sposobów możemy wejść do zamku?
Mamy tutaj jednocześnie regułę mnożenia i dodawania.Najpierw mnożenia, wieża z kodem parzystym składa się z 2 cyfr.Możliwe dziesiątki: 2,4,6,8Możliwe jedności: 0,2,4,6,8Zatem z reguły mnożenia kombinacji jest 5×4=20Tak samo w wieży nieparzystej.Możliwe dziesiątki: 1,3,5,7,9Możliwe jedności: 1,3,5,7,9Z reguły mnożenia kombinacji jest 5×5=25Z racji, że mamy „albo” (ta wieża albo tamta) sumujemy nasze wyliczone kombinacje: 25+20=45
21
Wariacje
Wariacją k elementową ze zbioru n elementowego nazywamy każdy ciąg (uporządkowanie) k elementowy utworzony z elementów tego zbioru.
Wstęp do probabilistyki i statystyki. wykład 2 22
Ilość (ciągów) wariacji zależy od tego czy elementy ciągu mogą się powtarzać czy nie. Istotny jest zatem sposób losowania: bez zwracania =bez powtórzeń; ze zwracaniem=z powtórzeniami
Wariacje bez powtórzeń
Przykład: Rozważmy 3-elementowy zbiór Z=a,b,c i wypiszmy wszystkie wariacje 2-wyrazowe bez powtórzeń:
(a,b) (b,a) (a,c) (c,a) (b,c) (c,b)
Wstęp do probabilistyki i statystyki. wykład 2 23
Obliczyć liczbę tych ciągów 3x2=6
)1)...(2)(1()(1
0
)( +−−−=−∏−
=
knnnnin=Vk
i
kn
Ogólnie:
Liczba wariacji bez powtórzeń
Liczbę wariacji k elementowych bez powtórzeń ze zbioru n elementowego można obliczyć ze wzoru:
Wstęp do probabilistyki i statystyki. wykład 2 24
)!(!)(
knn=V k
n −Gdy k=n, tzn. ciąg n elementowy ze zbioru n elementowego (permutacja bez powtórzeń)
Przykład: (abc) (acb) (bac) (bca) (cab) (cba)
Liczba permutacji wynosi n!
Wariacje z powtórzeniami
Przykład: Rozważmy 3-elementowy zbiór Z=a,b,c i wypiszmy wszystkie wariacje 2-wyrazowe z powtórzeniami:
(a,a) (b,a) (c,a)(a,b) (b,b) (c,b)(a,c) (b,c) (c,c)
Wstęp do probabilistyki i statystyki. wykład 2 25
Obliczyć liczbę tych ciągów3x3=32 = 9
Liczba wariacji z powtórzeniami
Liczbę wariacji k elementowych z powtórzeniami ze zbioru n elementowego można obliczyć ze wzoru:
Wstęp do probabilistyki i statystyki. wykład 2 26
kkn n=W )(
Zadanie: Wiele urządzeń elektronicznych wymaga od użytkownika wprowadzenia osobistego kodu złożonego z czterech cyfr. Oblicz, ile jest możliwych kodów.
Rozwiązanie: Każdy kod to czteroelementowa wariacja z powtórzeniami ze zbioru dziesięciu cyfr 0,1,2,3,4,5,6,7,8,9
00010104)4(10 ==W
Kombinacje
Wstęp do probabilistyki i statystyki. wykład 2 27
Kombinacją k wyrazową ze zbioru n elementowego nazywamy każdy k wyrazowy podzbiór (brak uporządkowania) utworzony z elementów tego zbioru.
Ilość (podzbiorów) kombinacji zależy od tego czy elementy podzbioru mogą się powtarzać czy nie. Istotny jest zatem sposób losowania: bez zwracania =bez powtórzeń; ze zwracaniem=z powtórzeniami
Kombinacje bez powtórzeń
Przykład: Rozważmy 3-elementowy zbiór Z=a,b,c i wypiszmy wszystkie kombinacje 2-wyrazowe bez powtórzeń:
a,b a,c b,c
Wstęp do probabilistyki i statystyki. wykład 2 28
Obliczyć liczbę tych podzbiorów 6/2 = 3
!
)()(
kV=C
knk
n
Ogólnie:
Liczba kombinacji bez powtórzeń
Liczbę kombinacji k wyrazowych bez powtórzeń ze zbioru n elementowego można obliczyć ze wzoru:
Wstęp do probabilistyki i statystyki. wykład 2 29
)!(!!)(
knkn=C k
n −
Czyli:
⎟⎠⎞
⎜⎝⎛=n
k
knC
)(
Kombinacje z powtórzeniami
Przykład: Rozważmy 3-elementowy zbiór Z=a,b,c i wypiszmy wszystkie kombinacje 2-wyrazowe z powtórzeniami:
a,a a,b a,c b,b b,c c,c
Wstęp do probabilistyki i statystyki. wykład 2 30
Obliczyć liczbę tych podzbiorów 6
Ogólnie liczba kombinacji z powtórzeniami:
⎟⎠⎞
⎜⎝⎛=
−+ 1)(
kn
k
knc
Podsumowanie metod obliczania liczby możliwych zdarzeń
Elementy kombinatoryki
z powtórzeniami
bez powtórzeń
Wariacje (ciągi) -istotna jest kolejność
Kombinacje (podzbiory)—
kolejność nie jest istotna
bez powtórzeń
Wstęp do probabilistyki i statystyki. wykład 2 31
z powtórzeniami
Kombinatoryka
Wstęp do probabilistyki i statystyki. wykład 2 32
Prawdopodobieństwo warunkoweWprowadzenie:
Interesuje nas częstość występowania daltonizmu wśród ludzi. W związku z tym wybieramy n osób i badamy, które z nich cierpią na daltonizm.
Wstęp do probabilistyki i statystyki. wykład 2 33
Rozwiązanie:A – zdarzenie polegające na tym, że wybrana losowo osoba cierpi na daltonizmn(A) = d oznacza liczbę osób wybranych z n, które cierpią na daltonizm
Częstość występowania daltonizmu dana jest wzorem:
nd=A)(ν
Prawdopodobieństwo warunkowe
Teraz interesuje nas częstość występowania daltonizmu wśród kobiet. Trzeba przeprowadzić nowy eksperyment, wybierając pewną liczbę kobiet (a więc teraz wybór odbywałby się w innej zbiorowości – zbiorowości kobiet, zawartej w poprzednio rozpatrywanej zbiorowości ludzi) i licząc, ile wśród nich jest daltonistek.
Wstęp do probabilistyki i statystyki. wykład 2 34
Jednak ten nowy eksperyment jest zbyteczny. Częstość występowania daltonizmu u kobiet można wyznaczyć za pomocą częstości zaobserwowanych w pierwszym eksperymencie.
Prawdopodobieństwo warunkowe
Wstęp do probabilistyki i statystyki. wykład 2 35
Rozwiązanie:B – zdarzenie polegające na tym, że osoba jest kobietąn(B) = k oznacza liczbę kobiet wśród wybranych n osób
Odpowiednie częstości zdarzeń B i A ∩ B są dane jako:
nk=B)(ν
L=BAn )( ∩
Wśród wybranych kobiet było L daltonistek:
nL=BA )( ∩ν
Prawdopodobieństwo warunkowe
Wstęp do probabilistyki i statystyki. wykład 2 36
Dotychczasowe rozważania dotyczą wszystkich n obserwacji. Ograniczmy się teraz do tych k obserwacji, które dały wynik B, i obliczmy jak często występowało w nich zdarzenie A, tzn. obliczmy zaobserwowaną częstość daltonizmu wśród kobiet.
Zauważamy, że zachodzi:kLBA =)(ν
Dla zaznaczenia, że chodzi obecnie o częstość zdarzenia A w stosunku do tych obserwacji, które dały wynik B przyjmijmy inne oznaczenie:
)()()(
BBABA
ννν ∩
=
Prawdopodobieństwo warunkowe
( ) ( )( )BPBAP=B|AP ∩
Ogólna definicja:
przy założeniu, że P(B) > 0 (tj. zdarzenie B musi być prawdopodobne)
Wstęp do probabilistyki i statystyki. wykład 2 37
Prawdopodobieństwo warunkowe
Użyteczne wzory:
( ) ( )( )
( ) ( )( )
( ) 1
0
=BAPABBPAP=BAPBA
=BAP=BA
ΩAP=AP
⇒⊂
⇒⊂
⇒∅∩
Wstęp do probabilistyki i statystyki. wykład 2 38
dla dowolnego zdarzenia A
Przykład
Rzucamy trzy razy kostką 6-cio-ścienną. Wiemy, że za każdym razem wypadła inna liczba oczek. Jakie jest prawdopodobieństwo, że raz wypadło 5 pod warunkiem że za każdym razem wypadła inna cyfra?
( )
( )
( ) ( )( ) Ω
Ω=BPBAP=B|AP
Ω=BP
Ω=BAP
⋅⋅⋅⋅⋅∩
⋅⋅
⋅⋅∩
456345
456
345
Wstęp do probabilistyki i statystyki. wykład 2 39