古典機率

基本概念與機率定義

描述真實世界的現象,只要有兩種模型
1.確定現象模型:重複實驗,相同結果:物理實驗
2.隨機現象模型:重複實驗,隨機結果:樂透

定義隨機實驗

互斥事件(mutually exclusive events):
交集空集合、不可能同時發生、不用機率概念

機率定義有三種:
1.古典機率
2.相對次數機率定義
3.主觀機率定義
皆不完美,所以有人進行公設化

公設化機率定義

Kolmogorov三大機率公設(axiom)

條件機率與獨立事件

重要機率定理:
1.全機率定理
2.加法規則
3.擴展加法規則
4.差集
5.對稱差
6.布爾不等式
7.邦弗洛尼不等式
8.DeMorgan's law

若要處理資訊的流入,就必須使用條件機率。條件機率也是現在處理資訊流入的一個好用工具,到處皆可看到

機率列聯表(Contingency Table)

乘法規則(multiplication rule)

彼此不影響對方發生的機率,稱為獨立事件
兩事件獨立,意味著彼此之間不存在資訊價值
e.g.假設抽菸與性別獨立
抽菸機率:0.2
是男是女都是0.2

獨立與互斥表格

完全獨立的條件要注意

串並聯問題
先決條件是元件間,彼此獨立

全機率定理與貝氏定理

分割(Partition)

全機率定理(Law of total probability)
建立在分割
善用機率樹

貝氏定理(Bayes' theorem)
分母即為全機率定理
處理新的資訊流入,即處理事後機率
當B發生時,A1A2A3會如何改變