📘 [機率]08- 事件的極限

-
  想要定義事件列(sequence of events)的極限，我們先從比較簡單的狀況下手，先考慮那些具有單調性(monotone)的事件列。   - 如果事件列$(A_n) \in \mathcal{A}$ 是遞增的，也就是 $A_1 \subseteq A_2  \subseteq ...$，則可以定義 $A_n$ 的極限事件為 $A_n$ 的聯集:  $lim_{n\rightarrow \infty}A_n:= \cup_{n=1}^{\infty}{A_n}$   [pic1]   看了示意圖應該會覺得這樣定義非常合情合理吧!   越來越大的 $A_n$ 就是把他們一個一個聯集起來(也會越來越大) 。  - 如果事件列 $(A_n) \in \mathcal{A}$ 反過來是遞減的，也就是 $A_1 \supseteq A_2  \supseteq ...$，則可以定義 $A_n$ 的極限事件為 $A_n$ 的交集:  $lim_{n\rightarrow \infty}A_n:= \cap_{n=1}^{\infty}{A_n}$   [pic2]   那現在會很自然的好奇，如果 $(A_n)$ 沒有那麼好的性質應該要怎麼辦呢?   跟在討論數列的極限時類似，這裡也退而求其次，引進 $limsup$ 與 $liminf$ 的定義。 - $limsupA_n := \cap_{m=1}^{\infty} \cup_{n=m}^{\infty}{A_n}$   值得注意的是後半部聯集的地方 $\cup_{n=m}^{\infty}{A_n}$ 其實是一個遞減的集合列，把 $\cup_{n=m}^{\infty}{A_n}$ 叫做 $B_m$ ，可以看到隨著 $m$ 越來越大，參與聯集的 $A_n$ 就會變少， $B_m$ 自然就會變小。 如此一來， $limsupA_n = \cap_{m=1}^{\infty} B_m=lim_{m \rightarrow \infty}B_m$ ，因為 $B_m$ 是遞減，就可以用最上方極限的定義。...
張貼留言

📘[機率]04- 機率測度(probability measure)

-

一般的測度 $\mu$ 定義在 $\sigma-algebra$ $\mathcal{A}$，映射到$[0,\infty]$  

$\mu:\mathcal{A} \rightarrow [0,\infty]$ 為$A \mapsto \mu(A)$ 滿足  


(i) 空集合的測度為零 $\mu(\phi)=0$  

(ii) 測度一定是非負 $\mu(A) \geq 0$, $\forall A \in \mathcal{A}$  

(iii) 對於兩兩互斥的$A_n,n=1,2,...$，則有$\mu(\cup^\infty_{n=1}A_n) = \sum^\infty_{n=1}\mu(A_n)$ ，此性質稱為"可數可加性"，是對於建立"測度的連續性"的重要角色。  

*註： (iii)其實是一個很合理的條件， 我們會期望在計算"抽象長度"的時候他是可以分開計算再加起來的。


我們從小就聽過"機率的總和要是一" ，這件事是在說明機率空間 $(\Omega,\mathcal{A},P)$ 是一個有限的測度空間，而且他的總測度為一 ，也就是 $P(\Omega)=1$，所以機率作為一個測度也滿足上述的性質（i)~(iii)並且多了一條 $P(\Omega)=1$，那這個條件很自然的隱含了$0 \leq P(A) \leq 1$。  


關於$P$ 的定義域 $\mathcal{A}$ ，可以想像，在做試驗以前，需要先界定每個事件發生的可能性，也就是對於每個$A \in \mathcal{A}$ 都要定出機率值，所以 $P$ 的定義域是事件空間 $\mathcal{A}$ 。換句話說，事件空間決定了整個模型的尺度。


那實際上要如何在 $\mathcal{A}$ 上定義機率(或一般測度)呢 ?  

以樣本空間 $\Omega$ 大小作為分類，有不同的做法  

1. 如果 $\Omega$是至多可數無窮(包括有限的情況)的話，$\mathcal{A}$ 選作 $2^\Omega$，我們只需要定義每一個單點集的機率，剩下的都可以用(iii)可數可加性去做計算:   

對於所有 $\omega_n \in \Omega$ ，定義 $P(\{\omega_n\})=a_n, n=1,2,...$ ，則對於任意 $A \in \mathcal{A}$ 都有 $P(A)=P(\cup_{\omega_n \in A}\{\omega_n\})=\sum_{\omega_n \in A}P(\omega_n)$


eg.丟公平銅板一次 $\Omega=\{H,T\}$，$\mathcal{A}=2^\Omega=\{A_1=\phi,A_2=\{H\},A_3=\{T\},A_4=\{H,T\}\}$  

$\omega_1=H$，$\omega_2=T$，$P(\{\omega_1\})=P(\{\omega_2\})=\frac{1}{2}$  

- $P(A_1)=P(\phi)=0$    #丟出沒有結果的機率是零  

- $P(A_2)=P(\{H\})=\frac{1}{2}$    #丟出H的機率是二分之一  

- $P(A_3)=P(\{T\})=\frac{1}{2}$    #丟出T的機率是二分之一  

- $P(A_4)=P(\{H,T\})=P(\{H\}\cup\{T\})=P(\{H\})+P(\{T\})=1$    #丟出H或T的機率是一  



2. 如果 $\Omega$是不可數的無窮，情況變得很複雜，即使已經選擇 $\mathcal{A}$ 為較小的collection of set，$\mathcal{A}$ 裡還是有太多的元素，需要用到之前提過的"生成"這個概念。

考慮$\mathcal{A}=\sigma(\mathcal{C}),where\ \mathcal{C}\ is\ a\ semi-algebra$，根據Caratheodory extension theorem，可以先在 $\mathcal{C}$ 上定義測度，再拓展到 $\sigma(\mathcal{C})$ 上。


* Recall.

- $\mathcal{C}=\{(-\infty,x],x\in \mathbb{R}\}$ 是一個semi-algebra

- $\sigma(\mathcal{C})=\mathcal{B}$

- $F(x)$ 是"累積分配函數" ，滿足  

    (1)非遞減  

    (2)右連續  

    (3)$\lim_{x \rightarrow -\infty}F(x)=0$ 及 $\lim_{x \rightarrow \infty}F(x)=1$  


如果想要定義在$(\mathbb{R},\mathcal{B})$上的機率 $P_X$，只需要先訂好$(-\infty,x],\ for\ all\ x \in \mathbb{R}$的機率，也就是先訂出"累積分配函數(c.d.f.)" $F: \mathbb{R} \rightarrow [0,1] \ s.t. \quad F(x):=P_X((-\infty,x])$，這遠比訂出所有$B \in \mathcal{B}$的機率還要容易許多。


留言

張貼留言

這個網誌中的熱門文章

🎨[陶藝]02-內點

-
圖片
延續上次的文章，這個也是我期末的系列之一 - interior point(內點）  如果說一個點是這個集合的內點，那以內點為圓心一定要存在一個半徑，形成一個圓，讓整個圓都在集合裡面。 反過來想，在紙上畫一個圓當做集合，圓邊上的點就不是一個內點，因為不管你的半徑取得多小，都會讓一部分的圈落在大圓的外面。 中間的黑球是極限點，黃色的部分是“整個落在集合裡的圓”，這裡是不是用土條圍成半徑，取而代之我是挖一個類似半球的凹槽，感覺更有在“集合裡”的意象。 還有白色圓盤的邊緣特別做了削薄，因為跟內點連結的概念是“開集合”（如果集合裡的點全部都是內點，它就是開集合），所以說開集合一定沒有邊界點，把邊緣削薄就是想體現它沒有邊界的事實。
閱讀完整內容

📘 [機率]08- 事件的極限

-
  想要定義事件列(sequence of events)的極限，我們先從比較簡單的狀況下手，先考慮那些具有單調性(monotone)的事件列。   - 如果事件列$(A_n) \in \mathcal{A}$ 是遞增的，也就是 $A_1 \subseteq A_2  \subseteq ...$，則可以定義 $A_n$ 的極限事件為 $A_n$ 的聯集:  $lim_{n\rightarrow \infty}A_n:= \cup_{n=1}^{\infty}{A_n}$   [pic1]   看了示意圖應該會覺得這樣定義非常合情合理吧!   越來越大的 $A_n$ 就是把他們一個一個聯集起來(也會越來越大) 。  - 如果事件列 $(A_n) \in \mathcal{A}$ 反過來是遞減的，也就是 $A_1 \supseteq A_2  \supseteq ...$，則可以定義 $A_n$ 的極限事件為 $A_n$ 的交集:  $lim_{n\rightarrow \infty}A_n:= \cap_{n=1}^{\infty}{A_n}$   [pic2]   那現在會很自然的好奇，如果 $(A_n)$ 沒有那麼好的性質應該要怎麼辦呢?   跟在討論數列的極限時類似，這裡也退而求其次，引進 $limsup$ 與 $liminf$ 的定義。 - $limsupA_n := \cap_{m=1}^{\infty} \cup_{n=m}^{\infty}{A_n}$   值得注意的是後半部聯集的地方 $\cup_{n=m}^{\infty}{A_n}$ 其實是一個遞減的集合列，把 $\cup_{n=m}^{\infty}{A_n}$ 叫做 $B_m$ ，可以看到隨著 $m$ 越來越大，參與聯集的 $A_n$ 就會變少， $B_m$ 自然就會變小。 如此一來， $limsupA_n = \cap_{m=1}^{\infty} B_m=lim_{m \rightarrow \infty}B_m$ ，因為 $B_m$ 是遞減，就可以用最上方極限的定義。...
閱讀完整內容

📘[機率]07- Lebesgue measure與 counting measure

-
以前，當$X$是連續隨機變數的時候，$P$稱為$X$的機率密度函數(pdf); 當$X$是離散隨機變數的時候，$P$稱為$X$的機率質量函數(pmf)。考慮累積密度函數的話，連續時是積分；離散時是summation，乍看之下連續型隨機變數跟離散型的差別非常巨大，但是在Leb.積分底下，可以視為同一件事。 這裡先介紹在機率論中很重要的兩個測度：Lebesgue measure與 counting measure  在 $(\mathbb{R},\mathcal{B})$上的 Lebesgue measure 記為$m:\mathcal{B} \rightarrow [0,\infty)$ 定義成 $m((a,b])=b-a$，在一維空間上，Lebesgue measure就是算長度；在二維空間就是算面積；三維或更高的維度則是算體積。 Counting measure 叫做“計數測度“，顧名思義，這個測度就是在算 ”集合裡的元素個數“，在這裡把它記為$m_c$。舉個例子，如果 $(\Omega,\mathcal{A})$ 選作 $(\mathbb{N},2^{\mathbb{N}})$ 對於所有 $n \in \mathbb{N}$ 定義 $\mu(\{n\})=1$ (也就是每一個單點集的測度都定為1)及 $\mu(\phi)=0$，這個 $\mu$ 就是在$(\mathbb{N},2^{\mathbb{N}})$上的 Counting measure 重要的是 “對counting measure 的積分其實就是summation”   舉個例子：令 $f:\mathbb{N} \rightarrow \mathbb{R^+} s.t. f(n)=a_n \geq 0$ 搭配$(\mathbb{N},2^{\mathbb{N}},m_c)$   $\int fdm_c =\int \sum_{n=1}^\infty a_n I_{n} dm_c=\sum_{n=1}^\infty \int a_n I_{n} dm_c$$=\sum_{n=1}^\infty a_n m_c(\{n\})=\sum_{n=1}^\infty a_n$ 在機率論中利用 Radon-Nikodyn 定理，得到我們算的機率$P_X$就是$P$...
閱讀完整內容