第一章 ? 概率論的基本概念
一、事件及其關(guān)系與運(yùn)算 ?
?1、樣本空間、樣本點(diǎn)、隨機(jī)事件、必然事件、不可 能事件、基本事件和復(fù)合事件的概念;
?2、事件的包含與相等:若事件A包含事件B,則B的發(fā)生必然導(dǎo)致A的發(fā)生。進(jìn)而有P(AB)=P(B),P(AUB)=P(A) ? ?
3、和事件:A、B至少有一個(gè)發(fā)生的事件,即AUB ? ?
4、積事件:A、B同時(shí)發(fā)生的事件,即AB ? ?
5、互斥事件:A、B不能同時(shí)發(fā)生的事件,即滿足AB=φ,也稱互不相容事件。
?6、對(duì)立事件:滿足條件AB=Φ而且A∪B=S,A的對(duì)立事件 用 A ?? 表示,A ?? =S-A;對(duì)立事件一定是互不相容事件。 ? ?
7、差事件:A發(fā)生B不發(fā)生的事件稱為A與B的差事件,表示為A-B或 ? ?
8、常用運(yùn)算式:
二、事件的概率及其計(jì)算 ? ? ?
1、概率的公理化定義,規(guī)定了概率要滿足的三 個(gè)條件:
(1)P(A)≥0,即非負(fù)性;
(2)P(S)=1,即規(guī)范性;
(3)兩兩互不相容事件的和的概率等于事件 的概率之和,即概率的可加性。
2、概率的性質(zhì)
(1)對(duì)于任一事件A,有P(A??? )=1-P(A);
(2)P(Φ)=0;
(3)若B包含A,則有P(B-A)=P(B)-P(A),而 且P(B)≥P(A);
(4)對(duì)任一事件A,有P(A)≤1;
(5)對(duì)任意兩個(gè)事件A、B有 ?P(A∪B)=P(A)+P(B)-P(AB), 該式稱為概率的加法公式。
(6)【概率減法公式】P(A-B)=P(A)-P(AB)
當(dāng)B?A時(shí),P(A-B)=P(A)-P(B) 當(dāng)A=Ω時(shí),P(B)=1- P(B)。
?3、古典概率計(jì)算:P(A)=K/N=事件A包含的樣本點(diǎn)數(shù)/樣本空間S包含的樣本點(diǎn)數(shù)
?4、條件概率的定義: 當(dāng)P(B)>0時(shí),有P(A/B)=P(AB)/P(B)
?5、乘法定理: 計(jì)算事件之積的概率公式 設(shè)P(A)>0,則有P(AB)=P(A)P(B/A)
?6、全概率公式:設(shè)S為試驗(yàn)E的樣本空間,B1,B2,···Bn為S的一個(gè)劃分,A為E的事件,且 ? ? ? ? ? ?P(Bi)>0(i=1,2,3···n),則有 ? ?
7、貝葉斯公式:實(shí)質(zhì)為一條件概率
設(shè)S為試驗(yàn)E的樣本空間,B1,B2,···Bn為S的一個(gè)劃分,A為E的事件,且P(Bi)>0(i=1,2,3···n),P(A)>0,則有??
滿足全概率公式和貝葉斯公式的前提是“完備事件群”。?
滿足 :BiBj=?(i≠j)B1+B2+?=Ω
這樣的一組事件稱為一個(gè)“完備事件群”。簡(jiǎn)而言之,就是事件之間兩兩互斥,所有事件的并集是整個(gè)樣本空間(必然事件)。
三、事件的獨(dú)立性
1、獨(dú)立性的定義:設(shè)A、B為兩事件,如果有P(AB)=P(A)P(B)成立,則稱事件A和事件B相互獨(dú)立。
2、推論
(1)若A與B獨(dú)立,則有A ?? 與B,A與B??? ,A ?? 與B ?? 也相互獨(dú)立;
(2)若A、B互斥,且P(A)>0,P(B)>0,則A與B不獨(dú)立;
(3)若A、B獨(dú)立,且P(A)>0,P(B)>0,則A與B不互斥;
(4)樣本空間中,S與Φ既獨(dú)立又互斥;
(5)Φ與任何事件都獨(dú)立且互斥。
第二章 隨機(jī)變量及其分布
一、隨機(jī)變量的定義
設(shè)E的樣本空間為S={e},X=X{e}是定 義在樣本空間上的實(shí)值單值函數(shù),稱X=X{e}為隨機(jī)變量, 記為R.V。R.V一般用大寫的字母X、Y、Z等表示,而小 寫的x、y、z用來表示R.V所取的值。
二、離散型隨機(jī)變量 ??
?1、離散型R.V的定義:R.V的全部可能取值是有限個(gè) 或可列無限多個(gè)。 ??
?2、離散型R.V的分布律:P{X=xk}=pk,k=1,2,3··· ?? ?
3、分布律的性質(zhì):pk≥0,
三、三種重要的離散型隨機(jī)變量的分布律
1、(0—1)分布,記為X~(0,1) ?? ?
,其中k=0,1,0<p<1。
2、二項(xiàng)分布,記為X~B(n,p)
(1)伯努利試驗(yàn):試驗(yàn)E只有兩種可能的結(jié)果,A和A ?? 。 令A(yù)發(fā)生的概率為p。
(2)n重伯努利試驗(yàn):將試驗(yàn)E獨(dú)立地重復(fù)進(jìn)行n次。
(3)定義R.V X為N重伯努利試驗(yàn)中A發(fā)生的次數(shù),則有 ??
3、泊松分布,記為X~π(λ)
(1)泊松分布的定義:,k=0,1,2···
(2)泊松定理:當(dāng)二項(xiàng)分布中n很大,p很小時(shí),可以用泊松分布來近似二項(xiàng)分布,泊松分布中的 參數(shù)λ=np。
? 四、R.V的分布函數(shù) ?? ?
1、分布函數(shù)的定義:F(x)=P{X≤x},其中X是隨機(jī)變量,x是實(shí)數(shù)參變量.
由定義可P{a<X≤b}=F(b)-F(a)?? ??? ? ?? ?
2、分布函數(shù)的性質(zhì):F(x)是一個(gè)不減函數(shù),0≤F(x)≤1,F(xiàn)(x)右連續(xù)。
五、連續(xù)性隨機(jī)變量
1、,其中f(x)為隨機(jī)變量X的概率密度 函數(shù)。
2、概率密度的性質(zhì):f(x)≥0,,
,
若f(x)在x處連續(xù),則有f(x)=F′(x).
3、連續(xù)型隨機(jī)變量X取任一指定值的概率為0,即? P{X=a}=0,其中a為任意實(shí)數(shù)。
4、對(duì)于連續(xù)性隨機(jī)變量X,有P{a≤X≤b}=P{a<X≤b}=P{a<X<b}=P{a≤X<b}.
六、三種重要的連續(xù)性隨機(jī)變量
1、均勻分布,記為X~U(a,b),概率密度為?
2、指數(shù)分布,記為X~E(θ),概率密度為
?3、正態(tài)分布,也稱為高斯分布,記為X~N(u,σ2)
(1)正態(tài)分布的概率密度,-∞<x<∞, 其中u可取任意實(shí)數(shù),σ取大于0的實(shí)數(shù)。
(2)正態(tài)曲線關(guān)于x=u對(duì)稱。
(3)當(dāng)x=u時(shí),f(x)取到最大值,即f(u)=1/σ√2π。
(4)u決定了正態(tài)曲線的中心位置,稱為位置參數(shù);σ 決定了正態(tài)曲線的中峰陡峭程度,稱為尺度參數(shù)。
(5)標(biāo)準(zhǔn)正態(tài)分布: ? ? ? ? ? ?
?u=0,σ=1的正態(tài)分布稱為標(biāo)準(zhǔn)正態(tài)分布, 即X~N(0,1).
(6)標(biāo)準(zhǔn)正態(tài)分布的密度函數(shù)為 標(biāo)準(zhǔn)正態(tài)分布的分布函數(shù)為
φ(x)可通過標(biāo)準(zhǔn)正態(tài)分布函數(shù)表查表得到。
(7)正態(tài)分布轉(zhuǎn)化為標(biāo)準(zhǔn)正態(tài)分布的方法(必會(huì)): 因此有F(x)=P(X≤x)=φ(x?u/σ); P(x1<X≤x2)=φ(x_1?u/σ)-φ(x_2?u/σ)
(8)上α分位點(diǎn):設(shè)X~N(0,1),若z_α滿足條件? P{X>zα}=α,0<α<1,則稱z_α為標(biāo)準(zhǔn)正態(tài)分布的上α 分位點(diǎn)。
七、隨機(jī)變量的函數(shù)的分布 ? ?
1、離散型隨機(jī)變量函數(shù)的分布 若X的分布律為,
則Y=g(X)的分布律為 ,
若g(xk)中有一些取值相同,則把它們的概率相加。
?2、連續(xù)型隨機(jī)變量的函數(shù)的分布 ? ?
問題的提法:已知X的概率密度為f(x),求Y=g(X)概率密度。 ? ?
做法1(針對(duì)g(X)為嚴(yán)格單調(diào)時(shí)):設(shè)Y的分布函數(shù)為FY(y),則有FY(y)=P{Y≤y}=P{g(X)≤y}=P{X≤h(y)}=FX(h(y)), 其中h(y)為y=g(x)的反函數(shù)。然后FY(y)對(duì)y求導(dǎo),即得 Y的概率密度f(y)。 ? ?
定理:若函數(shù)g(x)處處可導(dǎo)且g(x)的倒數(shù)恒大與0或恒小于0,則有以下結(jié)論: ? ? ? ? ? ? ? f(y)=fX[h(y)]|h/(y)|,其中h(y)為y=g(x)的反函數(shù)。
做法2(分布函數(shù)法)【必會(huì)】連續(xù)型隨機(jī)變量函數(shù)的分布的求法,通常是采用分布函數(shù)的定義的方法。我們將分布函數(shù)變形,將它化成關(guān)于?的分布函數(shù),然后對(duì)?y 求導(dǎo),就得到了?Y?的概率密度。
第三章 多維隨機(jī)變量及其分布
一、二維隨機(jī)變量的定義 ? ? ? ?
設(shè)E是一個(gè)隨機(jī)試驗(yàn),它的樣本空間是S={e},設(shè)X=X{e}和Y=Y{e}是定義在S上的隨機(jī)變量,由它們構(gòu)成的一個(gè)向量(X,Y)稱為二維隨機(jī)變量。
二、二維R.V的分布函數(shù) ? ? ? ?
1、定義:F(x,y)=P{X≤x,Y≤y},也稱為聯(lián)合分布函數(shù)。?? ? ?? ???
?P{a<X≤b,c<Y≤d}=F(b,d)-F(b,c)-F(a,d)+F(a,c) ? ? ?
2、性質(zhì) ? ? ? ?
(1)F(x,y)是變量x和y的不減函數(shù)。
(2)0≤F(x,y)≤1,F(xiàn)(-∞,y)=0,F(xiàn)(x,-∞)=0,F(xiàn)(-∞,-∞)=0,F(xiàn)(∞,∞)=1 ? ? ? ?
(3)F(x,y)關(guān)于x和y右連續(xù)
三、離散型二維隨機(jī)變量 ? ? ?
1、定義:二維R.V的所有可能取值是有限對(duì)或可 列無限多對(duì)。 ? ? ?
2、分布律:P{X=xi,Y=yj}=pij,i,j=1,2,3······也稱聯(lián)合分布律
四、連續(xù)型二維隨機(jī)變量 ? ? ?
1、定義:存在非負(fù)函數(shù)f(x,y),有, 其中f(x,y)稱為二維隨機(jī)變量(X,Y)的概率密度。
2、二維概率密度函數(shù)f(x,y)的性質(zhì)
(1)f(x,y)≥0
(2)【必知】
(3)若f(x,y)在(x,y)處連續(xù),則有
(4)設(shè)G是xoy平面上的一個(gè)區(qū)域,點(diǎn)(X,Y)落 在區(qū)域G內(nèi)的概率為 ,積分區(qū)域?yàn)镚。
五、邊緣分布
1、邊緣分布函數(shù):已知聯(lián)合分布函數(shù)F(x,y)
X的邊緣分布函數(shù)為:FX(x)=P{X≤x}=P{ X≤x,Y≤∞}=F(x,∞) ? ? ?
?Y的邊緣分布函數(shù)為:FY(y)=P{Y≤y}=P{ X≤∞,Y≤y}=F(∞,y)
2、離散型二維R.V的邊緣分布律:已知聯(lián)合分布律pij X的邊緣分布律為:? ? ?
Y的邊緣分布律為:
3、連續(xù)型二維R.V的邊緣概率密度:已知聯(lián)合概率密度f(x,y)? ?【必會(huì)】?
X的邊緣概率密度為:
Y的邊緣概率密度為:
六、條件分布 ?
1、離散型R.V的條件分布分布律 ?
(1) 若P{Y=yi}>0,則在Y=yi 條件下X的條件分布律為
P{ X=xi| Y=yi}= P{X=xi,Y=yj}/ P{Y=yi}=pij/p.j,i=1,2··· ?
(2)若P{X=xi}>0,則在X=xi 條件下Y的條件分布律為
P{ Y=yi | X=xi }= P{X=xi,Y=yj}/ P{ X=xi }=pij/ pi.,j=1,2··· ?
2、連續(xù)型R.V的條件概率密度 ? ?
(1)若fY(y)>0,在Y=y條件下X的條件概率密度為 ? ?
(2)若fX(x)>0,在X=x條件下Y的條件概率密度為??
(3)綜合來說,條件分布=聯(lián)合分布/邊緣分布
3、二維R.V的均勻分布的定義
設(shè)G是平面上的有界區(qū)域,其面積為A,若其聯(lián)合概率密度為 ,
則稱(X,Y)在G上服從均勻分布。
七、相互獨(dú)立的隨機(jī)變量 ?
1、定義:設(shè)F(x,y)及FX(x)、FY(y)分別是二維R.V(X,Y)的聯(lián)合分布函數(shù)和邊緣分布函數(shù),若對(duì)于所有的x,y,有 ? ?
?F(x,y)= FX(x)·FY(y),則稱R.V X和Y是相互獨(dú)立的。
?2、對(duì)于連續(xù)型隨機(jī)變量,有f(x,y)= fX(x)·fY(y)
?3、對(duì)于離散型隨機(jī)變量,有P{X=xi,Y=yj}= P{X=xi}·P{Y=yi} ?
4、二維正態(tài)隨機(jī)變量:? ? ? ?
?兩個(gè)邊緣分布為 ? ? ? ? ?
當(dāng)ρ=0時(shí),X和Y相互獨(dú)立;若X和Y相互獨(dú)立,則ρ=0.
八、兩個(gè)隨機(jī)變量函數(shù)的分布
1、Z=X+Y的分布 已知(X,Y)的聯(lián)合概率密度為f(x,y),則Z的概率密度為 ;
若X和Y相互獨(dú)立,則Z的概率密度為
;
2、關(guān)于隨機(jī)變量之和的分布的幾個(gè)結(jié)論
(1)設(shè)X和Y相互獨(dú)立,且X~N(u1, σ12),Y~N(u2,σ22),則Z=X+Y仍服從正態(tài)分布, 且.
(2)若Xi~N(ui, σi2),i=1,2···且它們相互獨(dú)立,則它們的和服從正態(tài)分布,
且有
(3)設(shè)X和Y相互獨(dú)立,且X~π(λ1),Y~π(λ2),則Z=X+Y~π(λ1+λ2).
(4)設(shè)X和Y相互獨(dú)立,且X~b(n,p),Y~b(n,p),則 Z=X+Y~b(2n,p)
3、M=max(X,Y)和N=min(X,Y)的分布函數(shù)?? ? ? ? ? ?
(1) 設(shè)X、Y相互獨(dú)立,其分布函數(shù)分別為FX(x)、FY(y),則【必知】
? ? ? ? ?
上述結(jié)論可以推廣到n個(gè)相互獨(dú)立的隨機(jī)變量的情況。 ? ? ?
?(2)若?相互獨(dú)立且均服從參數(shù)為θ的指數(shù)分布,定義
,則Z服從參數(shù)為θ/n 的指數(shù)分布。
第四章 隨機(jī)變量的數(shù)字特征
一、隨機(jī)變量的數(shù)學(xué)期望的定義
1、離散型隨機(jī)變量X,其分布律為P{X=xk}=pk,k=1,2,3···若級(jí)數(shù)絕對(duì)收斂,則稱該級(jí)數(shù)的和為R.V X的數(shù)學(xué)期望,記為
。
2、連續(xù)型隨機(jī)變量X,其概率密度為f(x),若積分絕對(duì)收斂,則稱該積分值為隨機(jī)變量X的數(shù)學(xué)期望,記為
。【必知】
二、隨機(jī)變量的函數(shù)的數(shù)學(xué)期望
設(shè)Y為隨機(jī)變量X的函數(shù),Y=g(X),其中g(shù)是連續(xù)函數(shù) ? ?
1、已知離散型隨機(jī)變量X,其分布律為P{X=xk}=pk, k=1,2,3···則Y的數(shù)學(xué)期望為
2、已知連續(xù)型隨機(jī)變量X,其概率密度為f(x),則Y的數(shù)學(xué)期望為
結(jié)論:不必知道Y的概率分布,可以通過X的概率分布求Y的 數(shù)學(xué)期望。
以上結(jié)論可以推廣到求取二維隨機(jī)變量的函數(shù)的數(shù)學(xué)期望, 已知條件為二維隨機(jī)變量的聯(lián)合概率分布。
三、數(shù)學(xué)期望的重要性質(zhì)
1、設(shè)C是常數(shù),則有E(C)=C。
2、設(shè)X是隨機(jī)變量,C是常數(shù),則有E(CX)=CE(X).
3、設(shè)X、Y是兩個(gè)隨機(jī)變量,則有E(X+Y)=E(X)+E(Y).
4、設(shè)X、Y是相互獨(dú)立的隨機(jī)變量,則有E(XY)=E(X)E(Y). ? ? ? ? ?
第3、4條性質(zhì)可以推廣到n個(gè)隨機(jī)變量。
四、隨機(jī)變量的方差
1、方差的定義:設(shè)X是R.V,若E{[X-E(X)]2}存在,則稱其 為X的方差,記為D(X),即D(X)=E{[X-E(X)]2}。
2、方差的意義:方差表示隨機(jī)變量X的取值與其數(shù)學(xué)期望E(X)的偏離程度。
3、方差的計(jì)算:由方差的定義可知,方差實(shí)質(zhì)為一數(shù)學(xué)期 望,是隨機(jī)變量的函數(shù)[X-E(X)]2的數(shù)學(xué)期望。
(1)離散情況:
(2)連續(xù)情況:
(3)計(jì)算方差的重要公式:D(X)=E(X2)-[E(X)]2【必會(huì)】
五、標(biāo)準(zhǔn)化隨機(jī)變量的定義 ? ? ? ?
設(shè)R.V X的E(X)=u,D(X)=σ2≠0,記X*=(X-u)/σ,則稱X*為X的標(biāo)準(zhǔn)化的隨機(jī)變量。且E(X*)=0,D(X*)=1。
六、方差的性質(zhì)
1、設(shè)C為常數(shù),則D(C)=0。
2、設(shè)X是R.V,C是常數(shù),則有【必知】
3、設(shè)X、Y是兩個(gè)隨機(jī)變量,則有D(X+Y)=D(X)+D(Y)+2E{[X-E(X)][Y-E(Y)]}
4、若X、Y相互獨(dú)立,則有D(X+Y)=D(X)+D(Y),此結(jié)論可以推廣到n 個(gè)相互獨(dú)立的隨機(jī)變量的情況。
5、D(X)=0的充要條件是X以概率1取常數(shù)C,且C=E(X)。
七、六種重要的隨機(jī)變量的數(shù)學(xué)期望和方差 ? ?
1、X~(0-1),X=1的概率為p,則有E(X)=p,D(X)=p(1-p) ? ?
2、X~B(n,p),則有E(X)=np,D(X)=np(1-p) ? ?
3、X~π(λ),則有E(X)=λ,D(X)=λ ? ?
4、X~U(a,b),則有E(X)=(a+b)/2,
5、X~E(θ),則有E(X)=θ,?
6、X~N(u,σ2),則有E(X)=u,
八、切比雪夫不等式 【必會(huì)】? ?
定理:設(shè)隨機(jī)變量X具有數(shù)學(xué)期望E(X)= u,D(X)=σ2,則對(duì)于任意正數(shù)ε,不等式 ? ? ? ? ? ? ? ? ? ? 成立,該不等式稱為切比雪夫不等式。 ? ?
切比雪夫不等式的另一種形式:
九、協(xié)方差及相關(guān)系數(shù)? ??
1、X、Y的協(xié)方差的定義:Cov(X,Y)=E{[X-E(X)][Y-E(Y)]} ? ?
2、X、Y的相關(guān)系數(shù)的定義:ρXY= Cov(X,Y)/√D(X)D(Y) ? ?
3、跟協(xié)方差及相關(guān)系數(shù)有關(guān)的計(jì)算公式:
(1)D(X+Y)=D(X)+D(Y)+2Cov(X,Y);D(X-Y)=D(X)+D(Y)-2Cov(X,Y)
(2)Cov(X,Y)= ρXY√D(X)D(Y)
(3)Cov(X,Y)=E(XY)-E(X)E(Y)【必會(huì)】
(4)Cov(X,X)=E(X2)-E(X)E(X)=D(X)
?4、協(xié)方差的性質(zhì) ? ?
(1)Cov(X,Y)= Cov(Y,X) ? ?
(2)若a,b為常數(shù),則Cov(aX,bY)=ab Cov(X,Y) ? ?
(3)Cov(X1+X2,Y)= Cov(X1,Y) + Cov(X2,Y) ?
5、相關(guān)系數(shù)的性質(zhì) ? ? ?
(1)|ρXY|≤1 ? ?
(2)|ρXY|=1的充要條件是:存在常數(shù)a,b,使 P{Y=a+bX}=1
?6、不相關(guān)的定義及性質(zhì) ? ? ?
(1)不相關(guān)的定義:如果ρXY=0,則稱X和Y不相關(guān) ? ? ?
(2)以下4條說法和不相關(guān)等價(jià) ? ? ? ? ? ? ? ? ? ?
①ρXY=0; ? ? ? ? ? ? ? ? ?②Cov(X,Y)=0; ? ? ? ? ? ? ? ? ? ?
③E(XY)=E(X)E(Y);④D(X+Y)=D(X)+D(Y)。 ? ? ?
(3)若X和Y相互獨(dú)立,則X和Y不相關(guān);反之不成立。 ?
?7、 二維正態(tài)分布X和Y不相關(guān)的充要條件為:ρ=0; ? ? ? ? ? ? ?
結(jié)合二維正態(tài)分布X和Y相互獨(dú)立的條件可知, ? ? ? ? ? ? ?
二維正態(tài)分布X和Y不相關(guān)和獨(dú)立是等價(jià)的,充 要條件均為ρ=0。
十、矩的概念 ?
1、X的k階原點(diǎn)矩:E(Xk),K=1,2,3······ ?
2、X的k階中心距:E{[X-E(X)]k},k=2,3······ ? ?
3、X和Y的k+l階混合矩:E[XkYl],k,l=1,2,3······ ?
4、X和Y的k+l階混合中心矩:E{[X-E(X)]k[Y-E(Y)]l},k,l=1,2,3······ ? ?
由矩的概念知,E(X)為X的一階原點(diǎn)矩;D(X)為X的二階中心矩;
Cov(X,Y)為X、Y的二階混合中心矩。
十一、n維正態(tài)隨機(jī)變量的性質(zhì)
1、n維正態(tài)隨機(jī)變量(X1,X2···Xn)的每一個(gè)分量Xi(i=1,2···n)都是正態(tài)隨機(jī)變量;
反之,若X1,X2···Xn是相互獨(dú)立的正態(tài)隨機(jī)變量, 則(X1,X2···Xn)是n維正態(tài)隨機(jī)變量。
2、n維隨機(jī)變量(X1,X2···Xn)服從n維正態(tài)分布的條件是X1,X2···Xn的任意線性組合服從一維正態(tài)分布。
第五章 大數(shù)定律及中心極限定理
一、定理一:切比雪夫定理的特殊情況
設(shè)隨機(jī)變量X1,X2···Xn···相互獨(dú)立,且具有相同的數(shù)學(xué)期望和方差:,
做前n個(gè)隨機(jī)變量的算術(shù)平均值,則對(duì)于任意的ε>0,有
實(shí)際意義:用n很大時(shí)的Yn來估計(jì)u的值。
二、定理二:伯努利定理
設(shè)nA是n次獨(dú)立重復(fù)試驗(yàn)中事件A發(fā)生的次數(shù),p是 事件A在每次試驗(yàn)中發(fā)生的概率,則對(duì)于任意的ε>0,有
實(shí)際意義:以嚴(yán)格的數(shù)學(xué)形式證明了頻率的穩(wěn)定性,從而可以用n很大時(shí)的頻率來代替概率。
三、定理三:辛欽大數(shù)定理
設(shè)隨機(jī)變量X1,X2···Xn···相互獨(dú)立,服從同一分布且具有數(shù)學(xué)期望E(Xk)=u,則對(duì)于任意的ε>0,有
四、依概率收斂的定義
設(shè)X1,X2···Xn···是一個(gè)隨機(jī)變量序列,a是一個(gè)常數(shù),若 對(duì)于任意的ε>0,有
則稱序列X1,X2···Xn···依概率收斂于a。記為
五、中心極限定理
1、定義:把和的分布收斂于正態(tài)分布這一類定理都叫 作中心極限定理。
2、獨(dú)立同分布的中心極限定理: 設(shè)隨機(jī)變量X1,X2···Xn···相互獨(dú)立,服從同一分布 且具有數(shù)學(xué)期望,
定義隨機(jī) 變量,則有,從而有
3、李雅普諾夫定理:
設(shè)隨機(jī)變量X1,X2···Xn···相互獨(dú)立,具有數(shù)學(xué)期望 和方差:,定義隨機(jī)變量
,則有,從而有
4、棣莫佛-拉普拉斯定理:
設(shè)隨機(jī)變量Xn~B(n,p),定義隨機(jī)變量,則有,從而有
設(shè)隨機(jī)變量X1, X2,…, Xn相互獨(dú)立,且服從相同的分布,他們的數(shù)學(xué)期望和方差均為μ和σ2(>0)。記:【理解清楚】
則有
?其中φ(z)是標(biāo)準(zhǔn)正態(tài)分布的分布函數(shù)。
獨(dú)立同分布變量的和,近似服從于正態(tài)分布,期望和方差不變
第六章 樣本及抽樣分布
一、隨機(jī)樣本
1、總體:研究對(duì)象的某項(xiàng)數(shù)量指標(biāo)的值得全體。一般用隨機(jī)變量或隨機(jī)變量的分布函數(shù)來表示總體。
2、個(gè)體:總體中的每個(gè)元素稱為個(gè)體。
3、抽樣:為推斷總體分布及各種特征,按一定規(guī)則從總體中抽取若干個(gè)體進(jìn)行觀察試驗(yàn),以獲得有關(guān)總體的信息 ,這一抽取過程稱為抽樣。
4、樣本和樣本值:抽樣得到的個(gè)體稱為樣本,樣本所取到的觀察值稱為樣本值。
5、簡(jiǎn)單隨機(jī)樣本X1,X2···Xn的特點(diǎn):獨(dú)立同分布
(1)X1,X2···Xn是相互獨(dú)立的隨機(jī)變量;
(2)X1,X2···Xn中的每一個(gè)個(gè)體與所考察的總體有相同的分布。
二、統(tǒng)計(jì)量
1、統(tǒng)計(jì)量的定義: 不含任何未知參數(shù)的樣本的函數(shù)稱為統(tǒng)計(jì)量。
2、常用統(tǒng)計(jì)量: 設(shè)X1,X2···Xn是來自總體的樣本,則有以下常用統(tǒng)計(jì)量
(1)樣本均值:
(2)樣本方差:
(3)樣本標(biāo)準(zhǔn)差:
(4)樣本k階原點(diǎn)矩:
(5)樣本k階中心矩:
三、抽樣分布
1、抽樣分布的定義:統(tǒng)計(jì)量的分布稱為抽樣分布。
2、常用抽樣分布
(1) ? ?分布的定義及性質(zhì) (2)t分布的定義 (3)F分布的定義
?3、正態(tài)總體的樣本均值和樣本方差的分布 ?
(1)樣本均值和樣本方差的數(shù)字特征 ? ? ? ? ?
設(shè)總體X的均值為u,方差為σ2,X1,X2···Xn是總體X的 一個(gè)樣本,則總有 ? ? ? ?(2)正態(tài)總體樣本均值的分布 ? ? ? ? ?
設(shè)X1,X2···Xn是總體N(u,σ2)的一個(gè)樣本,則有 ?
(3)正態(tài)總體樣本方差的分布 (卡方分布)?【必會(huì)】?
設(shè)X1,X2···Xn是總體N(u,σ2)的一個(gè)樣本,則有 a: (主要結(jié)論)? ? ? ? ?
b:樣本均值與樣本方差相互獨(dú)立 ?
(4)與樣本均值和樣本方差有關(guān)的一個(gè)分布? (t分布)? ? ? ? ? ??
設(shè)X1,X2···Xn是總體N(u,σ2)的一個(gè)樣本,則有
(5)F分布
F分布是由兩個(gè)卡方分布與其自由度比值的比值確定的分布,記作
必背公式:
第七章 參數(shù)估計(jì)
一、點(diǎn)估計(jì)
1、點(diǎn)估計(jì)問題 ? ? ? ?
設(shè)總體X的分布函數(shù)為F(x;θ),θ為待估計(jì)的參數(shù)。X1,X2···Xn是總體X的一個(gè)樣本,x1,x2,···xn是相應(yīng)的一個(gè)樣本值。點(diǎn)估計(jì)問題就是構(gòu)造一個(gè)適當(dāng)?shù)慕y(tǒng)計(jì)量 ?,用它的觀察值
來估計(jì)參數(shù)θ。統(tǒng)計(jì)量稱為估計(jì)量,觀察值稱為估計(jì)值。?
2、矩估計(jì)法 ? ? ? ?
理論依據(jù):樣本矩Ak依概率收斂于相應(yīng)的總體矩uk ? ? ? ? ?
具體做法:令A(yù)k=uk,有幾個(gè)未知參數(shù)就列幾個(gè)等式,求解方程或方程組即可得到未知參數(shù)的矩估計(jì)量,代入樣本值,即可得到相應(yīng)的矩估計(jì)值。
求解:求出期望,令其=x的絕對(duì)值,求得未知參數(shù)的^
3、最大似然估計(jì)法
對(duì)于離散總體,已知其分布律;對(duì)于連續(xù)總體,已知其概率密度。
由總體的分布律或概率密度寫出樣本似然函數(shù)L(θ)
求樣本似然函數(shù)的最大值,最大值所對(duì)應(yīng)的θ即為參數(shù)θ的最大似然估計(jì)值
最大似然估計(jì)的性質(zhì):設(shè)θ的函數(shù)u=u(θ)具有單值反函數(shù) ? ? θ=θ(u),
若 是θ的最大似然估計(jì),則
是u(θ)的 最大似然估計(jì)。 ?
求解:對(duì)L(θ)取對(duì)數(shù),兩邊分別對(duì)θ求導(dǎo),令其為0,求得
二、估計(jì)量的評(píng)選標(biāo)準(zhǔn)
1、無偏性:如果,則稱
是θ的無偏估計(jì)量。 ? ? ? ? ? ? ?
結(jié)論:Ak是uk的無偏估計(jì);樣本均值是總體均值的無偏估計(jì);樣本方差是總體方差的無偏估計(jì)。
無偏估計(jì)量:若a為b的無偏估計(jì)量,則E(a)=b;
2、有效性(可能考的機(jī)率小):
設(shè)和
是θ的無偏估計(jì),若有
,則稱
比
有效。
3、相合性(幾乎不考):
設(shè) (X1,X2…Xn)是θ的估計(jì)量,當(dāng)n趨于?無窮大時(shí),若
(X1,X2…Xn)依概率收斂于θ,則稱 ?
(X1,X2…Xn)為θ的相合估計(jì)量。文章來源:http://www.zghlxwxcb.cn/news/detail-794587.html
文章來源地址http://www.zghlxwxcb.cn/news/detail-794587.html
到了這里,關(guān)于概率大揭秘:深度復(fù)習(xí)概率論,事半功倍的學(xué)霸秘籍!的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!