Ch7. 參數(shù)估計
7.1 點估計
1.矩估計
p i ( θ ) p_i(θ) pi?(θ)、 f ( x i , θ ) f(x_i,θ) f(xi?,θ)，用矩估計法來估計未知參數(shù)θ
{ X ˉ = E ( X ) 1 n ∑ i = 1 n X i 2 = E ( X 2 ) \left\{\begin{aligned} \bar{X} = & E(X) \\ \dfrac{1}{n}\sum\limits_{i=1}^nX_i^2 = & E(X^2) \end{aligned}\right. ? ? ??Xˉ=n1?i=1∑n?Xi2?=?E(X)E(X2)?
注意：
1.矩估計量：大寫
矩估計值：小寫
2.離散型和連續(xù)型隨機變量
求矩估計的區(qū)別，只在于求期望的方法不一樣。
而求最大似然估計，則是似然函數(shù)的求法不一樣。
例題1：2002年20
例題2：09年23(1) ? 基礎(chǔ)
分析：
①矩估計，求期望
②最大似然估計，求似然函數(shù)L(θ)，取對數(shù)lnL(θ)，令導(dǎo)數(shù)為0即令
d
l
n
L
(
θ
)
d
θ
=
0
\frac{\rm dlnL(θ)}{\rm dθ}=0
dθdlnL(θ)?=0
答案：
例題3：13年23.? 基礎(chǔ)，待重做
例題4：23李林六套卷(三)22.(2)
若θ為未知參數(shù)，利用總體Z的樣本值
?
2
,
0
,
0
,
0
,
2
,
2
-2,0,0,0,2,2
?2,0,0,0,2,2求
θ
θ
θ的矩估計值。且Z的分布律為
| Z Z Z | ? 2 -2 ?2 | 0 0 0 | 2 2 2 |
|---|---|---|---|
| P k P_k Pk? | θ θ θ | 1 ? 2 θ 1-2θ 1?2θ | θ θ θ |
答案：
2.最大似然估計
最大似然估計求的是，θ為多少時，使得L(θ)最大。
最大似然函數(shù) L ( θ ) L(θ) L(θ)的定義是 所有概率/概率密度的乘積 ? 【22年23.】
(1)離散型 的最大似然估計
求離散型隨機變量的最大似然估計量：
離散型的似然函數(shù)
L
(
θ
)
=
∏
i
=
1
n
p
(
x
i
,
θ
)
L(θ)=\prod\limits_{i=1}^n{p(x_i,θ)}
L(θ)=i=1∏n?p(xi?,θ)
=
p
(
x
1
,
θ
)
?
p
(
x
2
,
θ
)
?
.
.
.
?
p
(
x
n
,
θ
)
=p(x_1,θ)·p(x_2,θ)·...·p(x_n,θ)
=p(x1?,θ)?p(x2?,θ)?...?p(xn?,θ)
L ( p ) = ∏ k = 1 n P { X = x k } = ∏ k = 1 n p k L(p)=\prod\limits_{k=1}^n{P\{X=x_k\}}=\prod\limits_{k=1}^n{p_k} L(p)=k=1∏n?P{X=xk?}=k=1∏n?pk?
x 1 , x 2 , . . . , x n x_1,x_2,...,x_n x1?,x2?,...,xn?為離散型樣本值，根據(jù)樣本來確定是哪些概率相乘。
例題1：2002年20. ? 離散型的參數(shù)估計
答案：
例題2：24李林六(一) 16. ? 離散型隨機變量的最大似然估計
分析：
答案： X ￣ N \dfrac{\overline{X}}{N} NX?
(2)連續(xù)型 的最大似然估計
求連續(xù)型隨機變量的最大似然估計量，連續(xù)型的似然函數(shù)L(θ)
L
(
θ
)
=
L
(
x
1
,
x
2
,
.
.
.
,
x
n
;
θ
)
=
∏
i
=
1
n
f
(
x
i
;
θ
)
(
x
i
>
0
,
i
=
1
,
2
,
.
.
.
n
)
L(θ) = L(x_1,x_2,...,x_n;θ) = \prod_{i=1}^n f(x_i;θ) \qquad (x_i>0,i=1,2,...n)
L(θ)=L(x1?,x2?,...,xn?;θ)=i=1∏n?f(xi?;θ)(xi?>0,i=1,2,...n)
1.求最大似然估計量/值 的步驟：
①求似然函數(shù) L(θ) ? (xi>0/θ,i=1,2,…n)
②取對數(shù)，求 lnL(θ)
③令
d
l
n
L
(
θ
)
d
θ
=
0
\dfrac{\rm d lnL(θ)}{\rm dθ} = 0
dθdlnL(θ)?=0，求出
θ
^
\hat{θ}
θ^
④最大似然估計值為xi，最大似然估計量為Xi
2.求導(dǎo)不為0，>0為增函數(shù)，<0為減函數(shù)。且一定有限制。
若
d
l
n
L
(
θ
)
d
θ
≠
0
\dfrac{\rm d lnL(θ)}{\rm dθ} ≠ 0
dθdlnL(θ)?=0
{
d
l
n
L
(
θ
)
d
θ
>
0
，
L
(
θ
)
為增函數(shù)，
θ
應(yīng)取最大值
d
l
n
L
(
θ
)
d
θ
<
0
，
L
(
θ
)
為減函數(shù)，
θ
應(yīng)取最小值
\left\{\begin{aligned} \dfrac{\rm d lnL(θ)}{\rm dθ} > 0，&L(θ)為增函數(shù)，θ應(yīng)取最大值\\ \dfrac{\rm d lnL(θ)}{\rm dθ} < 0，&L(θ)為減函數(shù)，θ應(yīng)取最小值 \end{aligned}\right.
?
?
??dθdlnL(θ)?>0，dθdlnL(θ)?<0，?L(θ)為增函數(shù)，θ應(yīng)取最大值L(θ)為減函數(shù)，θ應(yīng)取最小值?
【2000年21.】
3.均勻分布的最大似然估計
例題1：18年23(2) ? 基礎(chǔ)
例題2：19年23(2)
分析：
求σ2的最大似然函數(shù)：
①求似然函數(shù)L(σ2)
②取對數(shù)，lnL(σ2)
③令
d
l
n
L
(
σ
2
)
d
σ
2
=
0
\frac{\rm d lnL(σ^2)}{\rm dσ^2} = 0
dσ2dlnL(σ2)?=0
答案：
σ2的最大似然估計值為
σ
^
2
=
1
n
∑
i
=
1
n
(
x
i
?
μ
)
2
\hat{σ}^2=\dfrac{1}{n}\sum\limits_{i=1}^n(x_i-μ)^2
σ^2=n1?i=1∑n?(xi??μ)2
σ2的最大似然估計量為
σ
^
2
=
1
n
∑
i
=
1
n
(
X
i
?
μ
)
2
\hat{σ}^2=\dfrac{1}{n}\sum\limits_{i=1}^n(X_i-μ)^2
σ^2=n1?i=1∑n?(Xi??μ)2
例題3：09年23(2)
例題4：22年22. ? 兩個隨機變量，求最大似然估計量
分析：最大似然函數(shù) L ( θ ) L(θ) L(θ)的定義是 所有概率/概率密度的乘積，故要將所有 f X ( x i ) f_X(x_i) fX?(xi?)和 f Y ( y i ) f_Y(y_i) fY?(yi?)都乘起來
答案：
例題5：2000年21. ?
d
l
n
L
(
θ
)
d
θ
≠
0
\dfrac{\rm d lnL(θ)}{\rm dθ} ≠ 0
dθdlnL(θ)?=0
分析：
d
l
n
L
(
θ
)
d
θ
=
2
n
>
0
\frac{\rm d lnL(θ)}{\rm dθ} =2n >0
dθdlnL(θ)?=2n>0，∴L(θ)為關(guān)于θ的增函數(shù)，θ應(yīng)取最大值
∴θ的最大似然估計值為
θ
^
=
m
i
n
{
x
1
,
x
2
,
.
.
.
,
x
n
}
\hat{θ}=min\{x_1,x_2,...,x_n\}
θ^=min{x1?,x2?,...,xn?}
例題6：23李林四(三)16.
分析：
答案：
X
ˉ
\bar{X}
Xˉ
例題7：23李林六套卷(六)16. ? 二維隨機變量求θ的最大似然估計
分析：
答案： 1 2 n ∑ i = 1 n ( X i + Y i ) \dfrac{1}{2n}\sum\limits_{i=1}^n(X_i+Y_i) 2n1?i=1∑n?(Xi?+Yi?)
例題8：23李林四(二)16.
分析：∵|x|≤θ ∴θ的最大似然估計量為 θ ^ \hat{θ} θ^=max{|X?|,|X?|,…,|Xn|}
答案：max{|X?|,|X?|,…,|Xn|}
7.2 評價估計量優(yōu)良性的標(biāo)準(zhǔn)
(1)無偏性 (無偏估計)
若參數(shù)θ的估計量 θ ^ = θ ^ ( X 1 , X 2 , . . . , X n ) \hat{θ}=\hat{θ}(X_1,X_2,...,X_n) θ^=θ^(X1?,X2?,...,Xn?)對一切n及θ∈I，有 E ( θ ^ ) = θ E(\hat{θ})=θ E(θ^)=θ，則稱 θ ^ \hat{θ} θ^為 θ θ θ的無偏估計量
即若 θ ^ \hat{θ} θ^是θ的無偏估計量，則 E ( θ ^ ) = θ E(\hat{θ})=θ E(θ^)=θ
E ( X ˉ ) = μ = E ( X ) ， E ( S 2 ) = σ 2 = D ( X ) E(\bar X)=μ=E(X)，E(S^2)=σ2=D(X) E(Xˉ)=μ=E(X)，E(S2)=σ2=D(X)
(2)有效性
有效性(最小方差性)：都是無偏估計量的情況下，方差小的更有效
(3)一致性
一致性(相合性)：
θ
^
→
P
θ
\hat{θ}\xrightarrow{P}θ
θ^P?θ，依概率收斂
例題1：14年14.
分析：
答案： 2 5 n \dfrac{2}{5n} 5n2?
例題2：09年14. 無偏估計、二項分布的數(shù)字特征
分析：
θ
^
\hat{θ}
θ^是θ的無偏估計量：
E
(
θ
^
)
=
θ
E(\hat{θ})=θ
E(θ^)=θ。
E
(
X
ˉ
)
=
μ
=
E
(
X
)
，
E
(
S
2
)
=
σ
2
=
D
(
X
)
E(\bar X)=μ=E(X)，E(S^2)=σ2=D(X)
E(Xˉ)=μ=E(X)，E(S2)=σ2=D(X)
則
E
(
X
ˉ
+
k
S
2
)
=
n
p
2
E(\bar X+kS^2)=np^2
E(Xˉ+kS2)=np2，即
E
(
X
ˉ
)
+
k
E
(
S
2
)
=
n
p
+
k
n
p
(
1
?
p
)
=
n
p
2
E(\bar X)+kE(S^2)=np+knp(1-p)=np^2
E(Xˉ)+kE(S2)=np+knp(1?p)=np2，化簡得 k=-1
答案：-1
例題3：16年23(2)
例題4：12年23(3)
7.3 區(qū)間估計
1.置信區(qū)間、置信度
P { θ 1 < θ < θ 2 } = 1 ? α P\{θ_1<θ<θ_2\}=1-α P{θ1?<θ<θ2?}=1?α
1 ? α 1-α 1?α稱為置信度(置信水平)， α α α稱為顯著性水平
區(qū)間 ( θ 1 , θ 2 ) (θ_1,θ_2) (θ1?,θ2?)稱為參數(shù)θ的置信度為1-α的置信區(qū)間。 θ 1 θ? θ1?和 θ 2 θ? θ2?分別稱為置信度為 1 ? α 1-α 1?α的置信區(qū)間的置信下限和置信上限；
2.求μ的置信區(qū)間
正態(tài)總體均值μ的置信區(qū)間(置信水平為1-α)
| 待估參數(shù) | 其他參數(shù) | 樞軸量的分布 | 置信區(qū)間 |
|---|---|---|---|
| μ | σ2已知 | Z = X ￣ ? μ σ / n ～ N ( 0 , 1 ) Z=\dfrac{\overline{X}-μ}{σ/\sqrt{n}}\sim N(0,1) Z=σ/n?X?μ?～N(0,1) | ( X ￣ ? Z α 2 σ n , X ￣ + Z α 2 σ n ) (\overline{X}-Z_{\frac{α}{2}}\dfrac{σ}{\sqrt{n}},\overline{X}+Z_{\frac{α}{2}}\dfrac{σ}{\sqrt{n}}) (X?Z2α??n?σ?,X+Z2α??n?σ?) |
| μ | σ2未知 | t = X ￣ ? μ S / n ～ t ( n ? 1 ) t=\dfrac{\overline{X}-μ}{S/\sqrt{n}}\sim t(n-1) t=S/n?X?μ?～t(n?1) | ( X ￣ ? t α 2 ( n ? 1 ) S n , X ￣ + t α 2 ( n ? 1 ) S n ) (\overline{X}-t_{\frac{α}{2}}(n-1)\dfrac{S}{\sqrt{n}},\overline{X}+t_{\frac{α}{2}}(n-1)\dfrac{S}{\sqrt{n}}) (X?t2α??(n?1)n?S?,X+t2α??(n?1)n?S?) |
例題1：16年14. ? 置信區(qū)間、置信上限
分析：置信區(qū)間是以
X
ˉ
\bar{X}
Xˉ為中心對稱的
X
ˉ
=
9.5
\bar{X}=9.5
Xˉ=9.5，
X
ˉ
\bar{X}
Xˉ到置信下限是1.3，則
X
ˉ
\bar{X}
Xˉ到置信上限也是1.3
答案： ( 8.2 ， 10.8 ) (8.2，10.8) (8.2，10.8)
例題2：03年6.
分析：
答案： ( 39.51 ， 40.49 ) (39.51，40.49) (39.51，40.49)
Ch8. 假設(shè)檢驗
1.拒絕域α、接受域1-α、H?原假設(shè)、H?備擇假設(shè)
檢驗水平(顯著性水平)α，即為拒絕域面積。α越小，接受域越大。
(1)拒絕或接受的兩種情況
(1)拒絕域α大，接受了 (落在接受域)。則拒絕域α變小，更會接受?！?8年8.】
(2)拒絕域α小，拒絕了 (落在拒絕域)。則拒絕域α變大，更會拒絕。
例題1：18年8. ? ? 假設(shè)檢驗：單個正態(tài)總體，對均值的假設(shè)
分析：α為拒絕域。若拒絕，說明落在α內(nèi)。若接受，說明落在α外。
D：當(dāng)檢驗水平α=0.05下接受H?，說明H?落在接受域0.95以內(nèi)，當(dāng)拒絕域α縮小到0.01時，H?在0.95以內(nèi)必然更被接受
答案：D
2.第一類錯誤、第二類錯誤
(1)犯第一類錯誤(棄真)：H?為真的情況下，拒絕了H?。
犯第一類錯誤的概率： α = P { 拒絕了 H 0 ∣ H 0 為真 } = P { 落在拒絕域 } α=P\{拒絕了H_0|H_0為真 \}=P\{落在拒絕域\} α=P{拒絕了H0?∣H0?為真}=P{落在拒絕域}
(2)犯第二類錯誤(取偽)：H?為假的情況下，接受了H?。
犯第二類錯誤的概率： β = P { 接受了 H 0 ∣ H 0 為假 } = P { 落在接受域 } β=P\{接受了H_0|H_0為假\}=P\{落在接受域\} β=P{接受了H0?∣H0?為假}=P{落在接受域}
常用性質(zhì)：
①
P
{
x
>
a
}
=
1
?
P
{
x
≤
a
}
P\{x>a\}=1-P\{x≤a\}
P{x>a}=1?P{x≤a}
② Φ ( ? x ) = 1 ? Φ ( x ) Φ(-x)=1-Φ(x) Φ(?x)=1?Φ(x)
例題1：21年10. ? 犯第二類錯誤
分析：
答案：B
例題2：24李林六(五)10、23李林六(四)10. ? 犯第一類錯誤
分析：
答案：C
例題3：
分析：
犯第一類錯誤的概率α = P{H0為真，落在拒絕域}
犯第二類錯誤的概率β=P{H1為真，落在接受域}
答案：
3.雙邊檢驗、單邊檢驗
①接受域看H?，拒絕域看H?
②易錯點：求未知數(shù)時，要代入原假設(shè)H?中μ的值
μ
0
μ_0
μ0?
(1)雙邊檢驗：
①H?：μ=μ?，H?：μ≠μ?
②α/2
(2)單邊檢驗：
①H?：μ≥或≤μ?，H?：μ>或<μ?
②α
例題1：
文章來源：http://www.zghlxwxcb.cn/news/detail-666138.html
分析：
答案：求出拒絕域，得
x
ˉ
=
10
\bar{x}=10
xˉ=10落入拒絕域，拒絕原假設(shè)H?文章來源地址http://www.zghlxwxcb.cn/news/detail-666138.html
到了這里，關(guān)于概率論與數(shù)理統(tǒng)計：第七章:參數(shù)估計 第八章:假設(shè)檢驗的文章就介紹完了。如果您還想了解更多內(nèi)容，請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
