似然(likelihood)和似然函數(shù)(likelihood Function)
概率(Probability)
在已知一些參數(shù)的情況下,預(yù)測(cè)接下來結(jié)果的可能性
在結(jié)果產(chǎn)生之前,通過環(huán)境中的參數(shù),預(yù)測(cè)事件發(fā)生的概率
例:拋硬幣
- 假定硬幣的材質(zhì)均勻,其拋出落地結(jié)果為正面和反面的概率都是0.5
- 這個(gè)概率在結(jié)果發(fā)生前才有意義,在發(fā)生后,拋硬幣的結(jié)果就確定了
似然
跟概率相反,用于在已知某些觀測(cè)所得到的結(jié)果時(shí),對(duì)有關(guān)事物的性質(zhì)的參數(shù)進(jìn)行估值
基于已經(jīng)確定的結(jié)果,來推測(cè)產(chǎn)生這個(gè)結(jié)果的可能環(huán)境,或環(huán)境中的某些參數(shù)的過程
例:拋硬幣
- 隨即拋出硬幣1w次;8k次人像在上,2k次荷花在上
- 推測(cè)這個(gè)硬幣:得到人像的概率為0.8;得到荷花的概率為0.2
概率VS似然
- 在條件θ的情況下,事件x發(fā)生的概率
概率是事件x的函數(shù)
P ( x ∣ θ ) P\left( x|\theta \right) P(x∣θ)
- 在條件事件x的情況下,去推斷θ的可能性
似然是參數(shù)θ的函數(shù)
L ( θ ∣ x ) L\left( \theta \right|x) L(θ∣x)
- 數(shù)值上,兩者有如下關(guān)系
P ( x ∣ θ ) = L ( θ ∣ x ) P\left( x|\theta \right) = L\left( \theta \right|x) P(x∣θ)=L(θ∣x)
- 似然和概率表示不同的意義,似然不一定介于0-1,似然值的總和也不一定是1
- 單獨(dú)的似然值沒有意義,似然值L是用來對(duì)比在各種θi下,哪種θi更接近與引發(fā)事件x的真實(shí)的“θ”
似然函數(shù)
L ( θ ∣ x ) L\left( \theta \right|x) L(θ∣x)
似然函數(shù)除了可以用于計(jì)算似然之外,還可以了解當(dāng)θ變化的時(shí)候,似然怎么變化,用來確定最大可能性的θ值會(huì)是多少
極大似然估計(jì)(最大似然估計(jì))(Maximum Likelihood Estimate)
利用已知的樣本標(biāo)記結(jié)果,反推最具有可能或者最大概率導(dǎo)致這些樣本結(jié)果出現(xiàn)的模型參數(shù)。
是一種已知觀察數(shù)據(jù),來推斷模型參數(shù)的過程
已知事件x,推斷當(dāng)θ為什么值的時(shí)候,發(fā)生事件x的概率最大,就是極大似然估計(jì)
例:拋硬幣
- 10次實(shí)驗(yàn),拋硬幣,結(jié)果如下,可得似然函數(shù)為:
文章來源:http://www.zghlxwxcb.cn/news/detail-817398.html
- 根據(jù)似然函數(shù),可知當(dāng)θ=0.7的時(shí)候,本次實(shí)驗(yàn)有最大的發(fā)生概率
- θ=0.7可能并不是該硬幣的真實(shí)θ,但是在該實(shí)驗(yàn)下,θ=0.7是最大似然估計(jì)的結(jié)果
- 若想要得到更精確的θ值,可以增加試驗(yàn)次數(shù)
機(jī)器學(xué)習(xí)
極大似然估計(jì)的過程對(duì)應(yīng)某些機(jī)器學(xué)習(xí)算法的參數(shù)估計(jì)過程, 例如變分自編碼器VAE文章來源地址http://www.zghlxwxcb.cn/news/detail-817398.html
到了這里,關(guān)于【基礎(chǔ)知識(shí)-概率論】似然、似然函數(shù)、極大似然估計(jì)(最大似然估計(jì))的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!