基礎(chǔ)
自然語(yǔ)言處理(NLP)
自然語(yǔ)言處理PaddleNLP-詞向量應(yīng)用展示
自然語(yǔ)言處理(NLP)-前預(yù)訓(xùn)練時(shí)代的自監(jiān)督學(xué)習(xí)
自然語(yǔ)言處理PaddleNLP-預(yù)訓(xùn)練語(yǔ)言模型及應(yīng)用
自然語(yǔ)言處理PaddleNLP-文本語(yǔ)義相似度計(jì)算(ERNIE-Gram)
自然語(yǔ)言處理PaddleNLP-詞法分析技術(shù)及其應(yīng)用
自然語(yǔ)言處理PaddleNLP-快遞單信息抽取
理解
自然語(yǔ)言處理PaddleNLP-信息抽取技術(shù)及應(yīng)用
自然語(yǔ)言處理PaddleNLP-基于預(yù)訓(xùn)練模型完成實(shí)體關(guān)系抽取--實(shí)踐
自然語(yǔ)言處理PaddleNLP-情感分析技術(shù)及應(yīng)用-理論
自然語(yǔ)言處理PaddleNLP-情感分析技術(shù)及應(yīng)用SKEP-實(shí)踐
問(wèn)答
自然語(yǔ)言處理PaddleNLP-檢索式文本問(wèn)答-理論
自然語(yǔ)言處理PaddleNLP-結(jié)構(gòu)化數(shù)據(jù)問(wèn)答-理論
翻譯
自然語(yǔ)言處理PaddleNLP-文本翻譯技術(shù)及應(yīng)用-理論
自然語(yǔ)言處理PaddleNLP-機(jī)器同傳技術(shù)及應(yīng)用-理論
對(duì)話
自然語(yǔ)言處理PaddleNLP-任務(wù)式對(duì)話系統(tǒng)-理論
自然語(yǔ)言處理PaddleNLP-開(kāi)放域?qū)υ捪到y(tǒng)-理論
產(chǎn)業(yè)實(shí)踐
自然語(yǔ)言處理 Paddle NLP - 預(yù)訓(xùn)練模型產(chǎn)業(yè)實(shí)踐課-理論
詞法分析就是利用計(jì)算機(jī)對(duì)自然語(yǔ)言的形態(tài)(morphology) 進(jìn)行分析,判斷詞的結(jié)構(gòu)和類(lèi)別等?!焙?jiǎn)單而言,就是分詞并對(duì)每個(gè)詞進(jìn)行分類(lèi),包括:分詞、詞性標(biāo)注、實(shí)體識(shí)別三個(gè)任務(wù)
問(wèn)答
知識(shí)圖譜,類(lèi)似一張表, 里面放了 姚明(人) 、妻子(屬性)對(duì)應(yīng)的是誰(shuí)
這張表來(lái)源于網(wǎng)頁(yè)挖掘,也是詞法分析,進(jìn)行對(duì)應(yīng)識(shí)別
對(duì)話
詞法分析得到標(biāo)簽,根據(jù)動(dòng)作進(jìn)行具體操作
對(duì)每個(gè)字打標(biāo)簽:B 是一個(gè)詞的開(kāi)始,I 是一個(gè)詞的持續(xù),通過(guò)一個(gè)公式轉(zhuǎn)換成序列標(biāo)注
OOV(out of vocabulary) 問(wèn)題:新詞,沒(méi)有見(jiàn)過(guò)的詞
將預(yù)訓(xùn)練模型插進(jìn)來(lái)進(jìn)行替換,解決OOV問(wèn)題
預(yù)測(cè)有4個(gè)詞,只有3個(gè)和標(biāo)簽標(biāo)注的一樣,它的準(zhǔn)確就是 3/4
只有一個(gè)錯(cuò)了應(yīng)該是8/9 實(shí)際比它要小,所以說(shuō)以詞為力度去計(jì)算是一個(gè)更嚴(yán)格的標(biāo)準(zhǔn)。
基于上面的評(píng)估方法得到的一個(gè)準(zhǔn)確率和效果,MSR數(shù)據(jù)集(分詞數(shù)據(jù)集)BERNIE-CRF效果最好。
最長(zhǎng)匹配,準(zhǔn)確率還可以,還是有很多地方在使用,高效簡(jiǎn)單
文章來(lái)源:http://www.zghlxwxcb.cn/news/detail-486196.html
文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-486196.html
到了這里,關(guān)于自然語(yǔ)言處理 Paddle NLP - 詞法分析技術(shù)及其應(yīng)用的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!