基礎(chǔ)
自然語言處理(NLP)
自然語言處理PaddleNLP-詞向量應(yīng)用展示
自然語言處理(NLP)-前預(yù)訓(xùn)練時代的自監(jiān)督學(xué)習(xí)
自然語言處理PaddleNLP-預(yù)訓(xùn)練語言模型及應(yīng)用
自然語言處理PaddleNLP-文本語義相似度計算(ERNIE-Gram)
自然語言處理PaddleNLP-詞法分析技術(shù)及其應(yīng)用
自然語言處理PaddleNLP-快遞單信息抽取
理解
自然語言處理PaddleNLP-信息抽取技術(shù)及應(yīng)用
自然語言處理PaddleNLP-基于預(yù)訓(xùn)練模型完成實體關(guān)系抽取--實踐
自然語言處理PaddleNLP-情感分析技術(shù)及應(yīng)用-理論
自然語言處理PaddleNLP-情感分析技術(shù)及應(yīng)用SKEP-實踐
問答
自然語言處理PaddleNLP-檢索式文本問答-理論
自然語言處理PaddleNLP-結(jié)構(gòu)化數(shù)據(jù)問答-理論
翻譯
自然語言處理PaddleNLP-文本翻譯技術(shù)及應(yīng)用-理論
自然語言處理PaddleNLP-機器同傳技術(shù)及應(yīng)用-理論
對話
自然語言處理PaddleNLP-任務(wù)式對話系統(tǒng)-理論
自然語言處理PaddleNLP-開放域?qū)υ捪到y(tǒng)-理論
產(chǎn)業(yè)實踐
自然語言處理 Paddle NLP - 預(yù)訓(xùn)練模型產(chǎn)業(yè)實踐課-理論
什么是任務(wù)型對話:
- 任務(wù)型:用于幫助用戶完成某領(lǐng)域的特定任務(wù),例如訂餐、查天氣、訂票等
- 閑聊型:也稱作開放域?qū)υ捪到y(tǒng),目標(biāo)是讓用戶持續(xù)的參與到交互過程,提供情感陪伴
- 問答型:提供知識滿足,具體類型比較多,如圖譜問答、表格問答、文檔問答等
Pipeline型任務(wù)型對話系統(tǒng)
什么是NLU?
NLU(自然語言理解):是指將用戶表述映射為結(jié)構(gòu)化的語義表示,典型的結(jié)構(gòu)化語義表示是意圖+詞槽的形式。
意圖:是指對話中用戶想要表達(dá)的目的,比如訂票,查天氣等
詞槽:是指用戶表述中,與任務(wù)相關(guān)的核心語義元素
意圖分類+詞槽識別==>文本分類+序列標(biāo)注
什么是DST?
DS(對話狀態(tài)):是指將t時刻的對話表示為可供系統(tǒng)選擇下一時刻動作信息的抽象信息(數(shù)據(jù)結(jié)構(gòu)),典型而言就是每個槽值的取值分布情況(BelifState)。
DST:對DS進(jìn)行追蹤,當(dāng)前大多數(shù)工作采用BelifState
Pipeline型任務(wù)式對話系統(tǒng)中的Policy
對話策略是指根據(jù)DST估計的對話狀態(tài),通過預(yù)設(shè)的候選動作集,選擇系統(tǒng)動作的過程。
Policy中的典型方法
典型方式: - 在離線階段,通過監(jiān)督學(xué)習(xí)或模擬學(xué)習(xí)在語料上進(jìn)行學(xué)習(xí)
- 在線階段,通過強化學(xué)習(xí)的方式,與真實用戶交互過程中學(xué)習(xí)
用戶模擬器在DPL中的應(yīng)用
定義:用戶模擬器是另一套對話系統(tǒng),其動作行為與真實用戶類似,用來提供進(jìn)行訓(xùn)練或評估的環(huán)境
缺點:用戶模擬器并不能完全模擬真實用戶的對話習(xí)慣,它本身行為的有偏可能會導(dǎo)致學(xué)習(xí)到的是不是最優(yōu)模型,從而在與真實用戶交互時表現(xiàn)較差。
Pipeline型任務(wù)式對話系統(tǒng)中的NLG
什么是NLG?定義:自然語言生成的主要任務(wù)是將對話管理模塊輸出的抽象表達(dá)轉(zhuǎn)換為句法合法、語義準(zhǔn)確的自然語言句子,一般被視為一個條件語言生成任務(wù)。
評估標(biāo)準(zhǔn): - 人為標(biāo)準(zhǔn):是否自然、是否多樣,是否完整傳達(dá)了語義、是否流暢,可讀性是否好等
- 機器指標(biāo):BLEU、perplexity、ROUGE、METEOR等
雖然有多種機器評估指標(biāo),但實際上依然缺乏一種能夠貼近人為感知的評估標(biāo)準(zhǔn)
端到端任務(wù)型對話系統(tǒng)
什么是端到端任務(wù)型對話系統(tǒng)?文章來源:http://www.zghlxwxcb.cn/news/detail-507771.html
- 端到端任務(wù)型對話系統(tǒng)是受開放域?qū)υ掝I(lǐng)域的進(jìn)步啟發(fā),使用模型以端到端的方式而不是分模塊優(yōu)化的方式構(gòu)建任務(wù)型對話系統(tǒng)。
- 雖然大多數(shù)端到端任務(wù)型對話系統(tǒng)采用了Seq2Seq框架,但端到端任務(wù)型對話系統(tǒng)≠Seq2Seq模型
端到端任務(wù)型對話系統(tǒng)--示例
工業(yè)界的任務(wù)型對話系統(tǒng)
UNIT任務(wù)式對話技術(shù)發(fā)展
UNIT--面向小樣本的意圖識別
UNIT--TaskFlow:可編程對話流管理框架
UNIT網(wǎng)站:https://ai.baidu.com/unit/home文章來源地址http://www.zghlxwxcb.cn/news/detail-507771.html
到了這里,關(guān)于自然語言處理 Paddle NLP - 任務(wù)式對話系統(tǒng)-理論的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!