大模型中的幻覺問題
“林黛玉倒拔垂楊柳”、“月球上面有桂樹”、“宋江字武松”……相信經(jīng)常使用大語言模型都會遇到這樣“一本正經(jīng)胡說八道”的情況。這其實是大模型的“幻覺”問題，是大模型行業(yè)落地的核心挑戰(zhàn)之一。例如幻覺會影響生成內(nèi)容的可靠性，對于法律、金融、醫(yī)療等專業(yè)要求高的領(lǐng)域，將難以完成實際場景任務(wù)。因此，大模型幻覺問題也被認(rèn)為是制約大模型廣泛應(yīng)用的一大難題。
如何準(zhǔn)確評估和解決大語言模型中的幻覺問題已經(jīng)成為一個至關(guān)重要的挑戰(zhàn)。近日，復(fù)旦大學(xué)與上海人工智能實驗室構(gòu)建了針對中文大模型的幻覺評測數(shù)據(jù)集HalluQA，對業(yè)界主流的大模型進行了評估。
中文大模型幻覺評測，文心一言效果最佳
HalluQA采用無幻覺率來評估大模型的優(yōu)劣。無幻覺率越高代表模型幻覺越低，事實準(zhǔn)確性越高。在評測的24個主流大模型中，包括百度文心一言ERNIE-Bot、百川Baichuan、智譜ChatGLM、阿里通義千問和GPT-4等。
中文大模型幻覺評測數(shù)據(jù)集HalluQA對24個主流大模型進行評測
從評測結(jié)果來看，幻覺問題對大模型來說尚有困難，有18個模型的無幻覺率低于50%。在幻覺消除上，具備檢索增強能力的大模型優(yōu)勢明顯，在所有模型評測中，文心一言在整體幻覺問題解決方面表現(xiàn)突出，排名第一，整體無幻覺率為69.33%。而GPT-4整體無幻覺率為53.11%，排名第六。
HalluQA：不同類型模型在不同類型的問題上的平均非幻覺率
文章來源：http://www.zghlxwxcb.cn/news/detail-751387.html
行業(yè)普遍認(rèn)為，幻覺問題對于大模型在多個領(lǐng)域的落地都可能產(chǎn)生嚴(yán)重影響，包括客戶服務(wù)、金融服務(wù)、法律決策和醫(yī)療診斷等。因此解決幻覺問題越好的大模型，才具備更強的產(chǎn)業(yè)落地價值。文章來源地址http://www.zghlxwxcb.cn/news/detail-751387.html
到了這里，關(guān)于大模型幻覺成應(yīng)用落地難題 最新評測文心一言解決幻覺能力最好的文章就介紹完了。如果您還想了解更多內(nèi)容，請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
