相關(guān)文章

• LLM微調(diào) | Prefix-Tuning, Prompt-Tuning, P-tuning, P-tuning-v2

  ?? 下面我只是分析講解下這些方法的原理以及具體代碼是怎么實(shí)現(xiàn)的，不對(duì)效果進(jìn)行評(píng)價(jià)，畢竟不同任務(wù)不同數(shù)據(jù)集效果差別還是挺大的。 hard prompt (離散)：即人類(lèi)寫(xiě)的自然語(yǔ)言式的prompt。 soft prompt (連續(xù))：可訓(xùn)練的權(quán)重，可以理解為偽prompt?！井吘筺n是連續(xù)的模型，在連續(xù)

  2024年02月14日

  瀏覽(50)
• 

  解密Prompt系列12. LLM Agent零微調(diào)范式 ReAct & Self Ask

  前三章我們分別介紹了思維鏈的使用，原理和在小模型上的使用。這一章我們正式進(jìn)入應(yīng)用層面，聊聊如何把思維鏈和工具使用結(jié)合得到人工智能代理。 要回答我們?yōu)槭裁葱枰狝I代理？代理可以解決哪些問(wèn)題？可以有以下兩個(gè)視角 首先是我們賦能模型，如果說(shuō) LLM是大腦，那

  2024年02月15日

  瀏覽(15)
• 

  大模型參數(shù)高效微調(diào)技術(shù)原理綜述（二）-BitFit、Prefix Tuning、Prompt Tuning

  隨著，ChatGPT 迅速爆火，引發(fā)了大模型的時(shí)代變革。然而對(duì)于普通大眾來(lái)說(shuō)，進(jìn)行大模型的預(yù)訓(xùn)練或者全量微調(diào)遙不可及。由此，催生了各種參數(shù)高效微調(diào)技術(shù)，讓科研人員或者普通開(kāi)發(fā)者有機(jī)會(huì)嘗試微調(diào)大模型。 因此，該技術(shù)值得我們進(jìn)行深入分析其背后的機(jī)理，本系列大

  2024年02月09日

  瀏覽(19)

• 一分鐘搞懂 微調(diào)(fine-tuning)和prompt

  大家都是希望讓預(yù)訓(xùn)練語(yǔ)言模型和下游任務(wù)靠的更近，只是實(shí)現(xiàn)的方式不一樣。Fine-tuning中：是預(yù)訓(xùn)練語(yǔ)言模型“遷就“各種下游任務(wù)；Prompting中，是各種下游任務(wù)“遷就“預(yù)訓(xùn)練語(yǔ)言模型。 微調(diào)（fine-tuning）和prompt是自然語(yǔ)言處理領(lǐng)域中常用的兩個(gè)術(shù)語(yǔ)，它們都是指訓(xùn)練和

  2023年04月26日

  瀏覽(31)
• 

  【LLM】Prompt微調(diào)

  在機(jī)器學(xué)習(xí)中，Prompt通常指的是一種生成模型的輸入方式。生成模型可以接收一個(gè)Prompt作為輸入，并生成與該輸入相對(duì)應(yīng)的輸出。Prompt可以是一段文本、一個(gè)問(wèn)題或者一個(gè)片段，用于指導(dǎo)生成模型生成相應(yīng)的響應(yīng)、續(xù)寫(xiě)文本等。 一般大模型蘊(yùn)含的訓(xùn)練數(shù)據(jù)量往往是百億級(jí)別甚

  2024年01月17日

  瀏覽(32)
• 

  【論文極速讀】Prompt Tuning——一種高效的LLM模型下游任務(wù)適配方式

  【論文極速讀】Prompt Tuning——一種高效的LLM模型下游任務(wù)適配方式 FesianXu 20230928 at Baidu Search Team Prompt Tuning是一種PEFT方法（Parameter-Efficient FineTune），旨在以高效的方式對(duì)LLM模型進(jìn)行下游任務(wù)適配，本文簡(jiǎn)要介紹Prompt Tuning方法，希望對(duì)讀者有所幫助。如有謬誤請(qǐng)見(jiàn)諒并聯(lián)系指

  2024年02月07日

  瀏覽(20)
• 

  【LLM系列之指令微調(diào)】長(zhǎng)話(huà)短說(shuō)大模型指令微調(diào)的“Prompt”

  1 指令微調(diào)數(shù)據(jù)集形式“花樣”太多 大家有沒(méi)有分析過(guò) prompt對(duì)模型訓(xùn)練或者推理的影響？之前推理的時(shí)候，發(fā)現(xiàn)不加訓(xùn)練的時(shí)候prompt，直接輸入模型性能會(huì)變差的，這個(gè)倒是可以理解。假如不加prompt直接訓(xùn)練，是不是測(cè)試的時(shí)候不加prompt也可以？還有一個(gè)就是多輪prompt和單輪

  2024年02月14日

  瀏覽(23)
• 

  [NLP]LLM---大模型指令微調(diào)中的“Prompt”

  大家有沒(méi)有分析過(guò) prompt對(duì)模型訓(xùn)練或者推理的影響？之前推理的時(shí)候，發(fā)現(xiàn)不加訓(xùn)練的時(shí)候prompt，直接輸入模型性能會(huì)變差的，這個(gè)倒是可以理解。假如不加prompt直接訓(xùn)練，是不是測(cè)試的時(shí)候不加prompt也可以？還有一個(gè)就是多輪prompt和單輪prompt怎么構(gòu)造的問(wèn)題？好多模型訓(xùn)練

  2024年02月09日

  瀏覽(20)

• 自然語(yǔ)言基礎(chǔ) IMDB下的 MLM (掩碼模型) & Bert Fine-tuning (模型微調(diào))

  本文是Hugging Face 上 NLP的一篇代碼教程，通過(guò)imdb數(shù)據(jù)集， Fine-tuning微調(diào) Bert預(yù)訓(xùn)練模型。 涉及包括: MLM, Bert, Fine-tuning, IMDB, Huggingface Repo 微調(diào)的方式是通過(guò)調(diào)整訓(xùn)練模型的學(xué)習(xí)率來(lái)重新訓(xùn)練模型，這個(gè)來(lái)自 早期 ACL 2018的一篇paper： 《Universal Language Model Fine-tuning for Text

  2024年02月15日

  瀏覽(26)
• 

  解密Prompt系列13. LLM Agent-指令微調(diào)方案: Toolformer & Gorilla

  上一章我們介紹了基于Prompt范式的工具調(diào)用方案，這一章介紹基于模型微調(diào)，支持任意多工具組合調(diào)用，復(fù)雜調(diào)用的方案。多工具調(diào)用核心需要解決3個(gè)問(wèn)題，在哪個(gè)位置進(jìn)行工具調(diào)用(where), 從眾多工具中選擇哪一個(gè)(Which), 工具的輸入是什么(What)。Where + Which + What，我稱(chēng)之為

  2024年02月12日

  瀏覽(15)