原作者:依依│百度飛槳產(chǎn)品經(jīng)理
一喬│飛槳開發(fā)者技術(shù)專家
分享內(nèi)容
01:大模型應(yīng)用簡介
02:LLM應(yīng)用開發(fā)范式
03: Al Studio大模型社區(qū)
04:AI對話類應(yīng)用開發(fā)技巧
大模型技術(shù)爆發(fā),各類應(yīng)用產(chǎn)品涌現(xiàn)
文心產(chǎn)業(yè)級知識(shí)增強(qiáng)大模型
工作中的“超級助手”——智能總結(jié)
工作中的“超級助手”——智能編程
基于大語言模型的應(yīng)用開發(fā)
三種LLM應(yīng)用開發(fā)范式
低投入Prompting耗時(shí)短,效果有限,
受token限制
中投入建立數(shù)據(jù)索引庫開卷考試:耗時(shí)適中,受檢索效果、token限制
高投入
Supervised Fine Tuning閉卷考試:效果較好泛化性強(qiáng)
耗時(shí)較久門檻較高
文心一言微調(diào)經(jīng)驗(yàn)總結(jié)
1.適當(dāng)構(gòu)建ICL和COT數(shù)據(jù)可提升指令理解
與多輪對話能力
2.w條以上的數(shù)據(jù)有更好的效果3.數(shù)據(jù)多樣性重要性大于數(shù)據(jù)規(guī)模4.盡量篩選掉無意義和錯(cuò)誤的內(nèi)容
共創(chuàng)社區(qū)生態(tài)、讓大模型開發(fā)更簡單
大模型社區(qū):支持分享、交流與共創(chuàng)
- 支持公開作品至創(chuàng)意坊
- 熱門內(nèi)容與日榜/周榜實(shí)時(shí)更新
- 點(diǎn)擊作品即可收藏、制作同款
大模型社區(qū):支持分享、交流與共創(chuàng)
支持作品分享至頻道
支持共創(chuàng)交流
支持表情點(diǎn)贊等多反饋操作
點(diǎn)擊作品即可查看詳情
大模型應(yīng)用:支持體驗(yàn)、創(chuàng)作 - 支持大模型極致推理
- 性能模型參數(shù)自動(dòng)填寫
- 提供Prompt最佳實(shí)踐
大模型應(yīng)用:支持體驗(yàn)、創(chuàng)作
知識(shí)靈活掛載
自動(dòng)建立數(shù)據(jù)索引
·支持大模型高效微調(diào)
LoRA、DreamBooth.
SFT、Prefix-Tuning
√文心一言√開源大模型
·專業(yè)模式展示中間過程
靈活調(diào)試大模型效果
社區(qū)應(yīng)用一鍵克隆
實(shí)踐舉例:基于Al Studio構(gòu)建飛槳智能問答助手
AI Studio大模型社區(qū)AI對話類應(yīng)用創(chuàng)建技巧
系統(tǒng)基礎(chǔ)Prompting
你需要根據(jù)以下任務(wù)中的描述進(jìn)行角色扮演,你只能以任務(wù)角色的身份應(yīng)答,而不是語言模型。任務(wù):角色身份設(shè)定
希望LLM扮演的角色/完成的任務(wù)描述,對于任務(wù)描述越細(xì)節(jié)效果越好
格式:人設(shè)+任務(wù)及解決方式+附加條件陳述
角色身份設(shè)定*R
請輸入AlI應(yīng)用代表的角色名稱、身份定位、背景說明等信息,1024字符以內(nèi)(例:角色名稱為“鋼鐵俠”,他是美國漫威漫畫旗下的超級英雄,由斯坦·李、賴瑞-理柏、唐·赫克和杰克·科比聯(lián)合創(chuàng)造。鋼鐵俠全名安東尼·愛德華·托尼·史塔克,出生于1970年5月29日,他是斯塔克工業(yè)的CEO,因場陰謀綁架中,胸部遭彈片穿入,生命危在旦夕,為了挽救自己的性命,在同被綁架的物理學(xué)家何·銀森的協(xié)助下托尼制造方舟反應(yīng)爐從而逃過劫,利用方舟反應(yīng)爐作為能量運(yùn)轉(zhuǎn)的來源,暗中制造了套裝甲殺出重圍后逃脫。后來鋼鐵俠參與創(chuàng)立復(fù)仇者聯(lián)盟。)
角色身份設(shè)定
原則:人設(shè)+任務(wù)目標(biāo)及解決方式+附加條件完整陳述
舉例:
你現(xiàn)在是一個(gè)提示生成器,專業(yè)生成提供給大語言模型人設(shè)設(shè)定的提示詞。
系統(tǒng)基礎(chǔ)Prompting
請基于以下已知信息回答我的問題,不允許進(jìn)行編造與作假,如仍無法回答,請說你不知道如何作答。
已知信息:外掛數(shù)據(jù)集檢索結(jié)果,用作建立向量索引庫,純文本效果會(huì)更好
自定義數(shù)據(jù)檢索
提供給LLM的背景材料,例如對業(yè)務(wù)名詞的介紹解釋、背景知識(shí)的文字片段、需要被處理的樣本輸入等
系統(tǒng)基礎(chǔ)Prompting
請參考并模仿以下示例的應(yīng)答風(fēng)格。
示例;輸入1輸出1輸入2輸出2
Few-Shot Learning
提供LLM學(xué)習(xí)的示例對話,結(jié)合角色身份設(shè)定讓LLM更加理解任務(wù)及回答的方式與風(fēng)格
我的問題:你的輸入
你好,我是大語言模型的提示詞生成器,請?zhí)峁┠憬裉煜胍笳Z言模型扮演的角色/任務(wù)(如扮演代碼審閱助手)。
更多Tips:示例對話及驗(yàn)證參數(shù)
示例對話:提供LLM學(xué)習(xí)的輸入輸出的樣本演示
驗(yàn)證參數(shù):用于驗(yàn)證應(yīng)用創(chuàng)建效果
Tips
1.可以針對特殊回答、語氣設(shè)計(jì)輸入輸出
⒉數(shù)量在5對以上效果更佳
圖文實(shí)踐展示
大模型應(yīng)用開發(fā)實(shí)戰(zhàn)
張一喬PPDE/飛槳開發(fā)者技術(shù)專家。2022年被評選為PPDE
·給Al Studio平臺(tái)賽題貢獻(xiàn)多個(gè)基線,如、《百度網(wǎng)盤Al大賽-圖像處理挑戰(zhàn)賽:文檔檢測優(yōu)化賽》《百度網(wǎng)盤AI大賽-圖像處理挑戰(zhàn)賽:∵"水印智能消除賽》等。
在Al Studio上公開多個(gè)開源項(xiàng)目,例如《基于邊緣部署(PC/AiBox/Jetson)的實(shí)時(shí)預(yù)覽美甲機(jī)》。
對飛槳框架進(jìn)行貢獻(xiàn),如進(jìn)行飛槳框架中英文API文檔修復(fù)工作、為框架移除LoDTensor的使用,自2.3版本以來,多次獲得開源貢獻(xiàn)證書~
在Al Studio平臺(tái)的多個(gè)比賽中,使用PaddlePaddle獲得名次,如2022國際自主智能機(jī)器人大賽企業(yè)賽道榮獲第二名、百度網(wǎng)盤Al大賽-圖像處理挑戰(zhàn)賽榮獲前十名等。
·在飛槳特訓(xùn)營等項(xiàng)目中指導(dǎo)學(xué)員完成應(yīng)用開發(fā)。
實(shí)戰(zhàn)內(nèi)容:以一個(gè)【廣告文案生成器】為例快速開發(fā)大模型應(yīng)用·應(yīng)用概述:根據(jù)對服裝特征的描述,例如顏色,版式等信息詞匯,生成完整的廣告語說辭。講解流程:
·基于已有優(yōu)質(zhì)prompt創(chuàng)建基礎(chǔ)應(yīng)用實(shí)際示例演示與觀察文章來源:http://www.zghlxwxcb.cn/news/detail-616405.html
更多優(yōu)化方式實(shí)操
需要先申請相應(yīng)權(quán)限才能進(jìn)行實(shí)操。文章來源地址http://www.zghlxwxcb.cn/news/detail-616405.html
到了這里,關(guān)于學(xué)習(xí)筆記|大模型優(yōu)質(zhì)Prompt開發(fā)與應(yīng)用課(二)|第五節(jié):只需3步,優(yōu)質(zhì)Prompt秒變應(yīng)用軟件的文章就介紹完了。如果您還想了解更多內(nèi)容,請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!