社區(qū)周刊今日改版！匯聚每周AI熱點(diǎn)，不錯(cuò)過(guò)重要資訊！歡迎掃碼，關(guān)注并訂閱智源社區(qū)AI周刊。

提示工程模擬人類思考模式，推理等任務(wù)迎來(lái)曙光

谷歌近日發(fā)布的新提示工程方法，再次說(shuō)明了數(shù)據(jù)和訓(xùn)練方式對(duì)大模型性能的影響。今年早些時(shí)候提出的Chain-of-Thought（CoT）方法，結(jié)合其他指令微調(diào)方式，在PaLM、T5等模型上進(jìn)行了驗(yàn)證，讓30億規(guī)模的模型性能超過(guò)了1750億的GPT-3。智源社區(qū)也邀請(qǐng)了該論文通訊作者侯樂(lè)做報(bào)告分享。

同時(shí)，Self-consistency和Least-to-most方法，模仿了人類在推理中的多策略投票和復(fù)雜問(wèn)題拆解機(jī)制，或許在將來(lái)也能夠在大模型上進(jìn)行驗(yàn)證。提示工程融合人類思維模式的方法，相比單純的無(wú)監(jiān)督語(yǔ)料學(xué)習(xí)提供給了大模型更多建模人類思考方式的能力。

爭(zhēng)議中，Copilot商業(yè)化高歌猛進(jìn)，已成為GitHub核心AI應(yīng)用

基于代碼生成模型Codex的應(yīng)用Copilot，在誕生之初就被發(fā)現(xiàn)會(huì)生成訓(xùn)練用的源代碼，相當(dāng)于直接“抄襲”。近日，Copilot的開(kāi)發(fā)商OpenAI、微軟以及GitHub遭到集體訴訟，原告方要求其賠償90億美元。對(duì)于AI機(jī)構(gòu)而言，從最保守的角度出發(fā)，AI模型的訓(xùn)練數(shù)據(jù)應(yīng)當(dāng)排除任何版權(quán)和許可證方面的爭(zhēng)議。因?yàn)榧词馆敵龅慕Y(jié)果和輸入完全不一樣，模型的內(nèi)部參數(shù)依然可被視為是輸入數(shù)據(jù)的知識(shí)產(chǎn)權(quán)延伸。

另一方面，Copilot在商業(yè)領(lǐng)域高歌猛進(jìn)，其注冊(cè)用戶數(shù)量已經(jīng)超過(guò)了一百萬(wàn)。GitHub也推出了基于Copilot的AI結(jié)對(duì)編程平臺(tái)。而近日的GitHub Universe 2022開(kāi)發(fā)者大會(huì)上，Copilot推出了語(yǔ)音交互編程新功能——開(kāi)發(fā)者只需要說(shuō)一聲“嘿，GitHub！”就可以使用語(yǔ)音進(jìn)行編程了，這被認(rèn)為是幫助殘障人士實(shí)現(xiàn)編程的一項(xiàng)創(chuàng)新舉措。在Azure官網(wǎng)上已出現(xiàn)了名為OpenAI Services服務(wù)項(xiàng)目，包括Copilot的應(yīng)用案例。這說(shuō)明，即使是在創(chuàng)新力十足的IT行業(yè)，只要有重復(fù)性的人力勞動(dòng)場(chǎng)景，就有可以進(jìn)入的場(chǎng)景和落地空間。

順便一提，Hugging Face的BigCode項(xiàng)目推出了名為“The Stack”的代碼數(shù)據(jù)集，包含30種編程語(yǔ)言，數(shù)據(jù)量高達(dá)3.1TB。這些代碼都是根據(jù)許可證進(jìn)行篩選的，沒(méi)有版權(quán)爭(zhēng)議。同時(shí)，開(kāi)發(fā)者可以要求從數(shù)據(jù)集中移除自己的代碼。

科技巨頭裁員潮或影響AI行業(yè)，“發(fā)Paper就完事”不是行業(yè)常態(tài)

上周，執(zhí)掌推特的馬斯克裁掉了90%的AI團(tuán)隊(duì)人員，AI倫理、負(fù)責(zé)任的人工智能、算法透明度等團(tuán)隊(duì)無(wú)人幸免。這周，Meta的扎克伯格裁員一萬(wàn)多人，微軟、蘋果等也紛紛凍結(jié)招聘。目前巍然不動(dòng)的，似乎就是谷歌，最近還推出了多款基于AI模型的應(yīng)用供用戶使用。

谷歌研發(fā)的大量模型和新技術(shù)，往往都能找到應(yīng)用場(chǎng)景。早先的BERT模型，很快就被用于優(yōu)化搜索業(yè)務(wù)。5400億參數(shù)的大模型PaLM，現(xiàn)在已經(jīng)是具身智能領(lǐng)域的核心模型（PaLM-SayCan），最近還衍生出了Code as Policies，距離應(yīng)用只有幾步之遙。而OpenAI在后期專攻大模型研發(fā)和應(yīng)用，如今已在市場(chǎng)站穩(wěn)腳跟。發(fā)論文不是企業(yè)的核心訴求，企業(yè)人員除了科研能力，工程、項(xiàng)目組織管理和市場(chǎng)推廣能力等同樣關(guān)鍵。

---

查看預(yù)訓(xùn)練、強(qiáng)化學(xué)習(xí)等領(lǐng)域周刊內(nèi)容，歡迎點(diǎn)擊閱讀原文。

智源社區(qū)招聘、活動(dòng)、推廣等合作，請(qǐng)聯(lián)系：editor@baai.ac.cn文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-489899.html