第二代CodeGeeX代碼生成模型CodeGeeX2-6B已于近日發(fā)布，并在CodeGeeX編程助手插件上全面上線。新模型基于 ChatGLM2-6B 架構(gòu)加入代碼預(yù)訓(xùn)練實(shí)現(xiàn)，精度更高、速度更快、能力更強(qiáng)。 下面我們一起來看一下新版模型給CodeGeeX編程助手帶來的變化吧：
一、代碼生成更快更精準(zhǔn)，問答更智能
相比一代模型 ，CodeGeeX2-6B在代碼生成的精度和速度上都有極大的提升。第一代CodeGeeX模型只能基于前文向后生成代碼，而CodeGeeX2-6B可以實(shí)現(xiàn)根據(jù)上下文填空。這意味著在補(bǔ)全代碼時(shí)，可以綜合當(dāng)前光標(biāo)上下文的內(nèi)容，更精準(zhǔn)地補(bǔ)全代碼。在新模型的支撐下，插件中的問答功能“Ask CodeGeeX”也得到了升級(jí)。原先的“Ask CodeGeeX”使用ChatGLM模型回答問題。更新后，該功能使用的模型換成了基于CodeGeeX2-6B微調(diào)得到的對(duì)話模型，在回答編程相關(guān)的問題時(shí)，比之前更專業(yè)、更智能。
二、支持更多編程語言
新版CodeGeeX支持的編程語言數(shù)量達(dá)到了100余種。除了Python、Java、JavaScript、GO等主流編程語言外，像Kotlin、Rust等編程語言的代碼生成效果都獲得了極大提升。對(duì)于前端程序員常用Vue等開發(fā)框架，新版模型的能力也得到了加強(qiáng)。新版本在自然語言生成SQL查詢的場(chǎng)景里，也有驚艷的表現(xiàn)。在“Ask CodeGeeX”功能中，可根據(jù)指定的數(shù)據(jù)庫(kù)表結(jié)構(gòu)和查詢需求，自動(dòng)生成相應(yīng)的 SQL 查詢語句。
三、從8k到32k，更長(zhǎng)的上下文支持
依托于ChatGLM2-6B基座模型，CodeGeeX2-6B支持的上下文長(zhǎng)度提升到了32K?；谶@一新特性，可以將當(dāng)前工程中其他文件的內(nèi)容也作為上下文引入，這使得模型在生成時(shí)可以更好地理解當(dāng)前開發(fā)任務(wù)。基于32K上下文長(zhǎng)度的特性，未來還會(huì)有更多新功能上線，敬請(qǐng)期待。
附：模型介紹與評(píng)測(cè)
CodeGeeX2 是多語言代碼生成模型CodeGeeX的第二代模型。不同于一代模型，CodeGeeX2 是基于 ChatGLM2 架構(gòu)加入代碼預(yù)訓(xùn)練實(shí)現(xiàn)。得益于 ChatGLM2 的更優(yōu)性能，CodeGeeX2-6B 在多項(xiàng)指標(biāo)上取得較大的性能提升。CodeGeeX2-6B 更好支持中英文輸入，支持最大 8192 序列長(zhǎng)度，推理速度較一代 CodeGeeX-13B 大幅提升，量化后僅需6GB顯存即可運(yùn)行，支持輕量級(jí)本地化部署。
在 HumanEval 評(píng)測(cè)中，CodeGeeX2-6B的表現(xiàn)全面超越了參數(shù)規(guī)模更大的 StarCoder 模型以及 OpenAI 的 Code-Cushman-001 模型（GitHub Copilot 曾使用的模型）。
在多語言方面，新版 CodeGeeX 2 模型在 HumanEval-X 數(shù)據(jù)集評(píng)測(cè)中表現(xiàn)優(yōu)異。相較于第一代，CodeGeeX2 的Pass@1 指標(biāo)在各個(gè)語言上的平均表現(xiàn)提升了 107%。其中，Rust 語言的性能提升顯著，提升了 321%；C++ 和 JavaScript 語言上的表現(xiàn)也提升了 70% 以上。
自 2022 年 9 月上線以來，CodeGeeX輔助開發(fā)人員提高編程效率，取得了顯著成果。截至目前，CodeGeeX 插件下載量已超過 13 萬，每日生成代碼近千萬行。升級(jí)后的CodeGeeX插件繼續(xù)對(duì)個(gè)人用戶免費(fèi)開放。文章來源：http://www.zghlxwxcb.cn/news/detail-621150.html
本文由博客一文多發(fā)平臺(tái) OpenWrite 發(fā)布！文章來源地址http://www.zghlxwxcb.cn/news/detail-621150.html
到了這里，關(guān)于CodeGeeX2 模型全新上線，編程助手能力全面升級(jí)！的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
