8月12日，我有幸參加了在北京皇家格蘭云天大酒店舉行的“AI模型技術(shù)與應(yīng)用峰會”。

?

這次會議邀請了很多技術(shù)大咖，他們圍繞：

六大論點(diǎn)

大模型涌現(xiàn)，如何部署訓(xùn)練架構(gòu)與算力芯片

LLM 應(yīng)用技術(shù)棧與Agent全景解析

視覺GPU推理服務(wù)部署 架構(gòu)優(yōu)化實(shí)踐

AI大模型算力系統(tǒng)分析

InsCode

AI 時(shí)代的研發(fā)新范式與開發(fā)者能力演進(jìn)

?

12：40，我準(zhǔn)時(shí)到達(dá)簽到，環(huán)顧四周，當(dāng)時(shí)人還不多隨著時(shí)間流逝越來越多的同行到了。

?

13:00 - 13:30 活動(dòng)簽到

第一次參加這樣的會議達(dá)現(xiàn)場的我，感受到了這場會議的規(guī)模與氛圍?；始腋裉m云天大酒店擠滿了來自各地的參會者。

走進(jìn)這次活動(dòng)的會場，寬敞的會議大廳，整齊的排列著每一張椅子，投影屏幕正在播放著滾動(dòng)的活動(dòng)日程，每個(gè)細(xì)節(jié)都透露出了嚴(yán)謹(jǐn)與專業(yè)。這也是我沒有想到的，見識少了。

隨著時(shí)間主持人也是宣布開始

第一位是知乎科技領(lǐng)域答主@陳巍談芯、千芯科技董事長、人工智能算法-芯片協(xié)同設(shè)計(jì)專家陳巍帶來了分享《大模型涌現(xiàn)，如何部署訓(xùn)練架構(gòu)與算力芯片》

他認(rèn)為在大模型訓(xùn)練和部署中，減少數(shù)據(jù)傳輸冗余，可以降低計(jì)算芯片之間的通信成本，從而提升整體訓(xùn)練效率他還探討了不同算力芯片CPU、GPU、DSA、TPU。的應(yīng)用，以及如何通過合理的降低使用成本等等。

第二位是Dify.AI?創(chuàng)始人張路宇

張路宇提到MetaPrompt 的概念，將其描述為一種結(jié)構(gòu)化的方式可以引導(dǎo)模型進(jìn)行復(fù)雜的推理和行動(dòng)是引導(dǎo)大模型執(zhí)行任務(wù)的關(guān)鍵工具他強(qiáng)調(diào)在設(shè)計(jì)應(yīng)用之前應(yīng)先考慮模型的輸入提示，并用這種方式引導(dǎo)模型執(zhí)行任務(wù)。

接著，美團(tuán)基礎(chǔ)研發(fā)平臺視覺智能部軟件開發(fā)工程師張旭在發(fā)表《美團(tuán)視覺?GPU 推理服務(wù)部署架構(gòu)優(yōu)化的實(shí)踐》主題演講中表示拆分微服務(wù)、優(yōu)化部署架構(gòu)以及綜合考慮多個(gè)優(yōu)化層面，將模型 CPU 和 GPU 運(yùn)算部分解耦，能實(shí)現(xiàn)模型部署工程的性能優(yōu)化從而提升服務(wù)

張旭向觀眾透露，業(yè)界的真實(shí) GPU 利用率怕只有 20％ 左右。造成服務(wù) GPU 利用率低下的重要原因是模型服務(wù)本身存在性能瓶頸，在極限壓力情況下也無法充分利用 GPU 資源。模型中 CPU?和 GPU 運(yùn)算之間還存在相互影響的問題。張旭提出了解決，將模型中的 CPU 和 GPU 運(yùn)算部分分別拆分為獨(dú)立的微服務(wù)，從而實(shí)現(xiàn)了更高的 GPU 利用率和整體性能。

浪潮信息人工智能與高性能應(yīng)用軟件部 AI 架構(gòu)師Owen以《AI 大模型算力系統(tǒng)分析》為主題，強(qiáng)調(diào)了算力、算法、數(shù)據(jù)和系統(tǒng)架構(gòu)等多個(gè)方面

????????????????????????????? 浪潮信息人工智能與高性能軟件 AI 架構(gòu)師 Owen

浪潮信息早就開始布局和投入AI大模型技術(shù)的研發(fā)，講解了大模型研發(fā)過程中的數(shù)據(jù)、算力和算法，他強(qiáng)調(diào)了 GPT-3 和 GPT-4 等模型的重要，成熟的算法、數(shù)據(jù)產(chǎn)業(yè)鏈，配套工具鏈及豐富的生態(tài)鏈?zhǔn)顷P(guān)鍵因素。

CSDN 研發(fā)副總監(jiān)梁灝他要介紹的 是InsCode

CSDN推出的Inscode服務(wù)是一個(gè)在線編程工具，旨在為開發(fā)者提供一個(gè)便捷的編寫、運(yùn)行和分享代碼的環(huán)境，讓開發(fā)者無需在本地搭建編程環(huán)境，即可快速編寫和運(yùn)行代碼。

作為國內(nèi)的一個(gè)在線的代碼運(yùn)行平臺，博客分享，在線進(jìn)行代碼運(yùn)行，學(xué)習(xí)簡單的語法都具有一個(gè)很高的實(shí)用性。用戶可以通過InsCode實(shí)現(xiàn)代碼的演示，共享，存儲，學(xué)習(xí)等功能基本滿足了一個(gè)程序員對于代碼社區(qū)的大部分需求。InsCode支持的語言比較多，更有利于解決代碼的環(huán)境配置等繁雜的問題，這樣的平臺比較適合于在小組會議時(shí)進(jìn)行臨時(shí)的代碼演示的時(shí)候使用，減少環(huán)境搭建，配置等時(shí)間的損耗。
?

梁灝強(qiáng)調(diào)了 InsCode 在 AI 時(shí)代的地位專業(yè)的程序員可以借助 InsCode 提高開發(fā)效率和創(chuàng)造能力。

開談：AI 時(shí)代的研發(fā)新范式與開發(fā)者能力演進(jìn)

CSDN 人工智能技術(shù)編輯團(tuán)隊(duì)主持，華為諾亞方舟實(shí)驗(yàn)室技術(shù)專家董振華，投研機(jī)構(gòu) INP（Infra Native Partners）創(chuàng)始人丁寧，CodeGeeX 團(tuán)隊(duì)算法專家沈磊，聆心智能創(chuàng)始人& CTO?鄭叔亮作為嘉賓的圓桌對話正式展開這是今天最為重要的一環(huán)，多位行業(yè)專家齊聚一堂，針對AI時(shí)代的研發(fā)模式和開發(fā)者能力進(jìn)行了深入討論。這是一場跨領(lǐng)域的大討論。

當(dāng)天參會受益良多雖然遺憾沒有和各位大佬對話但是我很期待下一次峰會，新程序員 不能成為浪潮的奠基者，一定要成為其中的弄潮兒，愿CSDN更多的舉報(bào)更多成功的活動(dòng)。愿新程序員們攜手共進(jìn)創(chuàng)造我們這一代人的篇章。

加油文章來源地址http://www.zghlxwxcb.cn/news/detail-648054.html

到了這里，關(guān)于NPCon：AI模型技術(shù)與應(yīng)用峰會北京站 （參會感受）的文章就介紹完了。如果您還想了解更多內(nèi)容，請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！