大模型/Agent為主的生成式AI風生水起,火了多年的云計算遭受新的挑戰(zhàn)和沖擊,變則生輝、不變則生灰。
先說結論,任何一項主流新技術的發(fā)展都可能會碾壓之前的方案,但我們要把握新技術順勢而為!
re:Invent和百度智算大會剛剛落幕,除了持續(xù)發(fā)布生成式AI相關產(chǎn)品,還提出了新的觀點:重構云計算。AWS是云計算的初創(chuàng)者和領導者,發(fā)布了那么多生成式AI的內容,但也是基于云計算平臺的服務,人工智能和云計算有機融合、相互促進,也像百度智算大會中提到的“Cloud for AI”,圍繞人工智能的云計算,顯然人工智能已經(jīng)開始在重構云計算。
Let's 構!
Let's 重構!
00? 重構云計算
AWS re:Invent、百度智算大會都在提重構云計算,的確現(xiàn)在最火的就是大模型了,讓開發(fā)者和企業(yè)都有進城的感覺,好像20年前互聯(lián)網(wǎng)時代到來這樣新奇的感覺?;ヂ?lián)網(wǎng)造就了很多傳奇與神話,現(xiàn)在大模型的到來也給了我們更多期待,都覺著這是新的機會,不上車就會落后。
有人說大模型會重塑互聯(lián)網(wǎng)時代的所有內容,包括對云計算的重構。狹義的云計算還是IaaS和PaaS層的資源層技術服務,廣義上的云計算包括了SaaS應用、生態(tài)伙伴以及視頻云、低代碼、大數(shù)據(jù)、大模型及人工智能等最新技術的綜合服務,廣義云計算幾乎等同于IT(Information Technolege)了。
Martin Flower在《重構 改善既有代碼的設計》一書中介紹了代碼如何進行重構,代碼為什么要重構呢,因為有很多Bad Smell(壞味道),思想借鑒到云計算中同樣適用,在大模型時代云計算對用戶提供的服務的過程中有了新的需求、也出現(xiàn)了Bad Smell,包括企業(yè)和開發(fā)者能使用到的計算能力不足、大模型訓練推理精調中對存儲和網(wǎng)絡新的挑戰(zhàn)、現(xiàn)有云計算安全合規(guī)體系需要適配大模型的應用、對成本的考慮不能僅局限于云底層資源......
re:Invent 中國行北京站
百度智算大會
大模型對云計算的重構分為三層
頂層,應用服務層
基于場景、匹配需求、解決痛點的各類使用了大模型、云計算等技術的應用,以解決實際問題為導向的應用服務。
中層,工具平臺層
頂層應用服務開發(fā)是基于AI工具平臺,而不再是直接基于云計算開發(fā),不僅是云計算原生應用而是AI原生應用。
底層,基礎服務層
云計算能力下沉到底層,云計算不僅僅是資源,更是支撐中層AI工具平臺的各種組件和服務。
01? 底層:基礎服務層
?云計算能力下沉到基礎資源及基礎組件
大模型應用時代需要更多的算力,很多人認為大模型時代的算力由CPU轉為了GPU,其實我的理解是從之前CPU為主轉為了異構融合計算,在實際應用落地過程中很難使用單一類型的資源用于模型訓練、在線服務、其他基礎服務,不同類型的應用可以由不同資源類型提供,并且現(xiàn)在存在單一GPU卡型不足等情況,部分廠商也在往自研芯片方向演進,所以有哪些資源就用哪些資源是更貼合實際的情況,算力會長期維持在異構融合計算的階段。
底層資源需要更多新的功能和產(chǎn)品,比如之前沒有需求的向量數(shù)據(jù)庫現(xiàn)在成為了必不可少的基礎能力,大模型以及上層應用也需要底層的計算、網(wǎng)絡、存儲、安全的底座能力,云計算的各個產(chǎn)品有必要圍繞AI進行重構,“以滿足AI使用場景為產(chǎn)品成熟度的一部分”也正在成為事實。
現(xiàn)在正是大模型風口,不少人有“不計成本的創(chuàng)新”的想法,也許沒錯,不過對于企業(yè)落地應用就要考慮成本了,不僅僅是云計算資源的成本,更是圍繞大模型和AI重構應用的顯性成本和隱性成本。
安全合規(guī)一直都是云計算不可或缺的模塊,在生成式AI時代內容生產(chǎn)者變成了開發(fā)者以及AI,大模型需要提供更精準的能力就需要有數(shù)量足夠多、質量足夠高的數(shù)據(jù)進行訓練,高質量的數(shù)據(jù)肯定是用戶數(shù)據(jù),但顯然不能使用用戶數(shù)據(jù)進行訓練,如何保障用戶數(shù)據(jù)真正沒有被訓練使用并且大模型還能夠獲取到高質量的訓練數(shù)據(jù),也正是當前各企業(yè)和開發(fā)者正在努力實現(xiàn)的方向。
02? 中層:工具平臺層
?重構新增工具化平臺,上承應用、下承底層能力
傳統(tǒng)模式是基于云計算構建應用,經(jīng)過重構后,我們基于大模型相關各類工具和平臺進行開發(fā),使用已有的性價比高和場景匹配的大模型、基于大模型和服務托管平臺、通過社區(qū)集成更多周邊應用工具等等。
2.1? 大模型
“白模大戰(zhàn)”真的不夸張,很多企業(yè)和開發(fā)者不一定人手一個大模型,但肯定需要基于大模型進行應用,大模型也會像云計算這樣由少數(shù)幾家公司提供、其他更多公司和開發(fā)者圍繞生態(tài)共建大模型時代。
零一萬物官網(wǎng)
百度智算大會
2.2? 大模型平臺
百度千帆大模型平臺
阿里云百煉
智源
ModeScape魔搭
開放傳神 OpenCSG
華為云 AI Gallery 百模千態(tài)社區(qū)
2.3? 應用與模型發(fā)布托管平臺
?Amazon?Bedrock
OpenCSG StarChain
ModeScope 魔搭
百度千帆大模型平臺
03? 上層:應用服務層
?之前基于云計算開發(fā)應用,重構為基于AI開發(fā)應用
上層應用和服務不再全部基于云計算能力了,更重要的是基于AI、大模型以及相關生態(tài)開發(fā)的應用,很多人也稱為AI原生應用?,F(xiàn)在已經(jīng)有非常多好用的工具,比如寫文案、生成海報、生成PPT等等,不過還需要結合人們生活工作實際需求痛點來構建合適的應用和服務。
3.1? 代碼輔助工具
開發(fā)者基于大模型推出的創(chuàng)新工具先便利了開發(fā)者,使用前覺著這些工具也沒啥作用,使用后感覺離不開了。
?Amazon CodeWhisperer
體驗總結:技術布道 | 阿里云通義靈碼來輔助編程,根據(jù)代碼生成注釋豈不夢想成真
阿里云通義靈碼
體驗總結:技術布道 | 阿里云通義靈碼來輔助編程,根據(jù)代碼生成注釋豈不夢想成真
Azure Copilot
3.2? 發(fā)布自己的服務
?企業(yè)和開發(fā)者發(fā)布自己的應用和服務,自助式的在本地或云端部署,或者直接由應用平臺托管模型和在線推理等服務,能夠更便捷的調用多個模型和應用,也無需負責底層資源穩(wěn)定、擴縮容、運維等問題。前面在工具平臺層提到的幾個模型平臺也都提供了在線服務托管的能力,在工具平臺層的重點是提供的部署能力,在應用服務層關注的是應用服務本身。
?基于百度千帆大模型平臺
3.3? 基于應用場景構建服務
百模千態(tài)非常準確的展示了當前層出不窮的各類應用構建出來,包括前面的代碼輔助類、寫文案、根據(jù)關鍵詞生成整個PPT、生成海報、學習課程問答......應用非常多,還需要經(jīng)過時間和實踐的證明,所有應用都要圍繞解決人們生活工作中的需求和痛點來打造,并且需要能夠追齊傳統(tǒng)模式應用方式才能獲得更多使用。
?百度智算大會?| 打造企業(yè)文檔問答應用、通過AI篩選簡歷
視頻鏈接:https://bj.bcebos.com/v1/dataset-bj/platform-guangwang/appBuilder/抖發(fā)布工作臺.mp4
百度AI原生應用商店
大模型在多行業(yè)中的具體應用案例
總結:重構云端
大模型風靡正當時,2024年還會有加劇對云計算和互聯(lián)網(wǎng)的重構,有了雛形還需時日進行歷練。大模型和生成式AI不是檢索已有內容、而是生成未知內容,正如這樣,相信也會帶來更多驚喜。
就像傳統(tǒng)物理和現(xiàn)代物理一樣,傳統(tǒng)物理基于牛頓三大定律經(jīng)過幾百年發(fā)展已經(jīng)演變的相當完善,而愛因斯坦相對論的提出顛覆傳統(tǒng)并成為引領現(xiàn)代物理發(fā)展的里程碑。云計算經(jīng)過17年的發(fā)展和應用已經(jīng)變得很完善,不過大模型、生成式AI的產(chǎn)生又為云計算提出了新的發(fā)展方向,云計算需要并且可以圍繞AI進行重構。文章來源:http://www.zghlxwxcb.cn/news/detail-847296.html
說明:部分圖片源于網(wǎng)絡,侵刪文章來源地址http://www.zghlxwxcb.cn/news/detail-847296.html
到了這里,關于順勢而為or從此落寞?大模型/Agent時代云計算有哪些機會?的文章就介紹完了。如果您還想了解更多內容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章,希望大家以后多多支持TOY模板網(wǎng)!