国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)

這篇具有很好參考價(jià)值的文章主要介紹了云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)。希望對大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問。

在面向物聯(lián)網(wǎng)、大流量等場景下,為了滿足更廣連接、更低時(shí)延、更好控制等需求,云計(jì)算在向一種更加全局化的分布式節(jié)點(diǎn)組合形態(tài)進(jìn)階,邊緣計(jì)算是其向邊緣側(cè)分布式拓展的新觸角。

以物聯(lián)網(wǎng)場景舉例,設(shè)備產(chǎn)生大量數(shù)據(jù),上傳到云端進(jìn)行處理,會對云端造成巨大壓力,為分擔(dān)云端的壓力,邊緣計(jì)算節(jié)點(diǎn)可以負(fù)責(zé)自己范圍內(nèi)的數(shù)據(jù)計(jì)算。

同時(shí),經(jīng)過處理的數(shù)據(jù)從邊緣節(jié)點(diǎn)匯聚到中心云,云計(jì)算做大數(shù)據(jù)分析挖掘、數(shù)據(jù)共享,同時(shí)進(jìn)行算法模型的訓(xùn)練和升級,升級后的算法推送到邊緣,使邊緣設(shè)備更新和升級,完成自主學(xué)習(xí)閉環(huán)。

對于邊緣AI總體來說,核心訴求是高性能、低成本、高靈活性。其技術(shù)發(fā)展趨勢可總結(jié)為以下幾點(diǎn):

  • 可編程性、通用性;
  • 伸縮性,同一個(gè)架構(gòu)支持不同場景
  • 低功耗,適應(yīng)更多邊緣場景的環(huán)境和電力要求
  • 軟硬件深度結(jié)合
  • 高效的分布式互聯(lián)和協(xié)作計(jì)算能力

筆者分別從邊緣計(jì)算AI加速、端/邊/云協(xié)同以及邊緣計(jì)算AI框架等三個(gè)部分繼續(xù)深入剖析AI應(yīng)用與邊緣計(jì)算結(jié)合之后的雙向優(yōu)化,進(jìn)一步優(yōu)化AI應(yīng)用的用戶體驗(yàn)。

1、邊緣計(jì)算AI加速

針對基于邊緣計(jì)算場景進(jìn)行AI加速,筆者參考相關(guān)論文認(rèn)為大致可歸結(jié)為以下四個(gè)方面:

1.1 云邊協(xié)同(云端訓(xùn)練、邊緣推理)

為彌補(bǔ)邊緣設(shè)備計(jì)算、存儲等能力的不足,滿足人工智能方法訓(xùn)練過程中對強(qiáng)大計(jì)算能力、存儲能力的需求,研究人員提出云計(jì)算和邊緣計(jì)算協(xié)同服務(wù)架構(gòu)。如下圖所示,研究人員提出將訓(xùn)練過程部署在云端,而將訓(xùn)練好的模型部署在邊緣設(shè)備。顯然,這種服務(wù)模型能夠在一定程度上彌補(bǔ)人工智能在邊緣設(shè)備上對計(jì)算、存儲等能力的需求。

云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)

1.2 模型分割(云邊協(xié)同推理)

為了將人工智能方法部署在邊緣設(shè)備,如下圖提出了切割訓(xùn)練模型,它是一種邊緣服務(wù)器和終端設(shè)備協(xié)同訓(xùn)練的方法。它將計(jì)算量大的計(jì)算任務(wù)卸載到邊緣端服務(wù)器進(jìn)行計(jì)算,而計(jì)算量小的計(jì)算任務(wù)則保留在終端設(shè)備本地進(jìn)行計(jì)算。顯然,上述終端設(shè)備與邊緣服務(wù)器協(xié)同推斷的方法能有效地降低深度學(xué)習(xí)模型的推斷時(shí)延。然而,不同的模型切分點(diǎn)將導(dǎo)致不同的計(jì)算時(shí)間,因此需要選擇最佳的模型切分點(diǎn),以最大化地發(fā)揮終端與邊緣協(xié)同的優(yōu)勢。

云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)

1.3 模型裁剪

為了減少人工智能方法對計(jì)算、存儲等能力的需求,一些研究人員提出了一系列的技術(shù),在不影響準(zhǔn)確度的情況下裁剪訓(xùn)練模型,如在訓(xùn)練過程中丟棄非必要數(shù)據(jù)、稀疏數(shù)據(jù)表示、稀疏代價(jià)函數(shù)等。下圖展示了一個(gè)裁剪的多層感知網(wǎng)絡(luò),網(wǎng)絡(luò)中許多神經(jīng)元的值為零,這些神經(jīng)元在計(jì)算過程中不起作用,因而可以將其移除,以減少訓(xùn)練過程中對計(jì)算和存儲的需求,盡可能使訓(xùn)練過程在邊緣設(shè)備進(jìn)行。在參考文獻(xiàn)中,作者也提出了一些壓縮、裁剪技巧,能夠在幾乎不影響準(zhǔn)確度的情況下極大地減少網(wǎng)絡(luò)神經(jīng)元的個(gè)數(shù)。

云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)

1.4 設(shè)計(jì)輕量級加速體系架構(gòu)

在工業(yè)界,有很多公司開始研究低功耗加速芯片。如寒武紀(jì)公司推出的思元系列及華為公司推出的昇騰系列,能夠適配并兼容多樣化的硬件架構(gòu),進(jìn)而支撐邊緣計(jì)算典型的應(yīng)用場景。

在學(xué)術(shù)界,對于邊緣AI硬件的設(shè)計(jì)工作主要集中在提高深度神經(jīng)網(wǎng)絡(luò)及相關(guān)算法如CNN、FCN和RNN等的計(jì)算性能和效率。研究人員利用神經(jīng)網(wǎng)絡(luò)的冗余和彈性等特性來優(yōu)化計(jì)算操作和數(shù)據(jù)移動,以降低NN算法在專用硬件上的功耗并提高性能。下表總結(jié)了一些低功耗機(jī)器學(xué)習(xí)處理器的相關(guān)情況。

云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)

AI在過去幾年中,為互聯(lián)網(wǎng)應(yīng)用、工業(yè)互聯(lián)網(wǎng)、醫(yī)學(xué)和生物學(xué)及自動駕駛等領(lǐng)域帶來了突飛猛進(jìn)的進(jìn)展。同時(shí),隨著邊緣計(jì)算的逐步成熟,業(yè)界必將更加關(guān)注邊緣計(jì)算AI加速方面的研究進(jìn)展。

由于邊緣計(jì)算場景的特點(diǎn),其硬件的異構(gòu)化程度會顯著高于傳統(tǒng)數(shù)據(jù)中心,對現(xiàn)有計(jì)算框架也會有非常大的挑戰(zhàn)。如何快速支持異構(gòu)的計(jì)算芯片并保證計(jì)算的高效,也非常值得產(chǎn)業(yè)內(nèi)的研發(fā)力量持續(xù)投入。

2 端/邊/云協(xié)同

在云邊協(xié)同的過程中,邊緣計(jì)算主要對需要實(shí)時(shí)處理的數(shù)據(jù)進(jìn)行處理,并為云端提供高價(jià)值的數(shù)據(jù);云計(jì)算則負(fù)責(zé)非實(shí)時(shí)、長周期數(shù)據(jù)的處理,并完成邊緣應(yīng)用的全生命周期管理。下面分別介紹這6種協(xié)同方式。
云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)

  • IaaS:基礎(chǔ)設(shè)施服務(wù),Infrastructure-as-a-service
  • PaaS:平臺服務(wù),Platform-as-a-service
  • SaaS:軟件服務(wù),Software-as-a-service

云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)

2.1 資源協(xié)同

資源協(xié)同:邊緣節(jié)點(diǎn)提供計(jì)算、存儲、網(wǎng)絡(luò)、虛擬化等基礎(chǔ)設(shè)施資源,具有本地資源調(diào)度管理能力,也接收并執(zhí)行云端的資源調(diào)度管理策略;云端則提供資源調(diào)度管理策略,包括邊緣節(jié)點(diǎn)的設(shè)備管理、資源管理以及網(wǎng)絡(luò)連接管理。

對于邊緣計(jì)算,需要對計(jì)算資源和網(wǎng)絡(luò)資源有全局的判斷,比如邊緣設(shè)備、邊緣節(jié)點(diǎn)及中心云資源的使用情況,站在全局角度,進(jìn)行資源的合理分配,確保性能、成本、服務(wù)最優(yōu)。

云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)

2.1.1 計(jì)算卸載

近年來,人們提出了兩種計(jì)算卸載方法:卸載到云端和卸載到邊緣端。其中,卸載到云端允許用戶將計(jì)算密集型任務(wù)卸載到資源強(qiáng)大的云服務(wù)器上進(jìn)行處理;卸載到邊緣端是在網(wǎng)絡(luò)邊緣部署云服務(wù),以提供相鄰的 IT 服務(wù)環(huán)境。許多研究者利用這兩種方法來研究時(shí)延最小化和能耗最小化問題。然而,卸載到云端會因傳輸距離遠(yuǎn)而無法很好地處理時(shí)延敏感性應(yīng)用,因此目前大多數(shù)研究是把計(jì)算任務(wù)卸載到邊緣端。

2.1.2 資源管理策略

資源管理策略一直都是學(xué)術(shù)界和產(chǎn)業(yè)界的研究重點(diǎn),包括邊緣端的本地資源管理與云端的資源管理。邊緣計(jì)算與云計(jì)算協(xié)同的資源管理策略對于數(shù)據(jù)密集型計(jì)算非常重要。例如,智能交通、智慧城市以及無人駕駛汽車等都需要減少服務(wù)器延遲并提高 Qos.

2.2 數(shù)據(jù)協(xié)同

邊緣節(jié)點(diǎn)負(fù)責(zé)終端設(shè)備數(shù)據(jù)的收集,并對數(shù)據(jù)進(jìn)行初步處理與分析,然后將處理后的數(shù)據(jù)發(fā)送至云端;云端對海量的數(shù)據(jù)進(jìn)行存儲、分析與價(jià)值挖掘。主要包括兩個(gè)要點(diǎn):

  • 數(shù)據(jù)收集與處理
  • 數(shù)據(jù)存儲與分析
    云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)

邊緣AI會處理用戶的數(shù)據(jù),可以從兩個(gè)維度來考慮。

一方面,橫向考慮,邊緣的網(wǎng)絡(luò)環(huán)境多種多樣,終端用戶設(shè)備具有移動性,可能會從一個(gè)服務(wù)節(jié)點(diǎn)移動到另一個(gè)服務(wù)節(jié)點(diǎn),從一個(gè)邊緣移動到另一個(gè)邊緣,從WiFi切換為5G移動網(wǎng)絡(luò),甚至從一個(gè)運(yùn)營商切換到另一個(gè)運(yùn)營商,那么用戶在舊的環(huán)境中產(chǎn)生的數(shù)據(jù)如何與新環(huán)境中的AI程序進(jìn)行同步會成為一個(gè)問題。這里的數(shù)據(jù)協(xié)同不僅需要技術(shù)上的支持,更需要商業(yè)模式上的支持。

另一方面,縱向考慮,如下圖所示,用戶在邊緣側(cè)產(chǎn)生的數(shù)據(jù)按照隱私級別可以分為不同類型,如User-Private、Edge-Private、Public等,這些數(shù)據(jù)可以自下而上分層儲存在云邊協(xié)同系統(tǒng)中的不同層級的數(shù)據(jù)庫中,同時(shí)也可以對應(yīng)不同算力支持的邊緣AI的訪問權(quán)限,例如可以允許云上運(yùn)行的AI程序讀取Public數(shù)據(jù)來訓(xùn)練一個(gè)通用的模型,在邊緣側(cè)的AI可以讀取Edge-Private數(shù)據(jù)來在通用模型的基礎(chǔ)上訓(xùn)練邊緣模型等等。
云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)

2.3 智能協(xié)同

邊緣端負(fù)責(zé)深度學(xué)習(xí)模型的推理,實(shí)現(xiàn)分布式智能;云端負(fù)責(zé)深度學(xué)習(xí)模型的集中式訓(xùn)練,然后將訓(xùn)練好的模型下發(fā)至邊緣端。

以往的研究都是在云端進(jìn)行人工智能模型的訓(xùn)練、優(yōu)化和推理,原因是模型的訓(xùn)練和優(yōu)化需要大量的資源,云服務(wù)則是最適合的方案。然而,模型的推理需要的資源比訓(xùn)練、優(yōu)化少得多,并且有新數(shù)據(jù)需要實(shí)時(shí)推理。因 此,在邊緣側(cè)進(jìn)行模型的推理已逐漸成為新的研究熱點(diǎn)??紤]到邊緣節(jié)點(diǎn)的計(jì)算存儲資源有限,如何減小模型大小和優(yōu)化模型在邊緣推理中 顯得尤為重要。常見模型壓縮方法主要包括網(wǎng)絡(luò)剪枝、知識蒸餾、參數(shù)量化、結(jié)構(gòu)優(yōu)化。

  • 1)網(wǎng)絡(luò)剪枝,通常網(wǎng)絡(luò)模型參數(shù)過多有些權(quán)重接近0,或者神經(jīng)元的輸出為 0,可以將這些多余的參數(shù)從網(wǎng)絡(luò)中移除。具體步驟為預(yù)訓(xùn)練一個(gè)比較龐大的模型,評估每個(gè)權(quán)重和神經(jīng)元的重要性,按照參數(shù)重要性排序,刪除不重要的參數(shù),將縮小的模型用訓(xùn)練數(shù)據(jù)重新微調(diào)一次,可以減小損失,如果模型縮小之后仍然沒達(dá)到要求則重新評估權(quán)重和神經(jīng)元迭代操作。
  • 2)知識蒸餾,基本思想是可以先訓(xùn)練一個(gè)規(guī)模大的初始網(wǎng)絡(luò),再訓(xùn)練一個(gè)小的子網(wǎng)絡(luò)去學(xué)習(xí)大的初始網(wǎng)絡(luò)的行為。使用初始網(wǎng)絡(luò)的輸出來訓(xùn)練而不直接使用標(biāo)注數(shù)據(jù),是因?yàn)槌跏季W(wǎng)絡(luò)可以提供更多的信息,輸入一個(gè)樣本后初始網(wǎng)絡(luò)會輸出各種類別的概率值,這比單純的標(biāo)簽信息要更豐富。
  • 3)參數(shù)量化,如果說網(wǎng)絡(luò)剪枝是通過減少權(quán)重的數(shù)量來壓縮模型,那么量化則是通過減少權(quán)重的大小來壓縮模型。量化通常是將大集合值映射到小集合值的過程,這意味著輸出包含的可能值范圍比輸入小,理想情況下在該過程中不會丟失太多信息[86]。參數(shù)量化會使用更少的空間的來存儲一個(gè)參數(shù),然后使用聚類中心來代替整個(gè)類的值,這樣可以減少參數(shù)的儲存。
  • 4)結(jié)構(gòu)優(yōu)化,通過調(diào)整網(wǎng)絡(luò)結(jié)構(gòu)使得其只需要較少的參數(shù),常見方法為低秩近似與切除分離卷積。深層神經(jīng)網(wǎng)絡(luò)通常存在大量重復(fù)參數(shù),不同層或通道之間存在許多相似性或冗余性,低秩近似的目標(biāo)是使用較少濾波器的線性組合來近似一個(gè)層的大量冗余濾波器,以這種方式壓縮層減少了網(wǎng)絡(luò)的內(nèi)存占用以及卷積運(yùn)算的計(jì)算復(fù)雜性,實(shí)現(xiàn)加速。切除分離卷積方法則是將計(jì)算進(jìn)行拆分,共用部分參數(shù),最終實(shí)現(xiàn)參數(shù)規(guī)??s小。
    云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)

通過合理的模型拆解,將不同的服務(wù)模型根據(jù)資源、成本、質(zhì)量、時(shí)延等要求部署在合適的位置。通過完成的協(xié)同計(jì)算框架,確保各子模型之間的協(xié)同處理。比如結(jié)合產(chǎn)品設(shè)計(jì),我們可以將簡單的識別推理全部置于端側(cè)設(shè)備,如需要判斷視頻中的物體屬于動物還是植物等。

但是進(jìn)一步的識別功能,我們可以結(jié)合邊緣側(cè)的推理能力,識別動物為貓科動物或犬科動物等。如果用戶需要更加精細(xì)的識別,我們可以將邊緣側(cè)的識別結(jié)果及處理之后得到的特征數(shù)據(jù)發(fā)送至云端,結(jié)合云端完善的數(shù)據(jù)模型和知識體系,將該貓科動物判定為是東北虎還是華南虎。這樣通過端、邊、云三者的協(xié)同,能夠在極大保證用戶體驗(yàn)的同時(shí),合理的使用各類資源。

合理利用算力協(xié)同,也能夠做到在邊緣側(cè)進(jìn)行訓(xùn)練。目前工業(yè)界還沒有成熟的模式,但學(xué)術(shù)界有相關(guān)的研究。如下圖所示的ICE智能協(xié)同計(jì)算框架,將邊緣AI的訓(xùn)練分為三個(gè)階段:

  • 第一階段為預(yù)訓(xùn)練階段(pre-train),云上的應(yīng)用可以通過讀取云端存儲的公共數(shù)據(jù),來訓(xùn)練一個(gè)通用的模型,這是邊緣AI的底座,如果沒有云端強(qiáng)大算力的幫助,只靠邊緣側(cè)算力是難以得到比云端訓(xùn)練更優(yōu)秀的AI模型。
  • 第二階段將通用模型下發(fā)至邊緣側(cè),讀取邊緣私有數(shù)據(jù),通過轉(zhuǎn)移學(xué)習(xí)(Transfer Learning),來得到邊緣模型。
  • 第三階段讀取增量數(shù)據(jù),利用增量學(xué)習(xí)(Incremental Learning)生成最終邊緣模型,這個(gè)最終邊緣模型就可以用于用戶側(cè)的推理了。

這種三步學(xué)習(xí)的算力協(xié)同的模式,可以更好地滿足邊緣智能的個(gè)性化服務(wù)需求。

云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)

通過資源協(xié)同、算力協(xié)同以及數(shù)據(jù)協(xié)同,邊緣智能能夠高效合理的利用端、邊、云的各類資源,極大地優(yōu)化AI應(yīng)用在邊緣計(jì)算場景下的用戶體驗(yàn),進(jìn)一步放大AI應(yīng)用的商業(yè)價(jià)值。

2.4 業(yè)務(wù)編排協(xié)同

邊緣節(jié)點(diǎn)提供模塊化、微服務(wù)化的應(yīng)用實(shí)例;云端提供按照客戶需求實(shí)現(xiàn)業(yè)務(wù)的編排能力。

與傳統(tǒng)的集中式處理的大型應(yīng)用程序不同,微服務(wù)可 以實(shí)現(xiàn)功能模塊之間的完全解耦。邊緣節(jié)點(diǎn)通過模塊化分解,將一個(gè)對象分解為具有特定接口的單個(gè)模塊。每個(gè)模塊服務(wù)于一個(gè)特定的功能,通過指定的接口進(jìn)行連接,而每個(gè)功能都有多個(gè)應(yīng)用實(shí)例。用戶通過在服務(wù)器調(diào)用應(yīng)用實(shí)例來訪問服務(wù)實(shí)現(xiàn)請求,具有相同功能的多個(gè)服務(wù)實(shí)例可以部署在不同的服務(wù)器上,使得邊緣服務(wù)器提供應(yīng)用實(shí)例成為快速響應(yīng)用戶請求與時(shí)延敏感性應(yīng)用程序的不二之選。

2.5 應(yīng)用管理協(xié)同

最近有些研究關(guān)注邊緣計(jì)算應(yīng)用的部署與運(yùn)行環(huán)境,這是因?yàn)檫吘売?jì)算提供分布式云計(jì)算功能和高性能、低延遲、高帶寬的服務(wù)環(huán)境。然而,應(yīng)用類型和所處邊緣位置的不同,會導(dǎo)致邊緣計(jì)算硬件的選擇部署和提供的環(huán)境不同。例 如,邊緣用戶端節(jié)點(diǎn)設(shè)備采用低成本、低 功 耗 的 ARM 處 理 器 或 者英特爾 Atom 處理器;邊緣基站服務(wù)器采用英特爾至強(qiáng)系列處理器。而微服務(wù)、容器及虛擬化技術(shù)等的云原生軟件架構(gòu)能夠減少因硬件基礎(chǔ)設(shè)施差異化帶來的部署及運(yùn)維問題。

如今,越來越多有影響力的 IT 公司或應(yīng)用程序供應(yīng)商開始借助微服務(wù)技術(shù)(如 Kubernetes)來開發(fā)復(fù)雜的應(yīng)用程序。此外,借助基于容器的技術(shù),這些基于微服務(wù)的應(yīng)用程序可以輕松地部署在邊緣服務(wù)器上??紤]到物聯(lián)網(wǎng)應(yīng)用程序是分布式的,且通常包含多個(gè)計(jì)算密集型任務(wù),因此需要在每個(gè)單獨(dú)的計(jì)算節(jié)點(diǎn)上完成應(yīng)用程序的部署與管理。研究者一直在探索如何找到一個(gè)合適的、低成本的應(yīng)用程序部署方案。CNCF云原生基金會開源的Kubeedge通過 Kubernetes管理遠(yuǎn)程邊緣節(jié)點(diǎn)并使用相同的API將應(yīng)用程序部署到邊緣并進(jìn)行管理,給應(yīng)用程序帶來了更好的性能,同時(shí)提升了用戶體驗(yàn)。

2.6 服務(wù)協(xié)同

服務(wù)協(xié)同主要是指邊緣計(jì)算的邊緣服務(wù)與云計(jì)算的云服務(wù)進(jìn)行協(xié)同。邊緣節(jié)點(diǎn)按照云端策略實(shí)現(xiàn)部分EC-SaaS服務(wù),通過 EC-SaaS與云端SaaS的協(xié)同實(shí)現(xiàn)面向客戶的按需服務(wù);云端主要提供SaaS服務(wù)在云端和邊緣節(jié)點(diǎn)的服務(wù)分布策略,以及云端承擔(dān)的SaaS服務(wù)能力。

最后總結(jié)一下6種協(xié)同技術(shù)的對比。
云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)

3 邊緣計(jì)算AI計(jì)算框架

在云數(shù)據(jù)中心中,算法執(zhí)行框架更多地執(zhí)行模型訓(xùn)練任務(wù),在訓(xùn)練過程中需要接收大規(guī)模、批量化的信息數(shù)據(jù),比較關(guān)注訓(xùn)練的迭代速度和收斂率等。而在邊緣設(shè)備上更多的是執(zhí)行預(yù)測任務(wù),輸入一般是實(shí)時(shí)的小規(guī)模數(shù)據(jù),大多數(shù)場景下執(zhí)行預(yù)測任務(wù),因此更加關(guān)注于預(yù)測算法執(zhí)行速度及端側(cè)或邊緣側(cè)的資源開銷。

目前業(yè)界針對邊緣計(jì)算場景,也提出了針對性的設(shè)計(jì)方案,例如用于移動設(shè)備或嵌入式設(shè)備的輕量級解決方案TensorFlow Lite,Caffe2和Pytorch等。

結(jié)語

云邊協(xié)同是一種新型計(jì)算范式,其將云計(jì)算強(qiáng)大的資源能力與邊緣計(jì)算超低的時(shí)延特性結(jié)合起來,實(shí)現(xiàn)了邊緣支撐云端應(yīng)用,云端助力邊緣本地化需求的協(xié)同優(yōu)化目標(biāo)。

AI和邊緣計(jì)算已獲得國內(nèi)外學(xué)術(shù)界和工業(yè)界的廣泛關(guān)注和認(rèn)可,并且已經(jīng)在很多商業(yè)場景下發(fā)揮作用。將AI應(yīng)用部署至邊緣已成為提升智能服務(wù)的有效途徑。

盡管目前邊緣智能仍處于發(fā)展的初期,然而,邊緣智能夠產(chǎn)生極大的促進(jìn)效果,并成為各行各業(yè)的黏合劑和智能產(chǎn)業(yè)發(fā)展的催化劑,促進(jìn)多個(gè)行業(yè)的升級轉(zhuǎn)型。

參考資料:文章來源地址http://www.zghlxwxcb.cn/news/detail-430732.html

  • [1]華為云原生團(tuán)隊(duì):AI 與邊緣計(jì)算結(jié)合的雙向優(yōu)化
  • [2]黃成龍,柯宇曦,華向東等.邊緣計(jì)算在智慧農(nóng)業(yè)中的應(yīng)用現(xiàn)狀與展望[J].農(nóng)業(yè)工程學(xué)報(bào),2022,38(16):224-234.
  • [3]田鵬新,司冠南,安兆亮等.基于數(shù)據(jù)驅(qū)動的云邊智能協(xié)同綜述[J/OL].計(jì)算機(jī)應(yīng)用:1-10[2023-03-28].http://kns.cnki.net/kcms/detail/51.1307.TP.20230314.1518.004.html.
  • [4]陳玉平,劉波,林偉偉等.云邊協(xié)同綜述[J].計(jì)算機(jī)科學(xué),2021,48(03):259-268.
  • [5]劉耕,趙立君,陳慶勇等.聯(lián)邦學(xué)習(xí)在5G云邊協(xié)同場景中的原理和應(yīng)用綜述[J].通訊世界,2020,27(07):50-52.

到了這里,關(guān)于云邊協(xié)同與人工智能AI的深度融合(云端訓(xùn)練、邊端推理)的文章就介紹完了。如果您還想了解更多內(nèi)容,請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • 【AI】了解人工智能、機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)

    【AI】了解人工智能、機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)

    一、深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)的原理是什么? 深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)都是基于對人腦神經(jīng)系統(tǒng)的模擬。下面將分別解釋深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的原理。 深度學(xué)習(xí)的原理: 深度學(xué)習(xí)是一種特殊的機(jī)器學(xué)習(xí),其模型結(jié)構(gòu)更為復(fù)雜,通常包括很多隱藏層。它依賴于神經(jīng)網(wǎng)絡(luò)進(jìn)行模型訓(xùn)練和

    2024年02月06日
    瀏覽(104)
  • AI寫作革命:PyTorch如何助力人工智能走向深度創(chuàng)新

    AI寫作革命:PyTorch如何助力人工智能走向深度創(chuàng)新

    身為專注于人工智能研究的學(xué)者,我十分熱衷于分析\\\"AI寫稿\\\"與\\\"PyTorch\\\"這兩項(xiàng)領(lǐng)先技術(shù)。面對日益精進(jìn)的人工智能科技,\\\"AI寫作\\\"已不再是天方夜譚;而\\\"PyTorch\\\"如璀璨明珠般耀眼,作為深度學(xué)習(xí)領(lǐng)域的尖端工具,正有力地推進(jìn)著人工智能化進(jìn)程。于此篇文章中,我將詳細(xì)解析\\\"

    2024年04月13日
    瀏覽(29)
  • AI人工智能 機(jī)器學(xué)習(xí) 深度學(xué)習(xí) 學(xué)習(xí)路徑及推薦書籍

    AI人工智能 機(jī)器學(xué)習(xí) 深度學(xué)習(xí) 學(xué)習(xí)路徑及推薦書籍

    人工智能、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)覆蓋的技術(shù)范疇是逐層遞減的,三者的關(guān)系:人工智能 機(jī)器學(xué)習(xí) 深度學(xué)習(xí)。 人工智能(ArtificialIntelligence,AI)是最寬泛的概念,是研發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué) 機(jī)器學(xué)習(xí)(MachineLear

    2023年04月24日
    瀏覽(101)
  • 高性能計(jì)算與AI融合成為剛需|什么是高性能計(jì)算?應(yīng)用領(lǐng)域有哪些?與人工智能的關(guān)系梳理

    高性能計(jì)算與AI融合成為剛需|什么是高性能計(jì)算?應(yīng)用領(lǐng)域有哪些?與人工智能的關(guān)系梳理

    本文一部分轉(zhuǎn)載自楊凈 整理自 MEET2023量子位 算力的需求,遠(yuǎn)比以往來得更為猛烈。甚至有人直呼:得算力者得未來。 元宇宙、AIGC、AI for Science的涌現(xiàn),又給高性能計(jì)算(HPC)平添了好幾把火。 在諸多挑戰(zhàn)與機(jī)遇共存交織的當(dāng)下,這一領(lǐng)域泰斗中國工程院院士、清華大學(xué)計(jì)算

    2024年02月08日
    瀏覽(24)
  • 深度思考,AI項(xiàng)目的人工智能到底引領(lǐng)的是什么?

    深度思考,AI項(xiàng)目的人工智能到底引領(lǐng)的是什么?

    歡迎來到我們?nèi)斯ぶ悄艿膭?chuàng)新AIMQ殿堂,這里不僅僅是一個(gè)項(xiàng)目,更是我們對未來技術(shù)的深度思考。讓我們一同穿越數(shù)字時(shí)空,感受人工智能引領(lǐng)技術(shù)之舞的重要性,融入中國文化元素,探索未知的技術(shù)宇宙。初步命名為AIMQ,是因?yàn)镮MMQY項(xiàng)目; 項(xiàng)目背景:人工智能的魔法時(shí)代

    2024年01月18日
    瀏覽(27)
  • 【必看】揭秘AI革命背后的力量!550篇人工智能核心論文深度解析

    【必看】揭秘AI革命背后的力量!550篇人工智能核心論文深度解析

    大家好,我是你們的知識探索者,今天我?guī)砹艘粋€(gè)前所未有的寶藏分享——一份涵蓋了550篇人工智能領(lǐng)域核心論文的終極指南!這不僅僅是一份文檔,而是一扇通往人工智能世界深處的大門。 ** ** ?? 為什么這550篇論文至關(guān)重要? 在人工智能的浪潮中,無數(shù)的研究和實(shí)驗(yàn)層

    2024年02月21日
    瀏覽(33)
  • 人工智能與人類智能的對比:自主與協(xié)同的能力

    人工智能(Artificial Intelligence, AI)是計(jì)算機(jī)科學(xué)的一個(gè)分支,研究如何讓計(jì)算機(jī)模擬人類的智能。人工智能的目標(biāo)是讓計(jì)算機(jī)能夠理解自然語言、進(jìn)行邏輯推理、學(xué)習(xí)自主地行動,以及與人類互動。人工智能的發(fā)展歷程可以分為以下幾個(gè)階段: 1950年代:人工智能的誕生。在這個(gè)

    2024年02月20日
    瀏覽(39)
  • 基于協(xié)同過濾的人工智能技術(shù)應(yīng)用

    作者:禪與計(jì)算機(jī)程序設(shè)計(jì)藝術(shù) 引言 1.1. 背景介紹 隨著互聯(lián)網(wǎng)的快速發(fā)展,大量用戶產(chǎn)生的大量數(shù)據(jù)中,有越來越多的有價(jià)值的信息,這些信息在很多場景下都具有很好的應(yīng)用價(jià)值。為了更好地利用這些信息,人們開始嘗試將數(shù)據(jù)中的信息進(jìn)行挖掘和分析,以實(shí)現(xiàn)更好的用

    2024年02月05日
    瀏覽(173)
  • 人工智能市場:人工智能市場生態(tài)與行業(yè)融合

    作者:禪與計(jì)算機(jī)程序設(shè)計(jì)藝術(shù) 引言 1.1. 背景介紹 人工智能作為一項(xiàng)新興技術(shù),近年來在各個(gè)領(lǐng)域取得了顯著的成果,如醫(yī)療、金融、教育、制造業(yè)等。這使得人工智能產(chǎn)業(yè)逐漸崛起,形成了一個(gè)龐大的市場。根據(jù)市場研究機(jī)構(gòu)的統(tǒng)計(jì)數(shù)據(jù),全球人工智能市場規(guī)模將從 201

    2024年02月07日
    瀏覽(25)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包