人工智能的實現(xiàn)包括兩個環(huán)節(jié)：推理(Inference)和訓(xùn)練(Training)。

推理是指利用訓(xùn)練好的模型，使用新數(shù)據(jù)推理出各種結(jié)論。借助神經(jīng)網(wǎng)絡(luò)模型進行運算，利用輸入的新數(shù)據(jù)來一次性獲得正確結(jié)論的過程。這也有叫做預(yù)測或推斷。

訓(xùn)練是指通過大數(shù)據(jù)訓(xùn)練出一個復(fù)雜的神經(jīng)網(wǎng)絡(luò)模型，通過大量標(biāo)記過的數(shù)據(jù)來訓(xùn)練相應(yīng)的系統(tǒng)，使其能夠適應(yīng)特定的功能。訓(xùn)練需要較高的計算性能、能夠處理海量的數(shù)據(jù)、具有一定的通用性，以便完成各種各樣的學(xué)習(xí)任務(wù)。

所以根據(jù)承擔(dān)任務(wù)的不同，AI芯片可以分為兩類，它們分別是訓(xùn)練AI芯片和推理AI芯片。

1、訓(xùn)練芯片：用于構(gòu)建神經(jīng)網(wǎng)絡(luò)模型，注重絕對的計算能力;

2、推理芯片：利用神經(jīng)網(wǎng)絡(luò)模型進行推理預(yù)測，注重綜合指標(biāo)，單位能耗算力、時延、成本等都要考慮。

推理AI芯片分為哪幾類？

根據(jù)AI芯片部署的位置分為兩種：云端以及終端

云端，即數(shù)據(jù)中心，在深度學(xué)習(xí)的訓(xùn)練階段需要龐大的數(shù)據(jù)量，以及大運算量，單一處理器是無法獨立完成的，因此訓(xùn)練環(huán)節(jié)僅能夠在云端實現(xiàn)。

終端，即手機、汽車、智能家居以及各種物聯(lián)網(wǎng)設(shè)備等執(zhí)行邊緣計算的智能設(shè)備。終端的數(shù)量龐大，并且需求的差異性明顯。

訓(xùn)練推理的完成目前主要集中在云端，但隨著越來越多芯片廠商的努力，很多的應(yīng)用將逐漸轉(zhuǎn)移到終端。

所以，根據(jù)部署位置，推理AI芯片又可細分為云端推理AI芯片和終端推理AI芯片：

1、云端推理

云端推理AI芯片可作為深度學(xué)習(xí)推理加速的協(xié)處理器，也可作為主處理器從以太網(wǎng)接口或USB接口接收視頻流、圖片或其它數(shù)據(jù)，執(zhí)行推理和其他計算機視覺任務(wù)。目前，除了英偉達、谷歌、賽靈思、英特爾等這些國外芯片大廠涉足云端推理芯片外，寒武紀(jì)、比特大陸等中國企業(yè)同樣積極布局該領(lǐng)域。

2、終端推理

目前，終端推理AI芯片主要應(yīng)用于智能手機、自動駕駛、機器人、智能家居等設(shè)備。它可作為深度學(xué)習(xí)推理加速的協(xié)處理器，還可以作為主處理器從以太網(wǎng)接口或USB接口接收視頻流、圖片或其它數(shù)據(jù)，執(zhí)行推理和其他計算機視覺任務(wù)。目前，除了英偉達、谷歌、賽靈思、英特爾等這些國外芯片大廠涉足云端推理芯片外，寒武紀(jì)、比特大陸等中國企業(yè)也在領(lǐng)域進行積極的布局，并取得了不俗的成績。

芯片分為哪幾種？

• 芯片架構(gòu)：分為GPU（一般特指GPGPU）、ASIC和FPGA。

GPU 作為最早從事并行加速計算的處理器，具有高并行結(jié)構(gòu)，在處理圖形數(shù)據(jù)和復(fù)雜算法方面擁有比 CPU 更高的效率。?

ASIC是一種面向特定應(yīng)用場景的專有AI芯片，通過算法固化實現(xiàn)極致的性能和能效，平均性能強、功耗低和性價比高，但前期投入大、研發(fā)時間較長。?

FPGA是一種半定制化芯片，在制造完成后仍然可以對芯片進行靈活軟件功能配置，以滿足用戶獨特需求，具有可編程性、高并行性、低延遲和低功耗等特點，在云端和邊緣端的推理領(lǐng)域具有很高的應(yīng)用潛力。?文章來源地址http://www.zghlxwxcb.cn/news/detail-739168.html

到了這里，關(guān)于什么是推理和訓(xùn)練AI芯片？的文章就介紹完了。如果您還想了解更多內(nèi)容，請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！