本文一部分轉(zhuǎn)載自楊凈 整理自 MEET2023量子位
算力的需求,遠(yuǎn)比以往來得更為猛烈。甚至有人直呼:得算力者得未來。
元宇宙、AIGC、AI for Science的涌現(xiàn),又給高性能計算(HPC)平添了好幾把火。
在諸多挑戰(zhàn)與機(jī)遇共存交織的當(dāng)下,這一領(lǐng)域泰斗中國工程院院士、清華大學(xué)計算機(jī)科學(xué)與技術(shù)系鄭緯民,在MEET2023智能未來大會上,分享了自己的見解和思考。
估計未來兩年到四年,HPC(高性能計算)+AI+BigData融合的服務(wù)器就會出現(xiàn)。AI for Science的出現(xiàn),讓HPC+AI的融合成為剛性需求;而數(shù)據(jù)處理又是AI的基礎(chǔ),數(shù)據(jù)和AI的融合也很自然。
甚至他還開玩笑說,現(xiàn)在要獲HPC領(lǐng)域的戈登貝爾獎,必須要有AI的算法。你沒有AI的算法,否則獎都得不了。
雖然這是玩笑說法,但實際上也是一種趨勢。
除此之外,他還談到人工智能計算機(jī)設(shè)計的三大平衡性原則、AI基準(zhǔn)設(shè)計四大目標(biāo)以及如何通過并行方法加速大規(guī)模預(yù)訓(xùn)練模型。
估計未來兩年到四年,HPC(高性能計算)+AI+BigData融合的服務(wù)器就會出現(xiàn)。過去HPC是一臺機(jī)器、AI是一臺機(jī)器,大數(shù)據(jù)處理是第三臺機(jī)器,這三個機(jī)器自己管自己,但現(xiàn)在這三臺機(jī)器正在融合之中;AI基準(zhǔn)設(shè)計要達(dá)到四個目標(biāo):統(tǒng)一的一個分?jǐn)?shù)、可變的問題規(guī)模、具有實際的人工智能意義、評測程序包含必要的多機(jī)通信;現(xiàn)在要獲HPC領(lǐng)域的戈登貝爾獎,必須要有AI的算法,你沒有AI的算法,否則獎都得不了。這是開玩笑的說法,但實際上也是一個趨勢;AI for Science的出現(xiàn),讓HPC+AI的融合成為剛性需求;探索更大參數(shù)量模型的效果,是具有重要科學(xué)意義的;我們希望人工智能計算機(jī)跟HPC有TOP 500一樣,也有一個AIPerf 500。(以下是鄭緯民院士演講全文)
人工智能計算機(jī)設(shè)計的三大平衡性原則
今天給大家講講我們團(tuán)隊為人工智能做的三件事,就是AI與算力基礎(chǔ)設(shè)施的設(shè)計、評測和優(yōu)化。
第一件事,HPC(高性能計算)和AI的應(yīng)用是不一樣的。
HPC的應(yīng)用領(lǐng)域主要有科學(xué)和工程計算、天氣預(yù)報、核聚變模擬、飛行器設(shè)計。它的運算精度是雙精度浮點運算,64位甚至128位的,所以加減乘除做得很快,主要是這點不同。
人工智能計算機(jī)就是半精度的,甚至是定點的,8位的、16位的、32位的。
文章來源:http://www.zghlxwxcb.cn/news/detail-478917.html
因此這兩臺機(jī)器應(yīng)該是不一樣的,而人工智能計算機(jī)最近兩年才開始有文章來源地址http://www.zghlxwxcb.cn/news/detail-478917.html
到了這里,關(guān)于高性能計算與AI融合成為剛需|什么是高性能計算?應(yīng)用領(lǐng)域有哪些?與人工智能的關(guān)系梳理的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!