參考來源:
書名:一本書讀懂ChatGPT、AIGC和元宇宙
作者:王喜文
出版社:電子工業(yè)出版社
出版時間:2023年5月
ISBN:9787121453571
斯克稱ChatGPT將顛覆世界;
微軟為ChatGPT投資數(shù)百億美元,
并計劃將其整合到Offce辦公軟件和Bing搜索引擎之中;
在一些高校和學術(shù)機構(gòu)中,興起了關于用ChatGPT寫論文是否合規(guī)的大討論;
甚至,
一些咨詢公司也開始擔心自己的飯碗會被搶走……
2023年,應用ChatGPT的熱情已經(jīng)被點燃,ChatGPT的應用場景不斷快速拓展。
未來已來,不管人類是否歡迎它。
在這個時代,所有人都感覺到,世界的變化太快了,知識的更新太快了,我們很難跟上這種變化。在心理上、行為上、動作上和策略上,我們該如何應對巨變?每一個工作,每一個工種,每一個步驟,每一個流程,都在被技術(shù)所賦能、所改變。
比如現(xiàn)在很多人認為,人工智能(AI)將會代替人類,有了ChatGPT,人類的工作就會被取代。實際上,大家都忽略了最基本的一點,人類這種被稱作“智人”的動物,在歷史的長河中遇到過很多次瀕臨滅絕的狀況,但人類并沒有滅絕,因為人類有主觀能動性。人是一種極具智慧的、能夠適應復雜變化的智能生物。為什么AI的出現(xiàn)會帶來如此大的爭議?有些人知道應對AI該怎么做,但是決定不這么做,因為他們覺得這么做不好。
當然還有很多人知道AI很好,但不知道具體該怎么做。要不要用AI代替人類的工作流,取決于人的世界觀、價值觀、知識、經(jīng)驗、能力,以及所在族群的文明、文化、關系、特征,這些因素疊加在一起,才有可能得出一個結(jié)論——人類是否愿意擁抱最新的科技,去學習、去體悟。不過,AI將會代替人類,為人類造福,還是適可而止?這些情況都有可能發(fā)生。AI這扇門已經(jīng)打開,不管你愿不愿意擁抱它,不管你覺得它是好是壞,你都一定要努力學習、努力擁抱、批判性地接受它,讓人類成為它的主人。如今,在人類與機器的教育之間,其實更重要的是人類的教育。對于AI會如何進化,現(xiàn)在還沒有明確的結(jié)論,所以我們要先擁抱、先學習。
人類從前以為自己的知識很值錢,但是在未來,知識需要以人的智慧表達出來。雖然知識是死的,但是人類可以通過主觀能動性利用知識,經(jīng)實踐后產(chǎn)生智慧,再形成新的知識。如今,社會上不斷出現(xiàn)能夠被機器學習的、由人類智慧提供的新的知識。
因此,知識要被利用起來,機器要不斷地學習,不斷地提煉,不斷地沉淀,這樣一來,社會很可能趨于良性發(fā)展。王喜文博士的這本書與讀者一起分享了前沿科技的最新成果,不僅給科技工作者、政府職員、學者、企業(yè)從業(yè)人員提供了研究依據(jù),也給學生、教師等群體帶來了豐富的課堂案例。本書邏輯清晰、通俗易懂,讓人耳目一新,對AI的未來充滿憧憬……
ChatGPT是AIGC(AI Generated Content,人工智能生成內(nèi)容)技術(shù)進步的成果體現(xiàn)。在我們的生活中,人工智能早已普及,比如工業(yè)機器人替代人類去噴漆、焊接,導航App自動規(guī)劃路徑,人臉識別技術(shù)在生活中被廣泛應用……盡管上述人工智能已經(jīng)可以替代人類完成某種工作或者具備人類的某種特征,但是人工智能仍舊與真正的人類相去甚遠。要使人工智能更接近人類,那么人工智能就必須具備人類擁有的創(chuàng)作能力,這就是AIGC存在的意義。AIGC開啟了AI繪畫、AI作曲、AI寫作,乃至AI生成影視作品的新篇章,可以說是人工智能歷史中的跨越式升級。ChatGPT的出現(xiàn)為所有人提供了以自然語言對話方式進行文本生成的新方式和新工具,將大幅降低構(gòu)建元宇宙的門檻,使我們可以用與以往構(gòu)建互聯(lián)網(wǎng)時完全不同的方式來構(gòu)建元宇宙。大量的非專業(yè)人員可以通過語言來描述自己的需求,而ChatGPT會根據(jù)接收到的需求自動生成設計圖和代碼,使構(gòu)建元宇宙的效率得到極大提升,成本得到極大降低,元宇宙中的內(nèi)容也得到極大豐富。
ChatGPT將徹底改變ChatGPT是AIGC(AI Generated Content,人工智能生成內(nèi)容)技術(shù)進步的成果體現(xiàn)。在我們的生活中,人工智能早已普及,比如工業(yè)機器活中被廣泛應用……盡管上述人工智能已經(jīng)可以替代人類完成某種工作或者具備人類的某種特征,但是人工智能仍舊與真正的人類相去甚遠。要使人工智能更接近人類,那么人工智能就必須具備人類擁有的創(chuàng)作能力,這就是AIGC存在的意義。AIGC開啟了AI繪畫、AI作曲、AI寫作,的新方式和新工具,將大幅降低構(gòu)建元宇宙的門檻,使我們可以用與以往構(gòu)建互聯(lián)網(wǎng)時完全不同的方式來構(gòu)建元宇宙。
大量的非專業(yè)人員可以數(shù)字人的構(gòu)建技術(shù):從數(shù)字人的面貌、穿著、形態(tài)設計,數(shù)字人的行動和姿態(tài),以及數(shù)字人的自然語言溝通,到數(shù)字人的任務執(zhí)行、數(shù)字人與環(huán)境的感知和交互等。ChatGPT將使數(shù)字人的構(gòu)建更為便捷和簡單,讓數(shù)字人的功能更加豐富。2023年對于人工智能來說是一個里程碑式的年份。隨著ChatGPT和AIGC風靡全球,人工智能技術(shù)近10年來再一次興起并走向臺前,進入公眾的視野。
在過去幾年中,科技巨頭們已相繼成立人工智能實驗室,投入越來越多的資源搶占人工智能市場,甚至有些企業(yè)整體轉(zhuǎn)型為人工智能公司,加緊謀劃人工智能的未來布局。我國及其他各國政府都把人工智能當作未來的戰(zhàn)略主導,出臺戰(zhàn)略發(fā)展規(guī)劃,從國家層面進行整體推進,迎接即將到來的人工智能時代。這一次人工智能的興起,不僅僅局限于實驗室研究。相關理論和關鍵共性技術(shù)的研究與商業(yè)化應用在同時推進,這使人工智能領域涌現(xiàn)出更多的產(chǎn)品化解決方案和服務化落地應用案例,讓公眾真實地感受到了它的沖擊力和影響力。尤其是在大型語言模型(LLM)、基于人類反饋的強化學習、多模態(tài)模型和自然語言處理等基于深度學習算法應用的領域,人工智能正在迅速產(chǎn)業(yè)化,產(chǎn)業(yè)競爭的賽道也將隨之變得更加擁擠。
數(shù)字人的構(gòu)建技術(shù):從數(shù)字人的面貌、穿著、形態(tài)設計,數(shù)字人的行動和姿態(tài),以及數(shù)字人的自然語言溝通,到數(shù)字人的任務執(zhí)行、數(shù)字人與環(huán)境的感知和交互等。ChatGPT將使數(shù)字人的構(gòu)建更為便捷和簡單,讓數(shù)字人的功能更加豐富。
2023年對于人工智能來說是一個里程碑式的年份。隨著ChatGPT和AIGC風靡全球,人工智能技術(shù)近10年來再一次興起并走向臺前,進入公眾的視野。在過去幾年中,科技巨頭們已相繼成立人工智能實驗室,投入越來越多的資源搶占人工智能市場,甚至有些企業(yè)整體轉(zhuǎn)型為人工智能公司,加緊謀劃人工智能的未來布局。
我國及其他各國政府都把人工智能當作未來的戰(zhàn)略主導,出臺戰(zhàn)略發(fā)展規(guī)劃,從國家層面進行整體推進,迎接即將到來的人工智能時代。這一次人工智能的興起,不僅僅局限于實驗室研究。相關理論和關鍵共性技術(shù)的研究與商業(yè)化應用在同時推進,這使人工智能領域涌現(xiàn)出更多的產(chǎn)品化解決方案和服務化落地應用案例,讓公眾真實地感受到了它的沖擊力和影響力。尤其是在大型語言模型(LLM)、基于人類反饋的強化學習、多模態(tài)模型和自然語言處理等基于深度學習算法應用的領域,人工智能正在迅速產(chǎn)業(yè)化,產(chǎn)業(yè)競爭的賽道也將隨之變得更加擁擠。
2022年12月,ChatGPT還只是個具備聊天功能的社交網(wǎng)絡媒體應用。但2023年伊始,ChatGPT已經(jīng)被公認為是繼互聯(lián)網(wǎng)、智能手機之后,帶給人類第三次“革命”的科技產(chǎn)品?;ヂ?lián)網(wǎng)開辟了“空間革命”,使實時與全世界鏈接成為現(xiàn)實,讓我們不必千里迢迢奔赴現(xiàn)場,就可以通過互聯(lián)網(wǎng)進行溝通、教學、視頻會議,讓政治、社會、商業(yè)產(chǎn)生連鎖變化;智能手機的出現(xiàn),帶來了“時間革命”,通過可拓展安裝的各種App(應用軟件),我們可以實現(xiàn)最快交易、快速送達,讓生活、工作、消費產(chǎn)生巨大變化;而ChatGPT的橫空出世,有望掀起“思維革命”,ChatGPT可以代替人類進行創(chuàng)意創(chuàng)作、咨詢解答、翻譯服務、客服服務……改變?nèi)祟愃伎己吞幚韱栴}的方式,并由此重塑各行業(yè)生態(tài),乃至重塑整個世界。
ChatGPT引發(fā)的思維革命
在ChatGPT中,GPT就是Generative Pre-training Transformer(預訓實時與全世界鏈接成為現(xiàn)實,讓我們不必千里迢迢奔赴現(xiàn)場,就可以通過互聯(lián)網(wǎng)進行溝通、教學、視頻會議,讓政治、社會、商業(yè)產(chǎn)生連鎖變服服務……改變?nèi)祟愃伎己吞幚韱栴}的方式,并由此重塑各行業(yè)生態(tài),在ChatGPT中,GPT就是Generative Pre-training Transformer(預訓練生成模型),OpenAI的語言模型可以助力教育領域、虛擬治療師、寫作輔助工具、角色扮演游戲等,在這些領域,社會偏見、錯誤信息和毒害信息的存在是比較麻煩的,只有規(guī)避這些系統(tǒng)缺陷才能使其更具有用性。ChatGPT能夠回答連續(xù)的問題、生成文本摘要、翻譯文檔、對信息分類、寫代碼等,它也會承認錯誤、質(zhì)疑不正確的前提并拒絕不恰當?shù)恼埱?。短短兩個月,人們源源不絕地挖掘出ChatGPT的更多技能,包括替寫代碼、作業(yè)、論文、演講稿、活動策劃、廣告文案、電影劇本等各類文本,根據(jù)描述繪圖、翻譯、寫詩詞,甚至扮演面試官、電影中的角色、陪聊、解憂講故事者,乃至給予家裝設計、編程調(diào)試、人生規(guī)劃等方面的建議。只要你悉心調(diào)教,ChatGPT甚至能從擅長交流的“咨詢大師”快速進化,成為高效學習工具。經(jīng)過連續(xù)追問,它能為你列舉出輔助學習的大量書單和資料鏈接,幫你提煉一篇文章的關鍵要點、一個領域的知識圖譜及核心脈絡,甚至幫你在靈感枯竭時打開創(chuàng)意腦洞。ChatGPT看起來什么都懂,就像一本百科全書。
其流暢的回答方式,豐富的知識儲備,給用戶帶來了極大的震撼。瑞銀集團的一份報告顯示,在ChatGPT推出僅兩個月后(2023年1月末),它的活躍用戶量已經(jīng)突破了1億,打破了抖音的9個月的紀錄,成為史上用戶增長速度最快的App之一。而突破1億用戶,App Store用了2年,Instagram用了2.5年,WhatApp用了3.5年,推特用了5年(見圖1-2)。在過去幾個月里,一大群人涌入網(wǎng)站,給ChatGPT提了各種要求。有軟件工程師要求它調(diào)試代碼,它做到了;有美食博主要求它寫一份健康巧克力曲奇的食譜,它做到了;還有使用者讓它為其編寫繪畫提示,以輸入至另一個人工智能繪畫應用Midjourney,它做到了,Midjourney根據(jù)它的文本描述成功創(chuàng)作出藝術(shù)作品。
據(jù)說,斯坦福大學醫(yī)學院的皮膚科醫(yī)生Roxana Daneshjou在研究AI在醫(yī)學上的應用時,向它提出了許多醫(yī)學問題,并得到了充分的解答……以前也出現(xiàn)過很多智能聊天機器人,但都沒有ChatGPT這樣神奇。ChatGPT可以進行長時間、流暢的對話,以回答人們的問題,并能撰寫人們要求的幾乎任何類型的書面材料,包括商業(yè)計劃、廣告活動方案、詩歌、笑話、計算機代碼和電影劇本等。ChatGPT的應答時間十分短暫,它會在幾秒鐘內(nèi)生成回答,用戶無須等待,而且它生成的很多內(nèi)容質(zhì)量都還不錯。
ChatGPT的主要特征
ChatGPT這次突然引爆輿論,在業(yè)內(nèi)人士看來頗有些不可思議,連開發(fā)ChatGPT的OpenAI自己也沒想到,它們可以順利獲得微軟100億美元的投資。微軟大規(guī)模投資OpenAI,并宣布除了Office,搜索引擎Bing也要全面集成ChatGPT,勢必要打破Google對搜索引擎20多年的壟斷。這一舉措逼得Google連投競爭對手,并把業(yè)務組織完全變陣。OpenAI是美國的AI實驗室,是非營利組織,其功能定位是促進和發(fā)展友好的人工智能,使人類整體受益。
OpenAI成立于2015年底,創(chuàng)始人是埃隆·馬斯克(Elon Musk)及前YC總裁山姆·阿爾特曼(SamAltman)
維基百科資料顯示,從時間軸來看,2015年底,OpenAI成立,組織目標是通過與其他機構(gòu)和研究者自由合作,向公眾開放專利和研究成果。2016年,OpenAI宣稱將制造通用機器人,希望能夠預防人工智能21始人是埃隆·馬斯克(Elon Musk)及前YC總裁山姆·阿爾特曼(Sam織目標是通過與其他機構(gòu)和研究者自由合作,向公眾開放專利和研究成的災難性影響,推動人工智能發(fā)揮積極作用。2019年3月1日成立OpenAI LP子公司,目標是盈利和商業(yè)化。2019年7月22日微軟投資OpenAI 10億美元,雙方合作為Azure(微軟的云服務)開發(fā)人工智能技術(shù)。2020年6月11日OpenAI宣布推出GPT-3語言模型,微軟于2020年9月22日取得獨家授權(quán)。2022年11月30日,OpenAI發(fā)布了名為ChatGPT的自然語言生成式模型,以對話方式進行交互。2023年1月,微軟和OpenAI洽談投資100億美元事宜,并希望將OpenAI的人工智能技術(shù)納入Word、Outlook、PowerPoint和其他應用程序中。
在全球經(jīng)濟不明朗的大環(huán)境里,ChatGPT的誕生似乎吹起了一股清風,ChatGPT被寄予以智能科技來改善世界經(jīng)濟、促進社會進步的美好愿望。自從ChatGPT出現(xiàn)后,突然之間,每個人都在談論人工智能如何影響他們的工作、學習和生活。ChatGPT之所以讓大家感到震撼,是因為其用戶體驗大大超越以往的人機對話產(chǎn)品。普通使用者感覺到,自己不再是跟“人工智障”對話,ChatGPT對問題的理解很深入,生成的文本也很流暢,的確像是一個“人”在進行回復。甚至還有工程師嘗試用ChatGPT改善智能家居體驗。據(jù)說,一名高級Web開發(fā)人員用短短不到1小時的時間,通過與ChatGPT背后的GPT-3大模型交互,結(jié)合SiriShortcuts做出了一個更智能的語音助手。這個語音助手不僅能控制整個蘋果HomeKit智能家居系統(tǒng),而且能夠以超低的延遲輕松回答各種問題。他給予了ChatGPT極高的評價,稱嘗試過這個產(chǎn)品后,包括蘋果Siri、亞馬遜Alexa、Google Home在內(nèi)的所有“智能”助手,都顯得如此愚蠢而沒用。此外,ChatGPT將取代部分人類工作者的說法也聳人聽聞地傳開了,他們是:軟件開發(fā)人員、網(wǎng)絡開發(fā)人員、程序員、廣告人、新聞記者等內(nèi)容創(chuàng)作者,以及律師、市場研究分析師、教師、金融分析師、財現(xiàn)在的微軟只是回來了,試圖用OpenAI的ChatGPT,將Google通過投資DeepMind、Boston Dynamics、Waymo積累的光環(huán)擊碎。微軟CEO為其用戶體驗大大超越以往的人機對話產(chǎn)品。普通使用者感覺到,自己ChatGPT改善智能家居體驗。據(jù)說,一名高級Web開發(fā)人員用短短不到1Siri、亞馬遜Alexa、Google Home在內(nèi)的所有“智能”助手,都顯得如此了,他們是:軟件開發(fā)人員、網(wǎng)絡開發(fā)人員、程序員、廣告人、新聞記者等內(nèi)容創(chuàng)作者,以及律師、市場研究分析師、教師、金融分析師、財務顧問、交易員、平面設計師、會計師、客服等。這個取代的過程似乎有點殘酷。未來,從產(chǎn)品和投資的角度看,現(xiàn)在的客服、翻譯、文員、初級程序員、文案、家教等以文字工作為主業(yè)的從業(yè)者將受到第一波沖擊,規(guī)模將達到上千萬人,比如印度就將受到巨大的影響。隨著失業(yè)人口增加、行業(yè)巨變,緊接著大量的語言處理相關公司將失去價值,之前火過一陣子的語音助手都將無人問津……
ChatGPT相較于之前的InstructGPT,在訓練過程方面略有不同。之前的InstructGPT模型是給一個輸入,就給一個輸出,然后與訓練數(shù)據(jù)進行對比,對了有獎勵,錯了有懲罰;現(xiàn)在的ChatGPT只有一個輸入,模型給出多個輸出,然后“人”給這個輸出結(jié)果排序,再讓模型將這些結(jié)果從“善解人意”到“不知所以”排序,讓模型學習人類排序的方式,這種策略叫作監(jiān)督學習(Supervised Learning)。總結(jié)而言,ChatGPT與InstructGPT的不同之處就在于數(shù)據(jù)是如何設置并用于訓練(及收集)的。2023年初,OpenAI曾經(jīng)提出,其會在不久的將來發(fā)布更為強大的GPT-4。據(jù)說,GPT-4會在2024年發(fā)布,它將能夠通過圖靈測試,并且能夠先進到和人類比肩,除此之外,企業(yè)接入使用GPT-4的成本也將大規(guī)模下降。有專家猜測,GPT-4可能將在多模態(tài)上有所進展,也就是會引入視頻、音頻等。
人機交互系統(tǒng)
這種產(chǎn)業(yè)變革和模式創(chuàng)新至少會體現(xiàn)在以下方面:
1.改變現(xiàn)有人機交互模式用戶將能夠使用自然對話的方式與智能產(chǎn)品進行交互。由于ChatGPT可以比較精準地理解用戶的意圖,因此在隨后的軟件和服務調(diào)用上它能夠更加貼合用戶的需求,進而提高交互效率與任務成功率。這種人機交互模式的更迭,將會改變當前App等的使用方式。比如,更多的功能會被整合進App里,甚至出現(xiàn)擁有“大一統(tǒng)”能力的超級通用App。
2.改變信息分發(fā)獲取模式基于認知智能技術(shù)可實現(xiàn)更高效的信息整合和知識推薦。以搜索為例,傳統(tǒng)搜索引擎根據(jù)關鍵字匹配內(nèi)容,使用者需要在海量搜索結(jié)果中篩選出有用信息,而ChatGPT加持的Bing搜索引擎可以直和服務調(diào)用上它能夠更加貼合用戶的需求,進而提高交互效率與任務成以搜索為例,傳統(tǒng)搜索引擎根據(jù)關鍵字匹配內(nèi)容,使用者需要在海接給出答案,并提高了問題與答案的匹配度,大大提升用戶體驗。由ChatGPT引發(fā)的信息分發(fā)獲取模式的改變,影響流量的分布,并改變流量變現(xiàn)的商業(yè)模式。
深度學習的核心技術(shù)
GPT預訓練模型的出現(xiàn),無論從學術(shù)研究角度看,還是從場景應用角度看,都代表了自然語言處理領域的一個技術(shù)飛躍,并帶來了整個領域研究范式的轉(zhuǎn)換。
在大模型的框架下,ChatGPT所使用的GPT模型的每一代參數(shù)量均高速擴張,預訓練的數(shù)據(jù)量需求和成本亦快速提升。ChatGPT官網(wǎng)在2023年1月27日至2023年2月3日吸引的每日訪客數(shù)量高達2500萬。
假設以目前的穩(wěn)定狀態(tài),每日每位用戶提出約10個問題,則每日約有2.5億次咨詢量。根據(jù)國盛證券計算機分析師劉高暢、楊然發(fā)表于2023年2月12日的報告《ChatGPT需要多少算力》,2023年1月平均每天約有1300萬獨立訪客使用ChatGPT,其對應的芯片需求為3萬多個英偉達A100 GPU圖形處理器,初始投入成本約為8億美元,每日電費在5萬美元左右,GPT-3訓練一次的成本約為140萬美元,對于一些更大的LLM,訓練成本介于200萬美元至1200萬美元之間。這對于全球科技大企業(yè)而言并不便宜,但尚在可接受范圍內(nèi)。對于ChatGPT的技術(shù),Google、Meta等頭部互聯(lián)網(wǎng)巨頭遲早都會掌握,但是科技公司之間的軍備競賽依舊會展開。
一方面,ChatGPT的推理成本高昂,而且消耗的算力與用戶體驗高度正相關;另一方面,搜索引擎用戶黏度小,用戶永遠會去用體驗最好的那個,這將大幅推高搜索算法的成本,使得Google賴以生存的搜索廣告業(yè)務再也無法“躺著賺錢”。微軟的營收將會更加多元化,因此受到的沖擊會更小,能享受到訪客使用ChatGPT,其對應的芯片需求為3萬多個英偉達A100 GPU圖形理成本高昂,而且消耗的算力與用戶體驗高度正相關;另一方面,搜索引擎用戶黏度小,用戶永遠會去用體驗最好的那個,這將大幅推高搜索Edge瀏覽器,甚至Windows系統(tǒng)市場份額增加的好處。說得直白一點,現(xiàn)在的微軟相當于開啟了大模型軍備競賽,想要“卷死”競爭對手。
早些年,企業(yè)通過自行發(fā)電來滿足運營的電力需要,不僅耗資巨大而且還需具備某些與企業(yè)業(yè)務關聯(lián)不大的特殊能力。電網(wǎng)基礎設施的運行,使供電成為一項公共事業(yè),這也使得企業(yè)能用購電代替自行發(fā)電,就其實質(zhì)而言,企業(yè)將自行發(fā)電變?yōu)橘徺I發(fā)電服務。集中發(fā)電可以使電力的使用更為高效,這意味著更多企業(yè),甚至是個人可以根據(jù)自身的需要買電,而不用為其他電量支付任何費用。電力供應的公共化,提高了各部門的生產(chǎn)力,改善了社會生活的質(zhì)量,并為新興產(chǎn)業(yè)創(chuàng)造了發(fā)展機會。信息和通信技術(shù)行業(yè)也正經(jīng)歷著類似的演進過程。幾十年來,機構(gòu)和個人通過投資計算機軟件和硬件,像購買商品一樣購買信息和通信技術(shù)。
在過去十年中,信息和通信服務的供給方式快速更新,隨著高速寬帶基礎設施的普及,通過網(wǎng)絡我們可以將信息和通信技術(shù)作為一項服務來購買。如今,算力就像被大家廣泛使用的電力一樣,同時具有潛在破壞性與變革性。如果將AI比作電力,那么大模型算力則相當于發(fā)電機,能將智能應用在更大的范圍中進行普及。大模型的智能能力在未來將成為一種公共基礎資源,像電力或自來水一樣隨取隨用。未來,每個智能終端、每個App、每個智能服務平臺,都可以像接入電網(wǎng)一樣,接入由IT基礎設施組成的算力網(wǎng)絡,讓AI算法與技術(shù)能夠更廣泛地應用于各行各業(yè)。各行各業(yè)的用戶若想使用服務,卻不想購買、安裝和運行昂貴的計算機硬件,就可借助無處不在的有線或無線網(wǎng)絡,從云端獲取算力,這與使用其他公共服務沒有區(qū)別。
巨大的算力需求與資金消耗
有研究估測,訓練1750億個參數(shù)大型語言模型的GPT-3,就需要有上萬個CPU/GPU 24小時不間斷輸入數(shù)據(jù),所需能耗相當于開車往返地球和月球,且一次運算就要花費450萬美元。
ChatGPT展示出了強大的三種能力:● 語言生成:遵循提示詞(Prompt),然后生成補全提示詞的句子。這也是目前人類與語言模型最普遍的交互方式?!?上下文學習(In-context Learning):遵循給定任務的幾個示例,然后為新的測試用例生成解決方案。值得一提的是,GPT-3雖然是個語言模型,但它的重點不是語言建模(LanguageModeling),而是上下文學習。● 世界知識學習:包括事實性知識(Factual Knowledge)和常識(Commonsense)。以上三種能力都來自大規(guī)模預訓練:在有3000億個單詞的語料上預訓練擁有1750億個參數(shù)的模型(訓練語料的60%來自2016—2019年的Common Crawl語料庫,22%來自WebText語料庫,16%來自書籍和報刊,2%來自維基百科)。
具備創(chuàng)作能力,具有形成超越人工智能的專業(yè)能力和大眾化的趨勢,而且意味著它開始具備人類的思維能力,并有可能在越來越多的方面替代人類。文章來源:http://www.zghlxwxcb.cn/news/detail-789085.html
無限可能的未來圖景。文章來源地址http://www.zghlxwxcb.cn/news/detail-789085.html
到了這里,關于讀懂ChatGPT、AIGC和元宇宙的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章,希望大家以后多多支持TOY模板網(wǎng)!