生成式人工智能模型可以進(jìn)行對話、回答問題、編寫故事、生成源代碼以及創(chuàng)建幾乎任何描述的圖像和視頻。以下是生成式人工智能的工作原理、使用方式以及其局限性比您想象的要大的原因。

生成式人工智能是一種人工智能，它根據(jù)從現(xiàn)有內(nèi)容中學(xué)到的模式來創(chuàng)建新內(nèi)容，包括文本、圖像、音頻和視頻。當(dāng)今的生成式人工智能模型已經(jīng)使用深度學(xué)習(xí)或深度神經(jīng)網(wǎng)絡(luò)對大量數(shù)據(jù)進(jìn)行了訓(xùn)練，它們可以進(jìn)行對話、回答問題、編寫故事、生成源代碼以及創(chuàng)建任何描述的圖像和視頻，所有這些都基于簡短的文本輸入或“提示”。

生成式人工智能之所以被稱為生成式，是因?yàn)槿斯ぶ悄軇?chuàng)造了以前不存在的東西。這就是它與判別式人工智能的不同之處，判別式人工智能會(huì)區(qū)分不同類型的輸入。換句話說，辨別人工智能試圖回答這樣的問題：“這張圖片是兔子還是獅子的圖畫？” 而生成式人工智能則對諸如“給我畫一張獅子和兔子坐在一起的圖片”之類的提示做出反應(yīng)。

本文向您介紹生成式 AI 及其在ChatGPT 和 DALL-E等流行模型中的用途。我們還將考慮該技術(shù)的局限性，包括為什么“太多手指”已經(jīng)成為人工生成藝術(shù)的致命弱點(diǎn)。

目錄

• 生成式人工智能的出現(xiàn)

• 生成式人工智能如何運(yùn)作？

• 什么是人工智能模型？

• 生成式人工智能有感知能力嗎？

• 測試計(jì)算機(jī)智能的極限

• 為什么AI藝術(shù)有太多手指？

• 生成式人工智能的潛在負(fù)面影響

• 生成式人工智能的用例

• 結(jié)論

生成式人工智能的出現(xiàn)

生成式人工智能已經(jīng)存在很多年了，可以說是從 ELIZA（一種模擬與治療師交談的聊天機(jī)器人）于 1966 年在麻省理工學(xué)院開發(fā)出來開始。但是，隨著新的生成式人工智能系統(tǒng)的發(fā)布，多年來在人工智能和機(jī)器學(xué)習(xí)方面的工作最近取得了成果。您幾乎肯定聽說過ChatGPT，這是一種基于文本的人工智能聊天機(jī)器人，可以生成非常類似人類的散文。 DALL-E 和 Stable Diffusion 也因其根據(jù)文本提示創(chuàng)建充滿活力且逼真的圖像的能力而受到關(guān)注。

這些系統(tǒng)的輸出是如此不可思議，以至于許多人提出了有關(guān)意識(shí)本質(zhì)的哲學(xué)問題，并擔(dān)心生成式人工智能對人類工作的經(jīng)濟(jì)影響。然而，盡管所有這些人工智能創(chuàng)造無可否認(rèn)都是大新聞，但可以說，表面之下發(fā)生的事情比一些人想象的要少。我們稍后將討論其中一些大問題。首先，讓我們看看幕后發(fā)生了什么。

生成式人工智能如何運(yùn)作？

生成式人工智能使用機(jī)器學(xué)習(xí)來處理大量的視覺或文本數(shù)據(jù)（其中大部分是從互聯(lián)網(wǎng)上抓取的），然后確定哪些事物最有可能出現(xiàn)在其他事物附近。生成式人工智能的大部分編程工作都涉及創(chuàng)建算法，這些算法可以區(qū)分人工智能創(chuàng)造者感興趣的“事物”——對于ChatGPT等聊天機(jī)器人來說是單詞和句子，對于DALL-E來說是視覺元素。但從根本上來說，生成式人工智能通過評(píng)估大量數(shù)據(jù)來創(chuàng)建輸出，然后根據(jù)該數(shù)據(jù)集確定的概率范圍內(nèi)的內(nèi)容來響應(yīng)提示。

文章來源地址http://www.zghlxwxcb.cn/article/365.html

自動(dòng)完成——當(dāng)你的手機(jī)或 Gmail 提示你正在輸入的單詞或句子的其余部分可能是什么時(shí)——是生成人工智能的一種低級(jí)形式。ChatGPT 和 DALL-E 只是將這個(gè)想法提升到了更先進(jìn)的高度。

什么是人工智能模型？

ChatGPT 和 DALL-E 是底層 AI 功能的接口，在 AI 術(shù)語中稱為模型。人工智能模型是一種數(shù)學(xué)表示——以算法或?qū)嵺`的形式實(shí)現(xiàn)——生成新數(shù)據(jù)（希望）類似于您手頭已有的一組數(shù)據(jù)。有時(shí)您會(huì)看到 ChatGPT 和 DALL-E 本身被稱為模型；嚴(yán)格來說，這是不正確的，因?yàn)?ChatGPT 是一個(gè)聊天機(jī)器人，它允許用戶訪問底層 GPT 模型的多個(gè)不同版本。但在實(shí)踐中，這些界面是大多數(shù)人與模型交互的方式，因此看到這些術(shù)語互換使用時(shí)不要感到驚訝。

人工智能開發(fā)人員收集了他們希望模型生成的類型的數(shù)據(jù)集。該語料庫稱為模型的訓(xùn)練集，開發(fā)模型的過程稱為訓(xùn)練。例如，GPT 模型是在從互聯(lián)網(wǎng)上抓取的大量文本語料庫上進(jìn)行訓(xùn)練的，結(jié)果是你可以向它提供自然語言查詢，它會(huì)用慣用的英語（或任何其他語言，具體取決于輸入）。

人工智能模型將訓(xùn)練集中數(shù)據(jù)的不同特征視為向量——由多個(gè)數(shù)字組成的數(shù)學(xué)結(jié)構(gòu)。這些模型的大部分秘密在于它們能夠以有意義的方式將現(xiàn)實(shí)世界的信息轉(zhuǎn)換為向量，并確定哪些向量彼此相似，從而使模型生成類似于以下內(nèi)容的輸出：但與其訓(xùn)練集不完全相同。

有許多不同類型的人工智能模型，但請記住，各種類別不一定是相互排斥的。有些模型可以屬于多個(gè)類別。

如今最受公眾關(guān)注的人工智能模型類型可能是大型語言模型（LLM）。LLM 基于變壓器的概念，該概念首次在Google 研究人員 2017 年發(fā)表的論文《 Attention Is All You Need 》中引入。轉(zhuǎn)換器從長文本序列中獲取含義，以理解不同的單詞或語義組件如何相互關(guān)聯(lián)，然后確定它們彼此相鄰出現(xiàn)的可能性有多大。GPT 模型是 LLM，T代表變壓器。這些轉(zhuǎn)換器在一個(gè)龐大的自然語言文本語料庫上 無監(jiān)督地運(yùn)行，這個(gè)過程稱為預(yù)訓(xùn)練（即 P在 GPT 中），然后由人類與模型交互進(jìn)行微調(diào)。

擴(kuò)散通常用于生成圖像或視頻的生成人工智能模型。在擴(kuò)散過程中，該模型向圖像添加噪聲（基本上是隨機(jī)的），然后迭代地緩慢刪除它，同時(shí)檢查其訓(xùn)練集以嘗試匹配語義相似的圖像。擴(kuò)散是 AI 模型的核心，這些模型執(zhí)行文本到圖像的魔法，例如穩(wěn)定擴(kuò)散和 DALL-E。

生成 對抗網(wǎng)絡(luò)（GAN）基于一種強(qiáng)化學(xué)習(xí)，其中兩種算法相互競爭。人們根據(jù)從大數(shù)據(jù)集得出的概率生成文本或圖像。另一種是具有辨別力的人工智能，它評(píng)估該輸出是真實(shí)的還是人工智能生成的。生成式人工智能反復(fù)嘗試“欺騙”辨別式人工智能，自動(dòng)適應(yīng)有利于成功的結(jié)果。一旦生成型人工智能持續(xù)“贏得”這場競爭，辨別型人工智能就會(huì)受到人類的微調(diào)，整個(gè)過程重新開始。

這里要記住的最重要的事情之一是，雖然訓(xùn)練過程中有人工干預(yù)，但大多數(shù)學(xué)習(xí)和適應(yīng)都是自動(dòng)發(fā)生的。需要進(jìn)行很多很多次迭代才能使模型產(chǎn)生有趣的結(jié)果，因此自動(dòng)化至關(guān)重要。這個(gè)過程的計(jì)算量相當(dāng)大，最近人工智能能力的爆炸性增長很大程度上是由 GPU 計(jì)算能力和在這些芯片上實(shí)現(xiàn)并行處理技術(shù)的進(jìn)步推動(dòng)的。

生成式人工智能有感知能力嗎？

創(chuàng)建和訓(xùn)練生成式人工智能模型所需的數(shù)學(xué)和編碼非常復(fù)雜，遠(yuǎn)遠(yuǎn)超出了本文的范圍。但如果你與這個(gè)過程的最終結(jié)果模型進(jìn)行交互，這種體驗(yàn)絕對是不可思議的。您可以讓 DALL-E 制作出看起來像真正的藝術(shù)品的東西。您可以與 ChatGPT 進(jìn)行對話，就像與另一個(gè)人進(jìn)行對話一樣。研究人員真的創(chuàng)造了一臺(tái)思考機(jī)器嗎？

從事Watson AI產(chǎn)品工作的前 IBM自然語言處理主管Chris Phipps表示不會(huì)。他將 ChatGPT 描述為“非常好的預(yù)測機(jī)器”。

它非常擅長預(yù)測人類會(huì)發(fā)現(xiàn)什么是連貫的。它并不總是連貫的（大部分是連貫的），但這并不是因?yàn)?ChatGPT “理解”。事實(shí)恰恰相反：消費(fèi)輸出的人非常擅長做出我們需要的任何隱含假設(shè)，以使輸出有意義。

菲普斯也是一名喜劇表演者，他將其與一種名為“Mind Meld”的常見即興游戲進(jìn)行了比較。

兩個(gè)人各自想到一個(gè)詞，然后同時(shí)大聲說出來——你可能說“靴子”，我說“樹”。我們完全獨(dú)立地想出了這些詞，起初，它們彼此沒有任何關(guān)系。接下來的兩名參與者嘗試找出這兩個(gè)詞的共同點(diǎn)并同時(shí)大聲說出來。游戲繼續(xù)進(jìn)行，直到兩個(gè)參與者說出同一個(gè)詞。

也許兩個(gè)人都說“伐木工人”。這看起來很神奇，但實(shí)際上是我們用人腦來推理輸入（“引導(dǎo)”和“樹”）并找到聯(lián)系。我們從事的是理解工作，而不是機(jī)器。ChatGPT 和 DALL-E 發(fā)生的事情比人們承認(rèn)的要多得多。ChatGPT 可以寫一個(gè)故事，但我們?nèi)祟愖隽撕芏喙ぷ鞑拍茏屗幸饬x。

測試計(jì)算機(jī)智能的極限

我們可以向這些人工智能模型提供的某些提示將使菲普斯的觀點(diǎn)變得相當(dāng)明顯。例如，考慮一下謎語“一磅鉛和一磅羽毛哪個(gè)更重？” 答案當(dāng)然是它們的重量相同（一磅），盡管我們的直覺或常識(shí)可能告訴我們羽毛更輕。

ChatGPT 將正確回答這個(gè)謎語，您可能會(huì)認(rèn)為它會(huì)這樣做，因?yàn)樗且慌_(tái)冷酷的邏輯計(jì)算機(jī)，沒有任何“常識(shí)”來解決這個(gè)問題。但這并不是幕后發(fā)生的事情。ChatGPT 沒有從邏輯上推理出答案；它只是根據(jù)對一磅羽毛和一磅鉛的問題的預(yù)測來生成輸出。由于它的訓(xùn)練集包含一堆解釋謎語的文本，因此它會(huì)組裝正確答案的一個(gè)版本。

但是，如果您詢問 ChatGPT兩磅羽毛是否比一磅鉛重，它會(huì)自信地告訴您它們的重量相同，因?yàn)楦鶕?jù)其訓(xùn)練集，這仍然是有關(guān)羽毛和鉛的提示的最有可能的輸出。告訴人工智能它錯(cuò)了，然后看著它陷入困境，這可能很有趣；我讓它為自己的錯(cuò)誤向我道歉，然后建議兩磅羽毛的重量是一磅鉛的四倍。

為什么AI藝術(shù)有太多手指？

人工智能藝術(shù)的一個(gè)值得注意的怪癖是，它經(jīng)常代表具有極其奇怪的手的人?！捌婀值氖止竹薄闭诔蔀樗囆g(shù)作品是人工生成的一個(gè)常見標(biāo)志。這種奇怪的現(xiàn)象讓我們更深入地了解生成式人工智能是如何工作（和不工作）的。從 DALL-E 和類似視覺生成人工智能工具提取的語料庫開始：人們的照片通常可以很好地看到他們的臉部，但他們的手通常被部分遮擋或以奇怪的角度顯示，因此你無法看到所有的信息手指一下子。此外，手的結(jié)構(gòu)非常復(fù)雜，對于人們來說，甚至是訓(xùn)練有素的藝術(shù)家來說，繪制它們是出了名的困難。DALL-E所不具備的一件事所做的就是根據(jù)訓(xùn)練集中的各種 2D 描述來組裝一個(gè)精致的 3D 手模型。事情不是這樣的。DALL-E 甚至不一定知道“手”是一個(gè)需要推理的連貫事物類別。它所能做的就是根據(jù)它擁有的圖像嘗試預(yù)測相似圖像可能是什么樣子。盡管有大量的訓(xùn)練數(shù)據(jù)，但這些預(yù)測常常達(dá)不到要求。

菲普斯推測因素之一是缺乏負(fù)面輸入。

據(jù)我所知，它主要訓(xùn)練正面的例子。他們沒有給它一張七指手的照片并告訴它“不！手牌的壞例子。不要這樣做?！?nbsp;所以它預(yù)測的是可能的空間，而不是不可能的空間?；旧希瑥奈幢桓嬷灰?jiǎng)?chuàng)造七指手。

還有一個(gè)因素是，這些模型并不認(rèn)為他們正在繪制的圖紙是一個(gè)連貫的整體；相反，它們組裝了一系列可能彼此接近的組件，如訓(xùn)練數(shù)據(jù)所示。DALL-E 可能不知道一只手應(yīng)該有五個(gè)手指，但它確實(shí)知道一個(gè)手指可能與另一個(gè)手指直接相鄰。所以，有時(shí)，它只是不斷地增加手指。（用牙齒也能得到同樣的結(jié)果。）事實(shí)上，即使是對 DALL-E 過程的這種描述也可能過于擬人化了。正如菲普斯所說：“我懷疑它甚至沒有手指的理解能力。更有可能的是，它正在預(yù)測像素顏色，而手指顏色的像素往往緊鄰其他手指顏色的像素。”

生成式人工智能的潛在負(fù)面影響

這些例子向您展示了生成式人工智能的主要局限性之一：業(yè)內(nèi)人士所說的“幻覺”，這可能是一個(gè)誤導(dǎo)性的輸出術(shù)語，即根據(jù)使用它的人的標(biāo)準(zhǔn)，它是錯(cuò)誤的或不正確的。當(dāng)然，所有計(jì)算機(jī)系統(tǒng)偶爾都會(huì)產(chǎn)生錯(cuò)誤，但這些錯(cuò)誤尤其成問題，因?yàn)樽罱K用戶不太可能輕易發(fā)現(xiàn)它們：如果您向生產(chǎn)型人工智能聊天機(jī)器人詢問問題，您自己通常不會(huì)知道答案。您也更有可能接受 ChatGPT 和其他類似模型生成的自信、完全慣用的散文形式的答案，即使信息不正確。

即使生成式人工智能可以產(chǎn)生無幻覺的輸出，也存在各種潛在的負(fù)面影響：

• 廉價(jià)且簡單的內(nèi)容創(chuàng)建：希望現(xiàn)在大家已經(jīng)清楚，ChatGPT 和其他生成型人工智能并不是能夠進(jìn)行創(chuàng)造性輸出或洞察力的真正大腦。但事實(shí)是，并非所有書寫或繪制的內(nèi)容都需要特別有創(chuàng)意。許多高中或大學(xué)本科水平的研究論文僅旨在綜合公開數(shù)據(jù)，這使它們成為生成人工智能的完美目標(biāo)。事實(shí)上，合成散文或藝術(shù)現(xiàn)在可以以超人的規(guī)模自動(dòng)產(chǎn)生，可能會(huì)產(chǎn)生奇怪或不可預(yù)見的結(jié)果。例如，垃圾郵件藝術(shù)家已經(jīng)在使用 ChatGPT 編寫網(wǎng)絡(luò)釣魚電子郵件。

• 知識(shí)產(chǎn)權(quán)：誰擁有人工智能生成的圖像或文本？如果受版權(quán)保護(hù)的作品構(gòu)成人工智能訓(xùn)練集的一部分，那么人工智能在生成合成數(shù)據(jù)時(shí)是否會(huì)“抄襲”該作品，即使它沒有逐字復(fù)制？這些都是棘手的、未經(jīng)檢驗(yàn)的法律問題。

• 偏見：生成式人工智能生成的內(nèi)容完全由其訓(xùn)練的基礎(chǔ)數(shù)據(jù)決定。由于這些數(shù)據(jù)是由人類產(chǎn)生的，存在各種缺陷和偏見，因此生成的結(jié)果也可能存在缺陷和偏見，特別是如果它們在沒有人類護(hù)欄的情況下運(yùn)行。創(chuàng)建 ChatGPT 的 OpenAI 公司在將模型開放給公眾使用之前，在該模型中設(shè)置了保護(hù)措施，以防止其做出使用種族歧視等行為；然而，其他人聲稱這些安全措施代表了他們自己的偏見。

• 功耗：除了令人頭疼的哲學(xué)問題之外，生成式人工智能還引發(fā)了一些非常實(shí)際的問題：一方面，訓(xùn)練生成式人工智能模型需要大量的計(jì)算密集型工作。這可能會(huì)給試圖進(jìn)入這一領(lǐng)域的公司帶來巨額云計(jì)算費(fèi)用，并最終提出一個(gè)問題：增加的功耗（以及最終的溫室氣體排放）是否值得最終結(jié)果。（我們還看到這個(gè)問題與加密貨幣和區(qū)塊鏈技術(shù)有關(guān)。）

生成式人工智能的用例

盡管存在這些潛在問題，但生成式人工智能的前景不容忽視。ChatGPT 能夠從龐大的數(shù)據(jù)集中提取有用信息以響應(yīng)自然語言查詢，這讓搜索巨頭垂涎欲滴。微軟正在測試自己的人工智能聊天機(jī)器人，稱為“悉尼”，盡管它仍處于測試階段，而且結(jié)果顯然是好壞參半。

但菲普斯認(rèn)為更專業(yè)的搜索類型非常適合這項(xiàng)技術(shù)?！拔以?IBM 的最后一個(gè)客戶是一家大型國際航運(yùn)公司，該公司還擁有價(jià)值數(shù)十億美元的供應(yīng)鏈咨詢副業(yè)，”他說。

他們的問題是，他們無法足夠快地雇用和培訓(xùn)入門級(jí)供應(yīng)鏈顧問——他們正在失去業(yè)務(wù)，因?yàn)樗麄儫o法快速回答簡單的客戶問題。我們構(gòu)建了一個(gè)聊天機(jī)器人，幫助入門級(jí)顧問搜索公司豐富的供應(yīng)鏈?zhǔn)謨院脱菔疚母鍘?，然后將這些手冊和演示文稿轉(zhuǎn)給客戶。

如果我今天要為同一個(gè)客戶構(gòu)建一個(gè)解決方案，就在我構(gòu)建第一個(gè)解決方案一年后，我將 100% 使用 ChatGPT，它可能會(huì)遠(yuǎn)遠(yuǎn)優(yōu)于我構(gòu)建的解決方案。該用例的優(yōu)點(diǎn)在于仍然有專家在循環(huán)中仔細(xì)檢查答案。這減輕了很多道德問題。專為專家設(shè)計(jì)的智能搜索工具有著巨大的市場。

其他潛在用例包括：

• 代碼生成：生成式人工智能可以為我們編寫計(jì)算機(jī)代碼的想法已經(jīng)流傳多年。事實(shí)證明，像ChatGPT 這樣的大型語言模型可以理解編程語言以及自然口語，雖然生成式人工智能可能不會(huì)在不久的將來取代程序員，但它可以幫助提高他們的生產(chǎn)力。

• 廉價(jià)且簡單的內(nèi)容創(chuàng)建：盡管這是一個(gè)問題（上面列出），但它也是一個(gè)機(jī)會(huì)。編寫垃圾郵件的人工智能也可以編寫合法的營銷電子郵件，并且人工智能文案初創(chuàng)公司呈爆炸式增長。當(dāng)涉及不需要太多創(chuàng)造力的高度結(jié)構(gòu)化的散文形式（例如簡歷和求職信）時(shí)，生成式人工智能會(huì)蓬勃發(fā)展。

• 工程設(shè)計(jì)：視覺藝術(shù)和自然語言在生成人工智能領(lǐng)域受到了很多關(guān)注，因?yàn)樗鼈兒苋菀妆黄胀ㄈ苏莆铡５愃频募夹g(shù)正被用于設(shè)計(jì)從微芯片到新藥的一切事物，并且?guī)缀蹩隙〞?huì)很快進(jìn)入IT 架構(gòu)設(shè)計(jì)領(lǐng)域。

結(jié)論

生成式人工智能肯定會(huì)顛覆一些行業(yè)，并改變或消除許多工作崗位。然而，像這樣的文章將繼續(xù)由人類撰寫，至少目前是這樣。CNET 最近嘗試將生成式人工智能用于撰寫文章，但這一努力因一波幻覺而失敗。如果你擔(dān)心，你可能想從事明天的熱門新工作：人工智能提示工程。

到此這篇關(guān)于什么是生成式人工智能？人工智能創(chuàng)造的文章就介紹到這了,更多相關(guān)內(nèi)容可以在右上角搜索或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！