【深入探討人工智能】網(wǎng)絡(luò)研討系列總共有 17 個視頻。我們按照視頻內(nèi)容，大致上分成了 3 個大類：

1. 人工智能的開放、風(fēng)險與挑戰(zhàn)（4 篇）

2. 人工智能的治理（總共 12 篇），其中分成了幾個子類：

a. 人工智能的治理框架（3 篇）

b. 人工智能的數(shù)據(jù)治理（4 篇）

c. 人工智能的許可證（4 篇）

d. 人工智能的法案（1 篇）

3. 爐邊對談-誰在構(gòu)建開源人工智能??

今天發(fā)布的是第一個類別“人工智能的開放、風(fēng)險與挑戰(zhàn)”里的第二個視頻：【自由與開源軟件和人工智能的意識形態(tài)：“開放”對于平臺和黑盒子系統(tǒng)意味著什么?】。

我們期盼如此分類，對讀者的易讀性有幫助，也歡迎讀者們的反饋和指正。

? ? ? ? ? ? ? ? ? ?--- 開源社.國際接軌組 ---

大家好，歡迎回到由開源促進(jìn)會主辦的深入探討人工智能的網(wǎng)絡(luò)研討會系列。今天，我們將聽到邁克·諾蘭的演講關(guān)于自由開源軟件和人工智能的思想：關(guān)于平臺和黑盒系統(tǒng)，開放意味著什么？最后我們會回答大家的問題。所以，請全程盡情享受。

大家好。我叫邁克·諾蘭。我頭銜挺多的。我主要在羅切斯特理工學(xué)院工作，我是 Open@RIT 的副主任，這是學(xué)校的開放項目辦公室，我在這所大學(xué)里做了很多關(guān)于開源軟件、開放數(shù)據(jù)、開放科學(xué)等方面的工作。

我也是人道主義技術(shù)專家聯(lián)盟的現(xiàn)任執(zhí)行董事和創(chuàng)始成員，這是一家英國非營利組織，主要幫助人道主義援助部門開發(fā)開源軟件。我是倫理源組織的董事會成員。

最后，我認(rèn)為自己是政治經(jīng)濟(jì)學(xué)、科學(xué)和技術(shù)方面的學(xué)者。之所以這樣說是因為，我對開源領(lǐng)域以及我們今天要討論的話題都非常感興趣。

所以在這次演講中，我想談?wù)勛杂珊烷_源軟件的意識形態(tài)，以及它如何應(yīng)用于人工智能。我還想談?wù)剶?shù)字平臺，談?wù)勛杂珊烷_源軟件的歷史，支撐它的意識形態(tài)和最初的概念，軟件是如何變化的，以及探索我們今天所處的位置，以及我們是否有任何真正的意識形態(tài)基礎(chǔ)可以幫助我們想象這類概念如何應(yīng)用于人工智能等新技術(shù)的發(fā)展。

但在我開始之前，大約一個月前，當(dāng)我開始為這次演講整理幻燈片時，一篇非常出色的論文發(fā)布了，名字叫做《開放(商業(yè))：巨型科技公司、權(quán)力集中和開放人工智能的政治經(jīng)濟(jì)》。

這篇論文中討論了 Open AI 作為開源人工智能，而不是同名的商業(yè)組織，雖然該組織在這篇論文中有所提及，但這篇由大衛(wèi)·格雷·維特、梅雷迪斯·惠特克和薩拉米耶·韋斯特共同撰寫的論文對我今天的演講產(chǎn)生了很大的影響。

事實上，當(dāng)我讀到這篇論文時，我感到有點泄氣。真的，如果有一件事我認(rèn)為每個聽這個演講的人都應(yīng)該做的話，那就是去下載這篇論文，它是開放獲取的，你可以去讀一下。因為我認(rèn)為這可能是我所見過的關(guān)于這個話題的最好的研究。而且它在一個非常及時的時機(jī)發(fā)布。所以我要總結(jié)一下這篇論文的一些方面，盡我所能。很明顯，我不是這篇論文的作者，也沒有參與撰寫。如果你看到里面引用了我的名字，那其實不是我，這是一個比較大眾的名字。所以，我將談?wù)勥@篇論文的一些部分，并引用其中的一些章節(jié)。

我的演講將分為以下四個主要部分。

第一，我想提供一個簡短的開放、開源和自由軟件的歷史，提供一些背景。然后我想談?wù)勥^去50年來軟件形式的變化可能會如何影響我們對開放的看法，開放性在我們?nèi)绾闻c軟件系統(tǒng)聯(lián)系，以及我們?nèi)绾斡绊懰鼈兎矫姘l(fā)揮著重要作用。然后，我想談?wù)勥@篇論文中關(guān)于人們?nèi)绾慰创_源人工智能的各個方面的一些內(nèi)容，比如，有哪些不同層次的開放性？然后我想從物質(zhì)的角度談?wù)勯_放人工智能的利弊。我想談?wù)勅藗兲岢龅闹T多主張，特別是歐洲對人工智能開源的新規(guī)定。最后，我想把這些都帶回起點，看看我們是否真的處于一個良好的地位。因為人們投資于開放，我想開源社區(qū)是在過去的50年里圍繞著開放合作模式和意識形態(tài)建立起來的。

那么，我們是如何走到今天的呢？

我相信很多人，甚至大多數(shù)人，都非常熟悉開源的歷史。我會試著簡單地過一遍。我將嘗試以一種我認(rèn)為對設(shè)定這次演講的背景有用的方式，重新構(gòu)建它的幾個方面。大約從20世紀(jì)70年代開始，軟件商品化開始迅速發(fā)展。

在此之前，當(dāng)你買計算機(jī)的時候，軟件基本上是預(yù)裝的。軟件是為在硬件平臺上運行而構(gòu)建的，很難遷移到其他平臺但在某種程度上，硬件平臺開始變得標(biāo)準(zhǔn)化。個人電腦開始普及。除此之外，軟件生產(chǎn)作為一種商品變得極其流行。你可以看到一些大型企業(yè)，尤其是像微軟這樣的企業(yè)，從本質(zhì)上講，就是利用這個巨大的增長市場為自己贏得聲譽(yù)。這些公司是這樣運作的，他們會開發(fā)軟件，然后并使用許可證來將軟件銷售出去。與此同時，我們稱之為自由或開源軟件的早期階段的發(fā)展也是如此，有了社區(qū)，草根社區(qū)構(gòu)建軟件，互相分享，通過點對點的共享方式進(jìn)行開發(fā)。因此，我們開始看到圍繞自由和開源軟件的一些最初的思想意識形態(tài)支柱開始成型。

我認(rèn)為最好的例子之一是由理查德·斯托曼等人提出的“四種自由”。他們認(rèn)為人與軟件的關(guān)系需要這些基本權(quán)利，以便為人們提供對他們使用的軟件的自主性和控制權(quán)。

這四種自由是：能夠自由運行軟件，能夠按照自己的意愿改寫軟件，能夠進(jìn)行軟件的再次開發(fā)，能夠修改并自由傳播、分發(fā)修改版本。這幾點可視為圍繞人們?nèi)绾涡枰?、?yīng)當(dāng)如何與所使用的軟件互動的基本信念。

我認(rèn)為這很重要，因為當(dāng)時我們想到軟件概念時，主要是這些離散的程序，你可以把它們放在軟盤或其他什么東西上，然后插入計算機(jī)中運行，它基本上是在你的計算機(jī)上運行，對吧？所以控制是存在的。你能夠控制那一盒你可以訪問的軟件。所以，這種意識形態(tài)在當(dāng)時并不是所有人都認(rèn)同的。

事實上，在這個時期，存在著很多對抗，一方是提倡圍繞用戶自主權(quán)和對軟件的控制權(quán)建立新理念的人，另一方是企業(yè)，試圖用投資的方式來構(gòu)建軟件產(chǎn)品，并以一種能夠維持他們業(yè)務(wù)的方式銷售出去。因此，在那個時候，存在著很多的沖突和對抗。

我想雙方都有很多營銷和宣傳。我認(rèn)為自由軟件或開源倡導(dǎo)者被認(rèn)為類似于共產(chǎn)主義者或無政府主義者并不罕見。開源軟件被軟件行業(yè)的一些人形容為毒瘤，所以這兩個群體之間存在著很多對立。這并不是說很多人沒有嘗試在這兩個群體之間找到妥協(xié)，并表明開源軟件在政治上不像共產(chǎn)主義那樣激進(jìn)。事實上，就其開發(fā)方法而言，它可以為這些公司提供很多好處。

所以，在這段時間里，特別是在開源這個詞的普及期間，我們開始看到新的定義出現(xiàn)了，關(guān)于什么是開放的新概念，特別是，我想在座的每個人都很熟悉與軟件許可相關(guān)的開源的法律定義。這與我們對待與軟件相關(guān)的基于人權(quán)的方法相去甚遠(yuǎn)。這是一種非常法律化，幾乎是基于合同的對開源的理解。這是 OSI 定義的基礎(chǔ)，它的概念從開始就一直保持不變。因此，關(guān)于開源軟件生產(chǎn)作為方法論可能帶來的好處的這種妥協(xié)和爭論，在許多方面確實產(chǎn)生了積極的作用。

我相信你們很多人都看過這個圖表或類似的圖表。它展示了開源軟件在我們的數(shù)字基礎(chǔ)設(shè)施中的普及程度，它幾乎是當(dāng)今構(gòu)建任何數(shù)字基礎(chǔ)設(shè)施或服務(wù)的基石?；谶@個圖表，很多人認(rèn)為開源已經(jīng)得到了廣泛的應(yīng)用取得了勝利。很多人都在投資開源。它太重要了。我們確信這是一條正確的道路。我們把所有人聚集在一起，我們組成了這個由不同組織組成的驚人聯(lián)盟，一起解決了這個問題。所以，這在某種程度上是大家共同的歷史，但我認(rèn)為在理解這一切發(fā)生的過程時，也要記住軟件形式的變化。

正如我提到的，在軟件商品化的早期，軟件是非常離散的。它們主要是終端用戶產(chǎn)品或獨立運行的應(yīng)用程序。你可以下載它們。在考慮軟件市場時，需要注意的是，在免費和開源軟件應(yīng)用程序和專有應(yīng)用程序之間，他們在大多數(shù)情況下直接競爭。你有火狐和IE瀏覽器，有 Linux 和 Windows，有 GIMP 和 Photoshop。

當(dāng)時許多最重要的自由和開源軟件應(yīng)用程序，都直接與擁有巨大市場份額的大型專有應(yīng)用程序進(jìn)行競爭。這真正能讓人們能夠理解為什么許多公司感到受到開源軟件的威脅，同時也能夠看清楚它們對此做出的反應(yīng)，無論這種反應(yīng)是否合理，是否合乎道德。

這當(dāng)然也是開源軟件早期的情況。但是現(xiàn)在，如果我們考慮當(dāng)今25個最重要的自由和開源軟件應(yīng)用程序，我們會看到一些非常不同的東西，對吧?

首先，我們看到公司在開發(fā)這些免費開源軟件應(yīng)用程序方面投入了大量的精力。我們也看到這些不再是真正的終端用戶產(chǎn)品了。這些軟件開發(fā)人員專業(yè)范疇的東西，人們不需要真正了解或以熟悉的方式去進(jìn)行交互。

顯然，其中許多都是我們與之交互的軟件應(yīng)用程序的依賴項，但它們不像我們直接下載到電腦上進(jìn)行安裝運行和配置置的東西。我想說的是，在這段時間里，隨著這些軟件產(chǎn)品被越來越多地采用，軟件的使用已經(jīng)轉(zhuǎn)向我稱之為 “平臺” 的東西。

平臺通常是內(nèi)涵豐富的術(shù)語，有很多不同的定義。所以我要用的定義很大程度上類似于經(jīng)濟(jì)領(lǐng)域的定義。它是由蒂羅爾的學(xué)者創(chuàng)造的，他們是兩位諾貝爾經(jīng)濟(jì)學(xué)獎得主。我鼓勵你們?nèi)ゲ橐幌?，如果你們對這個概念感興趣的話。但是，他們對平臺的描述方式是，它是介于多個網(wǎng)絡(luò)或市場之間的東西，并壟斷了這兩者之間的聯(lián)系。

我認(rèn)為最好的描述方式可能是提供例子。例如，Facebook 是一個平臺，它一方面管理者終端用戶訪問媒體社區(qū)的權(quán)限，另一方面愿意為廣告商提供數(shù)據(jù)和廣告定位。在這個平臺之前，在這兩件事上，很難找到這種聯(lián)系。通過 Facebook，也就是現(xiàn)在的 Meta，就可以做到。另一個例子是亞馬遜，它是一個平臺，可以幫助生產(chǎn)商進(jìn)入分銷網(wǎng)絡(luò)和全球市場，而在另一方面為消費者提供豐富的商品和服務(wù)網(wǎng)絡(luò)。

最后，類似谷歌，谷歌搜索是一個平臺。它為終端用戶提供獲取信息和數(shù)字服務(wù)的便利。它還為這些商品和服務(wù)的生產(chǎn)者提供了信息的生產(chǎn)和可發(fā)現(xiàn)性。同時也為數(shù)字服務(wù)提供商和廣告商提供了有關(guān)用戶關(guān)注度和用戶網(wǎng)絡(luò)的信息。因此，平臺的性質(zhì)使得它們的創(chuàng)造者能夠利用這些多邊市場，充當(dāng)各種參與者和各種站點之間的中介和門衛(wèi)。所以，作為控制平臺的人，你不一定要像我們通常理解的那樣把軟件當(dāng)成一種產(chǎn)品來提供，你的軟件是一個必要的系統(tǒng)，人們需要通過它才能訪問其他商品、貨物、資源和信息，以便實現(xiàn)它們想要做的事情。

回到這張非常重要的開源軟件列表，我認(rèn)為很容易就能看出這些開源軟件不僅僅是對這些平臺的生產(chǎn)和維護(hù)非常有用，它們也是專門為它們而建造的。無論我們看到的是服務(wù)器編排軟件、分布式計算、高度可擴(kuò)展的搜索產(chǎn)品，這些軟件是專門為擁有數(shù)百萬或數(shù)十億用戶的大規(guī)模分布式計算系統(tǒng)而構(gòu)建的，并且需要一種特定類型的架構(gòu)來管理這么多訪問的人，這么多的商品和服務(wù)，這么多的市場。所以我認(rèn)為理解這種轉(zhuǎn)變很重要，因為有了平臺，軟件不再是離散的。它設(shè)計范圍廣泛。它所扮演的角色不再是為特定的人提供工具。相反，它是通往其他事物的門衛(wèi)。

我不想把平臺和人工智能混為一談，但我認(rèn)為這種想法轉(zhuǎn)變了我們與之互動的許多計算系統(tǒng)。在考慮人工智能開源時，這種目的的轉(zhuǎn)變非常重要。因此，讓我們來談?wù)勯_放人工智能，或者說是開源人工智能。這是我要從這篇論文中摘引大部分內(nèi)容的地方。如果你感興趣，可以上網(wǎng)看幻燈片。我鼓勵你們?nèi)タ匆豢?，這里有鏈接，或者你可以在網(wǎng)上搜索標(biāo)題，它可能排在搜索結(jié)果中的第一項。這一部分主要是從這篇論文中摘取的，所以我鼓勵你們，如果你們有興趣的話，去讀讀這篇論文，不要只偏信我所說的。

所以在定義開放人工智能時，我認(rèn)為人們通常會想到四個主要組成部分，比如，這些材料是公開發(fā)布的，還是我們認(rèn)為是開放人工智能的一部分。

首先顯然是用于訓(xùn)練和評估任何一種人工智能模型的數(shù)據(jù)，該數(shù)據(jù)的是否可用及其可訪問性等。第二件事是源代碼，它定義了模型的架構(gòu)、超參數(shù)設(shè)置、發(fā)布的數(shù)據(jù)，或者在典型的開源許可下發(fā)布的代碼。第三是人工智能模型本身。這些權(quán)重是通過訓(xùn)練過程確定的，通常是非常昂貴的，所以模型是一種可以分發(fā)的產(chǎn)品，而且通常也是如此。最后是所謂的文檔，它以很多不同的形式存在。但是，我認(rèn)為這個文檔的一個普遍概念不僅僅是文檔化的代碼，還包括隨著時間的推移而變得非常流行的模型卡或數(shù)據(jù)表等內(nèi)容。所以我認(rèn)為這四個方面會是人們經(jīng)常討論的四個組成部分，比如，當(dāng)考慮到開源 AI 應(yīng)該是什么樣子時。這是許多人認(rèn)為的對人工智能至關(guān)重要的四個方面。

但我認(rèn)為還有其他一些事情在人工智能的創(chuàng)造和傳播中非常重要而需要被考慮到。這并不一定是有效的產(chǎn)品，但是嚴(yán)重影響了我們對最終產(chǎn)品的看法。

首先是開發(fā)框架。我想說有兩個非常流行的開發(fā)框架：PyTorch 和 TensorFlow，它們都是開源的。PyTorch 是由 Facebook 或 Meta 公司創(chuàng)建的，TensorFlow 是由谷歌創(chuàng)建的。這兩個框架的絕大多數(shù)貢獻(xiàn)者都是其創(chuàng)建公司的員工。所以這些開發(fā)框架，雖然是開源的，但確實影響了其他人工智能系統(tǒng)的開發(fā)。因為它們是人們用來定義模型和確定如何與其他系統(tǒng)集成的基礎(chǔ)組件。所以，這些指導(dǎo)框架，這些開發(fā)框架，標(biāo)準(zhǔn)化了人工智能的構(gòu)建，使其與它們自己公司的平臺兼容。就像樂高積木一樣確保了這框架能夠引導(dǎo)下游的開發(fā)者去創(chuàng)造人工智能系統(tǒng)，可以在這個框架的創(chuàng)造者的公司系統(tǒng)中迅速融合。我認(rèn)為在考慮人工智能的利弊和開放人工智能系統(tǒng)的影響時，這一點非常重要。

接下來是計算。正如我們都知道的，尤其是在創(chuàng)建和訓(xùn)練大型模型時，需要大量的計算機(jī)算力。這種計算能力是罕見的，基本上個人難以獲得，只有那些財力雄厚的私有企業(yè)才能獲得。數(shù)據(jù)也是一樣，收集、存儲和注入數(shù)據(jù)是非常昂貴的。通常情況下，對這些數(shù)據(jù)的訪問，尤其是在涉及版權(quán)法的情況下，在很大程度上處于灰色地帶，我想說，這是一個很大的因素。這也是為什么對于許多的大型基礎(chǔ)模型，比如 GPT-4、Bard、PaLM-2，我們對這些數(shù)據(jù)到底是什么知之甚少。我想說獲取信息的合法性可能是其中一個很大的原因。

最后，勞動力在人工智能創(chuàng)造的各個方面都很重要。但我認(rèn)為，特別是在管理、數(shù)據(jù)標(biāo)注、分類、內(nèi)容審核方面，這是人工智能創(chuàng)造過程中勞動密集型的一個方面，經(jīng)常被忽視，其結(jié)構(gòu)往往非常殖民化，許多西方科技公司將大規(guī)模利用來自南半球的“廉價勞動力”來完成這項工作，通常要通過一些分包商來完成為了讓自己遠(yuǎn)離可能發(fā)生在員工身上的任何潛在傷害。

這些勞動力對這些系統(tǒng)的發(fā)展至關(guān)重要。事實上它是最基本的組成部分最后，在考慮人工智能的創(chuàng)造時，理解人工智能模型的發(fā)展脈絡(luò)，我們有基本模型，然后我們有在此基礎(chǔ)上建立并以某種形式進(jìn)行調(diào)整的模型，值得注意的是，隨著人工智能系統(tǒng)的發(fā)展，這種脈絡(luò)對于決定可以有什么樣的創(chuàng)新是極其重要的。基礎(chǔ)模型的開發(fā)提供了一個非常狹隘的概念，即可以從中實際進(jìn)化出什么，特別是與那些創(chuàng)建基礎(chǔ)模型的人相比，尤其是當(dāng)那些資源有限的人進(jìn)行開發(fā)時。所以對于這五件事，我認(rèn)為已經(jīng)有相當(dāng)多的研究確定了我們?nèi)绾卧u估各種類型的人工智能的開放性。

Solaiman 這篇論文提到了一個非常酷的，對大型語言模型進(jìn)行評估的開放性譜系。這實際上也在我之前引用的那篇論文中提到過。這是一個很好的想法，當(dāng)我們考慮到一個極度開放的人工智能模型，一個極度封閉的人工智能模型，然后介于兩者之間的是什么？我認(rèn)為這是可能存在的不同階段的一個很好的例子。

正如你可能看到的，在這些不同的階段，有各種各樣的優(yōu)缺點，更開放的模式，更以社區(qū)為中心，更容易進(jìn)行審計。但是它們對風(fēng)險的控制較少，也缺乏集中化的控制等等。因此，我想談?wù)勯_放的利弊。

我認(rèn)為，這是我們開始探索圍繞 AI 的新法規(guī)的話題的地方，以及我在開源社區(qū)中看到的大量游說，尤其是公司的代表。但某些法案肯定會像我說的那樣，討論或使用類似的觀點。所以總的來說，這里從論文中提取了主要觀點。但我認(rèn)為他很好地總結(jié)了關(guān)于開源人工智能的討論，以及我看到很多人提出的一些主張，因此我認(rèn)為值得在這里分享。

我猜很多人提出的第一個論點是，開放的人工智能通過透明度來確保安全。這有點像對開源軟件現(xiàn)有主張的修改，所謂：群眾的眼睛是雪亮的因為它是透明的，更多的人可以檢查它是如何工作的。更多的人可以審核代碼。特別是這些最大限度開放的人工智能系統(tǒng)，我們不僅可以訪問代碼，還可以訪問數(shù)據(jù)和文檔。越來越多的人可以做這種評估，因此安全就產(chǎn)生了。

但重要的是要明白，這種公開并不能保證審計。在我們現(xiàn)有的開源數(shù)字基礎(chǔ)設(shè)施中，這一點非常明顯，在關(guān)鍵的數(shù)字基礎(chǔ)設(shè)施中，我們看到這些漏洞在被發(fā)現(xiàn)之前已經(jīng)存在了很長時間，通常發(fā)現(xiàn)漏洞時的代價都已經(jīng)很高了這種審計需要專門的資源，當(dāng)你有分布式責(zé)任體系時，組織起來非常困難所以這是有安全隱患的。但特別是，由于許多人工智能法規(guī)要求開源行業(yè)內(nèi)的許多人進(jìn)行這種審計有點反對這種監(jiān)管。在我所見過的一些論述中有一點矛盾，不偏袒一方或另一方。

我看到的另一個論斷是，開放人工智能增加了不安全性，從某種意義上說，這是真的。發(fā)布基本模型的本質(zhì)，或者任何人們可以將其應(yīng)用于新環(huán)境的方法，而新的應(yīng)用方向可能是有害的，另一方面，這并不一定是維護(hù)純專有AI系統(tǒng)的好理由。我們已經(jīng)看到行業(yè)集中在人工智能公司之間造成了惡性競爭，引導(dǎo)他們發(fā)布商業(yè)模型在他們真正準(zhǔn)備好之前，在他們經(jīng)歷任何必要的審查或風(fēng)險緩解之前。

因此開放還是封閉，并不一定保證有任何審計系統(tǒng)有效的存在。所以重要的是要明白，無論是開放的還是封閉的，無論是開放的還是專有的，我們都需要考慮其他類型的保障措施。

這些責(zé)任體系中的保障措施，在很大程度上是我所看到的大部分?jǐn)M議法規(guī)試圖做的無論是在歐洲，還是在其他國家，比如中國，幾年來，它一直在監(jiān)管人工智能，制定了許多不同的法律。下一個是開放人工智能將降低行業(yè)集中度的說法。這是一件很自然的事情，如果你有開源軟件，開放產(chǎn)品，對很多人來說，拿現(xiàn)有的軟件的部分來用要容易得多開發(fā)新的創(chuàng)新，從而在市場上競爭。

這使得人們很難壟斷某些技術(shù)這通常與監(jiān)管系統(tǒng)的思考相結(jié)合，說更多的監(jiān)管只會傷害中小組織，因為你需要遵守更多的程序，或者獲得更多的融資，以確保你所做的是安全的，并遵守法規(guī)，在某種程度上，這是對的，但我們已經(jīng)看到了很多同質(zhì)化現(xiàn)象在當(dāng)前的 AI 環(huán)境中，以及當(dāng)前開放的 AI 環(huán)境中，由于嚴(yán)重依賴于少數(shù)幾款企業(yè)生產(chǎn)的機(jī)型，這種聯(lián)系確實影響了我們對人工智能產(chǎn)業(yè)競爭的看法。

我鼓勵那些對這一點持懷疑態(tài)度的人去閱讀梅瑞迪斯·惠特克的《捕獲的高昂代價》在這里的幻燈片中會有鏈接，大家可以看一看，我認(rèn)為他對此提出了一個很好的論點，不是要推翻這個論點，而是為了擴(kuò)大范圍如果你持懷疑態(tài)度，我建議你讀一讀。

最后一點是，開放的人工智能是創(chuàng)新的關(guān)鍵。從本質(zhì)上講，競爭加劇，人們越來越容易獲得各種不同的資源會讓更多的天才脫穎而出，并獲得他們創(chuàng)新所需的資源。是的，在某種程度上這可能是正確的，對吧?它當(dāng)然為人們提供了更多的獲取所需材料的途徑，并能創(chuàng)造更多創(chuàng)新的解決方案。但當(dāng)考慮開發(fā)這些大型模型的衍生品時，幾乎所有這些都是企業(yè)為人工智能所能提供的非常狹隘的想法而制作的。這嚴(yán)重影響了這種技術(shù)所產(chǎn)生的創(chuàng)新，對吧?在這些東西的衍生品中，總會有一種譜系。

在考慮基礎(chǔ)模型和基礎(chǔ)基礎(chǔ)設(shè)施的影響以及誰在創(chuàng)建它時，這影響著可以從中創(chuàng)建什么。這種創(chuàng)新不一定與初始激勵結(jié)構(gòu)有關(guān)，用于創(chuàng)建額外安全性的系統(tǒng)，或者賦予用戶權(quán)力等方面。所以我認(rèn)為，當(dāng)我們把“創(chuàng)新”這個詞用得如此寬泛時，可能會產(chǎn)生誤導(dǎo)。

我知道這是對一篇相當(dāng)長的論文的總結(jié)，但我希望這能提供更多的視角來思考開放人工智能的利弊以及我如何理解這個話題。

但是有幾點我想回顧一下這段歷史，并希望能提供更多的總結(jié)，說明我們可以從這里走向何方。第一件事是軟件在變化，不，軟件已經(jīng)改變了它極大地改變了我們與它的關(guān)系，我們與它互動的方式，以及我們控制它的方式。這些軟件系統(tǒng)同時影響許多人。它們不是離散的，對吧?我們對它們沒有這種個體控制。而且?guī)缀醪豢赡茉O(shè)想我們能夠有這種控制。在很大程度上，我會將其視為對開源社區(qū)的一種批評。我們還沒有很好地在討論和設(shè)想這一點上做得很好。

我認(rèn)為，在很多方面，我們都被資金雄厚的軟件開發(fā)公司所超越。有些人可能認(rèn)為這是好事，有些人可能認(rèn)為這是壞事。但如果有一件事我們已經(jīng)落后了，那就是認(rèn)識到軟件的這種變化形式以及我們與它的關(guān)系。正因為如此，開源對于不同的人來說仍然意味著許多不同的東西。

盡管我覺得我們不想這么說，盡管 OSI 定義“開源”這么長時間了，但現(xiàn)在可能比以往任何時候都更加模糊。我認(rèn)為把矛頭指向那些試圖借用這個詞并重新定義它的人，在某種程度上是公平的。但是我認(rèn)為開源做為一個圍繞軟件許可的法律化的定義，同時仍然把它作為一種討論開發(fā)方法論的方式。

對其他人來說，也可以用這個詞來描述這個詞產(chǎn)生的思想基礎(chǔ)。它比以往任何時候都更混亂，這使得我們?nèi)魏稳硕己茈y圍繞這些論點進(jìn)行組織。最后，也許這是我想提出的最重要的觀點之一，在討論和確定開源人工智能的價值時，重要的是要知道，開放的人工智能不是民主化的人工智能。

如果這篇論文中有什么是我想說的，它很清楚地表明開放可以在一定程度上提供透明性、可重用性和可擴(kuò)展性。即使在最開放的形式下，它也不一定是靈丹妙藥，但它沒有提供任何形式的民主控制，也沒有提供有意義的競爭。

所以當(dāng)我們想到開源人工智能和這次會議的價值時，我認(rèn)為我們中的許多人都在嘗試圍繞這個問題組織起來。開源并沒有提供這些東西，至少在我們目前的任何概念中都沒有。我認(rèn)為這非常重要，因為人工智能正在被應(yīng)用，或已經(jīng)在應(yīng)用中。當(dāng)我們想到這個規(guī)定和我們想象的各種影響時，我們甚至不需要運用我們的想象力。

我們看到人工智能系統(tǒng)被一些組織部署，產(chǎn)生了巨大的影響，并造成了巨大的傷害。我們看到人們的生計與這些系統(tǒng)聯(lián)系在一起一旦系統(tǒng)有任何失敗，人們的生計就會被剝奪。受這些影響的人幾乎沒有什么追索權(quán)這造成了巨大的傷害。所以我看到了很多關(guān)于開放價值的討論，我見過很多人用開放來代替道德或善良之類的。

我認(rèn)為在這個話題上，我們必須對自己嚴(yán)格要求，我認(rèn)為這是一個退一步思考的好機(jī)會。為什么這個話題一開始對我們?nèi)绱酥匾?，是什么樣的意識形態(tài)把我們拉進(jìn)了這個關(guān)于我們自己的話題，我們與我們所使用的技術(shù)的關(guān)系以及為什么它對我們?nèi)绱酥匾?/p>

我期待著聽到你們所有人的聲音。一如既往，如果有興趣，請隨時聯(lián)系我的郵箱，或者如果你有任何問題沒有被本次演講所涵蓋？感謝 OSI 提供演講機(jī)會。

Mike Nolan

Associate?Director?|?Open@RIT

作者丨Mike Nolan

翻譯丨李思穎

審校丨劉文濤

視頻丨陳玄

策劃丨李思穎、羅蕊艷

編輯丨鄧子宜

相關(guān)閱讀 | Related Reading

【Deep Dive: AI Webinar】預(yù)防生成式人工智能的風(fēng)險

【深入探討人工智能】網(wǎng)絡(luò)研討系列介紹

【探索 AI+開源的未來：Open Source Congress@日內(nèi)瓦】

開源人工智能定義草案

（https://opensource.org/deepdive/drafts/）

開源社簡介

開源社（英文名稱為“KAIYUANSHE”）成立于 2014 年，是由志愿貢獻(xiàn)于開源事業(yè)的個人志愿者，依 “貢獻(xiàn)、共識、共治” 原則所組成的開源社區(qū)。開源社始終維持 “廠商中立、公益、非營利” 的理念，以 “立足中國、貢獻(xiàn)全球，推動開源成為新時代的生活方式” 為愿景，以 “開源治理、國際接軌、社區(qū)發(fā)展、項目孵化” 為使命，旨在共創(chuàng)健康可持續(xù)發(fā)展的開源生態(tài)體系。

開源社積極與支持開源的社區(qū)、高校、企業(yè)以及政府相關(guān)單位緊密合作，同時也是全球開源協(xié)議認(rèn)證組織 - OSI 在中國的首個成員。

自2016年起連續(xù)舉辦中國開源年會（COSCon），持續(xù)發(fā)布《中國開源年度報告》，聯(lián)合發(fā)起了“中國開源先鋒榜”、“中國開源碼力榜”等，在海內(nèi)外產(chǎn)生了廣泛的影響力。

文章來源地址http://www.zghlxwxcb.cn/news/detail-796649.html