文章來源地址http://www.zghlxwxcb.cn/news/detail-803964.html
1.?多層神經(jīng)網(wǎng)絡(luò)
1.1.?這一被明斯基和佩珀特所摒棄的、認(rèn)為很有可能“不育的”帶有擴展層的感知機,事實證明反而成了現(xiàn)代人工智能的基礎(chǔ)
1.2.?網(wǎng)絡(luò)是以多種方式相互連接的一組元素的集合
1.2.1.?社交網(wǎng)絡(luò)的元素是人
1.2.2.?計算機網(wǎng)絡(luò)中的元素自然是計算機
1.3.?隱藏單元
1.3.1.?表示的是一個非輸出單元
1.3.2.?稱之為“內(nèi)部單元”(interior unit)可能更好
1.3.3.?每個隱藏單元與每個輸出單元之間都有一個加權(quán)連接
1.4.?多層神經(jīng)網(wǎng)絡(luò),因為它包含兩層結(jié)構(gòu),即一個隱藏層和一個輸出層,而非僅有一個輸出層
1.5.?多層神經(jīng)網(wǎng)絡(luò)可以有多層隱藏單元,具有多于一層隱藏單元的網(wǎng)絡(luò)被稱為“深度網(wǎng)絡(luò)”(deep networks)
1.5.1.?對幾乎所有的這些公司來說,人工智能基本上等同于深度學(xué)習(xí)
1.5.2.?網(wǎng)絡(luò)的深度就是其隱藏層的數(shù)量
1.6.?多層神經(jīng)網(wǎng)絡(luò)中的每個單元將它的每個輸入乘以其權(quán)重并求和
1.6.1.?與感知機不同的是,這里的每個單元并不是簡單地基于閾值來判斷是“激活”還是“不激活”(輸出1或0)
1.6.2.?使用它求得的和來計算一個0~1之間的數(shù),稱為激活值
1.6.3.?如果一個單元計算出的和很小,則該單元的激活值接近0
1.6.4.?如果計算出的和很高,則激活值接近1
1.6.5.?具有最高置信度的數(shù)字類別被認(rèn)為是它的答案
1.6.5.1.?它給出的分類
1.7.?多層神經(jīng)網(wǎng)絡(luò)能夠?qū)W會使用其隱藏單元來識別更為抽象的特征
1.7.1.?一個手寫的8的上半部分和下半部分這種形狀
1.7.2.?它要比像素這種簡單特征抽象得多
1.8.?很難提前知道,對于一個給定的任務(wù),一個神經(jīng)網(wǎng)絡(luò)到底需要多少層隱藏單元,以及一個隱藏層中應(yīng)該包含多少個隱藏單元才會表現(xiàn)更好,大多數(shù)神經(jīng)網(wǎng)絡(luò)研究人員采用試錯的方式來尋找最佳設(shè)置
1.9.?神經(jīng)網(wǎng)絡(luò)不僅可以被應(yīng)用于圖像,也可以被應(yīng)用于任何領(lǐng)域、任何類型的數(shù)據(jù),如語音識別、股市預(yù)測、語言翻譯和音樂創(chuàng)作等
1.10.?貓識別機
1.10.1.?2012年,谷歌的一個人工智能團隊構(gòu)建了一個“觀看”了數(shù)百萬個隨機YouTube視頻的多層神經(jīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)具有超過10億個權(quán)重,并且能夠為了成功地壓縮并解壓視頻中選定的幀而對這些權(quán)重進行調(diào)整
1.10.1.1.?谷歌的研究人員并沒有告訴系統(tǒng)要去學(xué)習(xí)任何特定的對象
1.10.1.2.?經(jīng)過一星期的訓(xùn)練之后一個似乎能夠識別貓的神經(jīng)元(單元)
1.10.2.?這臺自學(xué)成才的“貓識別機”是過去10年中引起公眾關(guān)注的一系列人工智能成就之一
1.10.2.1.?這些成就大多歸功于被統(tǒng)稱為深度學(xué)習(xí)的一系列神經(jīng)網(wǎng)絡(luò)算法
2.?反向傳播
2.1.?到了70年代末和80年代初,這些研究小組中的一些人開發(fā)了一種名為“反向傳播”(back-propagation)的通用學(xué)習(xí)算法來對網(wǎng)絡(luò)進行訓(xùn)練
2.1.1.?有力地駁斥了明斯基和佩珀特對于多層神經(jīng)網(wǎng)絡(luò)“不育性”的猜測
2.2.?反向傳播算法是一種對輸出端觀察到的錯誤進行反向罪責(zé)傳播,從而為網(wǎng)絡(luò)中的每個權(quán)重都分配恰當(dāng)罪責(zé)的方法
2.2.1.?反向罪責(zé)傳播是指,從右向左追溯罪責(zé)源頭
2.2.2.?這使得神經(jīng)網(wǎng)絡(luò)能夠確定為減少錯誤應(yīng)該對每個權(quán)重修改多少
2.2.3.?神經(jīng)網(wǎng)絡(luò)中所謂的學(xué)習(xí)就是逐步修改連接的權(quán)重,從而使得每個輸出在所有訓(xùn)練樣本上的錯誤都盡可能接近于零
2.2.4.?無論神經(jīng)網(wǎng)絡(luò)有多少個輸入單元、隱藏單元和輸出單元,反向傳播都能行得通,至少原則上如此
2.3.?反向傳播算法在許多對于簡單感知機來說很難的任務(wù)上都表現(xiàn)得非常好
3.?聯(lián)結(jié)主義
3.1.?智能的關(guān)鍵在于構(gòu)建一個合適的計算結(jié)構(gòu)
3.2.?“聯(lián)結(jié)主義”(connectionist)
3.2.1.?這些網(wǎng)絡(luò)上的知識存在于單元之間的加權(quán)連接中
3.3.?到20世紀(jì)80年代中期,依賴人類創(chuàng)建并反映特定領(lǐng)域?qū)<抑R規(guī)則的符號人工智能方法——專家系統(tǒng),越來越暴露出自身的脆弱性
3.3.1.?容易出錯,且在面對新情況時往往無法進行一般化或適應(yīng)性的處理
3.4.?在分析這些系統(tǒng)的局限性時,研究人員發(fā)現(xiàn),編寫規(guī)則的人類專家實際上或多或少依賴于潛意識中的知識(常識)以便明智地行動
4.?亞符號系統(tǒng)的本質(zhì)
4.1.?符號系統(tǒng)可以由人類設(shè)計,被輸入人類知識,并使用人類可理解的邏輯推理來解決問題
4.1.1.?為了與符號人工智能區(qū)分開來,機器學(xué)習(xí)成了人工智能領(lǐng)域一個獨立的分支學(xué)科
4.2.?亞符號系統(tǒng)往往難以闡釋,并且沒人知道如何直接將復(fù)雜的人類知識和邏輯編碼到這些系統(tǒng)中
4.3.?亞符號系統(tǒng)似乎更適合那些人類難以定義其中規(guī)則的感知任務(wù)
4.3.1.?你很難寫出能夠完成識別手寫數(shù)字、接住棒球或識別你母親聲音等任務(wù)的規(guī)則
4.3.2.?你基本上是連下意識的思考都沒有經(jīng)過就自動完成了這些事情
4.3.3.?不擅長邏輯,擅長接飛盤
4.4.?完全可以用符號系統(tǒng)來完成類似于語言描述和邏輯推理的高級任務(wù)
4.5.?用亞符號系統(tǒng)來完成諸如識別人臉和聲音這樣的低級感知任務(wù)
4.6.?這兩個領(lǐng)域之間幾乎沒有任何聯(lián)系
4.6.1.?兩種方法都曾在其各自細(xì)分的領(lǐng)域里獲得了重要的成功
4.6.2.?對于實現(xiàn)人工智能的最初目標(biāo)還有很大的局限性
4.6.3.?盡管已經(jīng)有一些融合符號和亞符號系統(tǒng)來構(gòu)建混合系統(tǒng)的嘗試,但至今還未取得任何顯著的成功
5.?諷刺
5.1.?當(dāng)IBM的深藍(lán)系統(tǒng)在1997年擊敗國際象棋世界冠軍加里·卡斯帕羅夫時卡斯帕羅夫極其震驚,以至于他指控IBM的團隊作弊
5.2.?在2006年世界象棋錦標(biāo)賽中,局面發(fā)生了逆轉(zhuǎn),有一名棋手指控另一名棋手通過接受計算機象棋程序的幫助作弊
5.3.?一旦它開始奏效,就沒人再稱它為人工智能了。
5.3.1.?麥卡錫
5.3.2.?當(dāng)計算機在某一特定任務(wù)上超越人類時,我們就得出結(jié)論,該任務(wù)實際上并不需要智能
5.3.3.?我們接受了國際象棋是可以屈服于暴力搜索機器的,我們認(rèn)為下棋下得好一點都不需要通用智能
5.4.?YouTube開始為視頻提供相當(dāng)精確的自動字幕
5.5.?即時通信軟件Skype則可在多語言的視頻通話中提供同聲傳譯
5.6.?Facebook甚至可以在上傳的照片中識別出你的臉了
5.7.?照片分享網(wǎng)站Flickr也開始用描述照片內(nèi)容的文字來對圖片進行自動標(biāo)注了
5.8.?AlphaGo的程序在5局比賽的4局里擊敗了世界上最好的棋手之一
5.8.1.?AlphaGo可能是世界上最好的圍棋玩家,但除此之外什么也做不了,它甚至不會玩跳棋、井字棋等游戲
5.9.?谷歌翻譯可以把英文的影評翻譯成中文,但它無法告訴你影評者是否喜歡這部電影,更不用說讓它自己來觀看和評論電影了
5.10.?“狹義”和“弱”人工智能往往是與“強”“人類水平”“通用”或“全面”人工智能(有時候也被稱作AGI,即通用人工智能)對比而言
5.11.?通用人工智能是人工智能領(lǐng)域研究最初的目標(biāo),但后來研究者發(fā)現(xiàn)實現(xiàn)這一目標(biāo)比預(yù)期要困難得多
5.12.?要困難得多。隨著時間的推移,人工智能領(lǐng)域的工作開始聚焦于特定的、定義明確的任務(wù),如語音識別、下棋、自動駕駛等
5.13.?創(chuàng)造能執(zhí)行這些功能的機器很有用并且往往利潤豐厚,可以說這些任務(wù)中的任何一個都需要某種具體的智能
5.14.?至今人們還沒有創(chuàng)建出任何能夠在通用意義上被稱為“智能”的人工智能程序
6.?思考
6.1.?人工智能是在模擬思考,還是真的在思考
6.2.?從神學(xué)角度看,思考是人類不朽之靈魂的一種功能,上帝賦予了每個人不朽的靈魂,但并沒有將其賦予其他任何動物或機器,因此沒有動物或機器能夠進行思考
6.3.?從超心理學(xué)角度看,人類可以使用心靈感應(yīng)進行交流,而機器不能
6.4.?圖靈認(rèn)為后面這個論點是“非常強大的”,因為至少對于心靈感應(yīng)來說,統(tǒng)計證據(jù)是無法辯駁的
6.5.?只有當(dāng)一臺機器能“感受”事物,并知道自己的行為和感覺,即具有意識時,我們才能認(rèn)為它是真正在思考
6.5.1.?沒有一臺機器能夠做到這點,因此,沒有一臺機器能夠真正地思考
6.6.?多年來,圖靈測試已上演過多次,其中計算機參賽者是聊天機器人,即專門用來進行對話的程序,其他任何事情它們都不會做
6.7.?至少可以在計算機中運用大腦的基本原理并復(fù)制其智能
6.7.1.?這種逆向工程是一種實用的、短期內(nèi)能實現(xiàn)的創(chuàng)造人類水平的人工智能的方法
6.8.?提供一項教育可能需要花費很多年的時間
6.8.1.?一旦人工智能掌握了人類基本的語言技能,它將能通過快速閱讀所有的人類文獻(xiàn)以及吸收數(shù)百萬網(wǎng)站上的開源知識,來擴展自己的語言技能和通用知識
6.9.?人類學(xué)習(xí)的根本模式是經(jīng)驗性的
6.9.1.?關(guān)于經(jīng)驗的知識,在很大程度上是隱性的,也就是說,這些知識從來不被直接和明確地表達(dá),那就無法從書本中找到
文章來源:http://www.zghlxwxcb.cn/news/detail-803964.html
到了這里,關(guān)于讀AI3.0筆記03_神經(jīng)網(wǎng)絡(luò)的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!