人工智能、機器學(xué)習(xí)和深度學(xué)習(xí)覆蓋的技術(shù)范疇是逐層遞減的,三者的關(guān)系:人工智能 > 機器學(xué)習(xí) > 深度學(xué)習(xí)。
- 人工智能(ArtificialIntelligence,AI)是最寬泛的概念,是研發(fā)用于模擬、延伸和擴展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)
- 機器學(xué)習(xí)(MachineLearning,ML)是當前比較有效的一種實現(xiàn)人工智能的方式。
- 深度學(xué)習(xí)(DeepLearning,DL)是機器學(xué)習(xí)算法中最熱門的一個分支,近些年取得了顯著的進展,并替代了大多數(shù)傳統(tǒng)機器學(xué)習(xí)算法。
機器學(xué)習(xí)
機器學(xué)習(xí)的實現(xiàn)可以分成兩步:訓(xùn)練 和 預(yù)測 ,類似于歸納和演繹:
- 歸納: 從具體案例中抽象一般規(guī)律,機器學(xué)習(xí)中的“訓(xùn)練”亦是如此。從一定數(shù)量的樣本(已知模型輸入X和模型輸出Y)中,學(xué)習(xí)輸出Y與輸入X的關(guān)系(可以想象成是某種表達式)。
- 演繹: 從一般規(guī)律推導(dǎo)出具體案例的結(jié)果,機器學(xué)習(xí)中的“預(yù)測”亦是如此?;谟?xùn)練得到的Y與X之間的關(guān)系,如出現(xiàn)新的輸入X,計算出輸出Y。通常情況下,如果通過模型計算的輸出和真實場景的輸出一致,則說明模型是有效的。
機器學(xué)習(xí)的過程中, 確定模型的三個關(guān)鍵要素:假設(shè)、評價、優(yōu)化。
牛頓第二定律:
- 假設(shè):通過觀察加速度a和作用力F的觀測數(shù)據(jù),假設(shè)a和F是線性關(guān)系,即a=w?F。
- 評價:對已知觀測數(shù)據(jù)上的擬合效果好,即 w?F計算的結(jié)果要和觀測的a盡量接近。
- 優(yōu)化:在參數(shù)w的所有可能取值中,發(fā)現(xiàn) w=1/m 可使得評價最好(最擬合觀測樣本)。
模型有效的基本條件是 能夠擬合已知的樣本
假設(shè)機器通過嘗試答對(最小化損失)大量的習(xí)題(已知樣本)來學(xué)習(xí)知識(模型參數(shù)w),并期望用學(xué)習(xí)到的知識所代表的模型 H(w,x),回答不知道答案的考試題(未知樣本)。最小化損失是模型的優(yōu)化目標,實現(xiàn)損失最小化的方法稱為優(yōu)化算法,也稱為尋解算法(找到使得損失函數(shù)最小的參數(shù)解)。參數(shù)w和輸入
x組成公式的基本結(jié)構(gòu)稱為假設(shè)。在牛頓第二定律的案例中,基于對數(shù)據(jù)的觀測,我們提出了線性假設(shè),即作用力和加速度是線性關(guān)系,用線性方程表示。由此可見,模型假設(shè)、評價函數(shù)(損失/優(yōu)化目標)和優(yōu)化算法是構(gòu)成模型的三個關(guān)鍵要素。
圖6:機器學(xué)習(xí)就是擬合一個“大公式”
深度學(xué)習(xí)
構(gòu)建神經(jīng)網(wǎng)絡(luò)/深度學(xué)習(xí)模型的基本步驟
要學(xué)習(xí)Pytorch,需要掌握以下基本知識:
- 編程語言:Pytorch使用Python作為主要編程語言,因此需要熟悉Python編程語言。
- 線性代數(shù)和微積分:Pytorch主要用于深度學(xué)習(xí)領(lǐng)域,深度學(xué)習(xí)是基于線性代數(shù)和微積分的,因此需要具備線性代數(shù)和微積分的基礎(chǔ)知識。
- 機器學(xué)習(xí)基礎(chǔ)知識:了解機器學(xué)習(xí)的基本概念和算法,如線性回歸、邏輯回歸、支持向量機、決策樹等。
- 深度學(xué)習(xí)基礎(chǔ)知識:了解深度學(xué)習(xí)的基本概念和算法,如前饋神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)等。
- 計算機視覺或自然語言處理等領(lǐng)域的基礎(chǔ)知識:Pytorch可以應(yīng)用于各種領(lǐng)域,比如計算機視覺和自然語言處理等,因此需要了解所涉及的領(lǐng)域的基本知識。
- Pytorch基礎(chǔ)知識:了解Pytorch的基本概念和操作,如張量、自動求導(dǎo)、模型定義、優(yōu)化器等。
- 實踐經(jīng)驗:通過實踐項目或者模型實現(xiàn)等方式加深對Pytorch的理解和應(yīng)用能力。
線性代數(shù)、微積分
線性代數(shù)和微積分都是必不可少的數(shù)學(xué)基礎(chǔ)知識
-
建議你先學(xué)線性代數(shù),因為線性代數(shù)是深度學(xué)習(xí)的基礎(chǔ),很多深度學(xué)習(xí)模型都是建立在線性代數(shù)的基礎(chǔ)上。線性代數(shù)的一些基本概念,如向量、矩陣、線性變換等,對于理解和實現(xiàn)深度學(xué)習(xí)模型非常重要
-
微積分也是非常重要的數(shù)學(xué)基礎(chǔ),它在深度學(xué)習(xí)中用于計算梯度和優(yōu)化,但是如果你剛開始學(xué)習(xí)深度學(xué)習(xí),建議你先掌握線性代數(shù)的基礎(chǔ)知識,再逐步學(xué)習(xí)微積分
推薦的經(jīng)典書籍(線性代數(shù)、微積分)
線性代數(shù):
- 《線性代數(shù)及其應(yīng)用》(Linear Algebra and Its Applications), Gilbert Strang 著
- 《線性代數(shù)導(dǎo)論》(Introduction to Linear Algebra), Gilbert Strang 著
- 《線性代數(shù)》(Linear Algebra), Serge Lang 著
- 《線性代數(shù)及其應(yīng)用》:這是一本線性代數(shù)領(lǐng)域的經(jīng)典教材,由美國加州大學(xué)洛杉磯分校的教授Gilbert Strang編寫,介紹了線性代數(shù)的基本概念、矩陣運算、向量空間、線性變換等。
- 《線性代數(shù)》:這是一本線性代數(shù)的入門教材,由北京大學(xué)的教授潘承志編寫,介紹了線性方程組、矩陣、向量、線性變換等基本概念,同時也包含一些高階的知識點,如特征值、特征向量等。
- 《線性代數(shù)》:這是一本比較全面的線性代數(shù)教材,由南開大學(xué)的教授郝宏偉編寫,介紹了線性代數(shù)的基本概念和方法,包括線性空間、矩陣、行列式、特征值、特征向量等。
- 《線性代數(shù)與群論》:這是一本比較深入的線性代數(shù)教材,由清華大學(xué)的教授龔昌平編寫,介紹了線性代數(shù)的基本概念和方法,同時也講解了線性代數(shù)與群論的關(guān)系,以及一些高級的應(yīng)用,如多項式矩陣等。
微積分:
- 《微積分學(xué)教程》(Calculus), Michael Spivak 著
- 《微積分學(xué):初等函數(shù)與極限》(Calculus: Early Transcendentals), James Stewart 著
- 《微積分學(xué)教程》(Calculus: A Complete Course), Robert A. Adams 和 Christopher Essex 著
- 《微積分學(xué)》:這是一本經(jīng)典的微積分教材,由美國哈佛大學(xué)的教授Michael Spivak編寫,介紹了微積分的基本概念、極限、連續(xù)、導(dǎo)數(shù)、積分等,并通過一系列例題和習(xí)題幫助讀者深入理解微積分的概念和應(yīng)用。
- 《微積分學(xué)教程》:這是一本比較全面的微積分教材,由北京大學(xué)的教授郭家寶編寫,介紹了微積分的基本概念、函數(shù)極限、連續(xù)性、導(dǎo)數(shù)、微分、積分等,并通過豐富的例題和習(xí)題幫助讀者加深對微積分知識的理解。
- 《微積分(上、下)》:這是一套比較系統(tǒng)的微積分教材,由清華大學(xué)的教授王立鵬編寫,介紹了微積分的基本概念、極限、導(dǎo)數(shù)、微分、積分等,并通過大量的例題和習(xí)題幫助讀者鞏固所學(xué)的知識。
- 《微積分學(xué)習(xí)指導(dǎo)與習(xí)題解答》:這是一本比較適合初學(xué)者的微積分教材,由上海交通大學(xué)的教授陳永昌編寫,介紹了微積分的基本概念、導(dǎo)數(shù)、微分、積分等,并通過詳細的解題步驟和技巧幫助讀者掌握微積分的知識和應(yīng)用。
以上書籍都是非常經(jīng)典的教材,內(nèi)容詳實且易于理解。此外,網(wǎng)上也有很多免費的線性代數(shù)和微積分課程資源,如MIT OCW等,可以根據(jù)自己的需求和興趣選擇適合自己的資源。
機器學(xué)習(xí)
學(xué)習(xí)機器學(xué)習(xí)需要一定的數(shù)學(xué)和編程基礎(chǔ),下面是一個簡單的學(xué)習(xí)計劃:
- 學(xué)習(xí)Python編程語言:Python是機器學(xué)習(xí)最常用的編程語言之一,需要熟練掌握Python的基本語法和常用的Python庫,如NumPy、Pandas和Matplotlib等。
- 學(xué)習(xí)數(shù)學(xué)基礎(chǔ):機器學(xué)習(xí)涉及到很多數(shù)學(xué)知識,尤其是線性代數(shù)、微積分和概率論??梢赃x擇上述推薦的書籍進行學(xué)習(xí),也可以參考網(wǎng)上的免費教程和視頻。
- 學(xué)習(xí)機器學(xué)習(xí)基礎(chǔ)理論:了解機器學(xué)習(xí)的基本概念和流程,如監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、訓(xùn)練集和測試集等。可以參考經(jīng)典的機器學(xué)習(xí)教材,如《機器學(xué)習(xí)》(周志華著)、《統(tǒng)計學(xué)習(xí)方法》(李航著)等。
- 學(xué)習(xí)機器學(xué)習(xí)算法:掌握機器學(xué)習(xí)中常用的算法,如線性回歸、邏輯回歸、決策樹、支持向量機和神經(jīng)網(wǎng)絡(luò)等??梢詤⒖冀?jīng)典的機器學(xué)習(xí)教材,如《機器學(xué)習(xí)實戰(zhàn)》(Peter Harrington著)、《Python機器學(xué)習(xí)基礎(chǔ)教程》(Sebastian Raschka著)等。
- 實踐項目:參與實際的機器學(xué)習(xí)項目,通過實踐鞏固學(xué)習(xí)成果。可以參加開源項目或者自己設(shè)計實現(xiàn)一個小項目。
- 持續(xù)學(xué)習(xí):機器學(xué)習(xí)是一個快速發(fā)展的領(lǐng)域,需要不斷學(xué)習(xí)最新的理論和技術(shù)??梢詤⒓泳€上或線下的機器學(xué)習(xí)課程,關(guān)注機器學(xué)習(xí)領(lǐng)域的最新進展。
推薦的經(jīng)典書箱
- 《機器學(xué)習(xí)》:這是一本機器學(xué)習(xí)領(lǐng)域的經(jīng)典教材,由加州大學(xué)伯克利分校的教授Tom Mitchell編寫,涵蓋了機器學(xué)習(xí)的基礎(chǔ)知識和高級技術(shù),包括監(jiān)督學(xué)習(xí)、非監(jiān)督學(xué)習(xí)、強化學(xué)習(xí)等。
- 《統(tǒng)計學(xué)習(xí)方法》:這是一本經(jīng)典的統(tǒng)計學(xué)習(xí)教材,由清華大學(xué)計算機科學(xué)與技術(shù)系的教授李航編寫,介紹了統(tǒng)計學(xué)習(xí)的基礎(chǔ)理論和常用方法,包括感知機、支持向量機、決策樹、隨機森林、樸素貝葉斯等。
- 《Python機器學(xué)習(xí)基礎(chǔ)教程》:這是一本適合初學(xué)者的機器學(xué)習(xí)教程,由美國加州大學(xué)歐文分校的教授Andreas Mueller和Sarah Guido編寫,介紹了使用Python實現(xiàn)機器學(xué)習(xí)的基礎(chǔ)知識和常用技術(shù),包括數(shù)據(jù)預(yù)處理、模型選擇、特征工程等。
- 《機器學(xué)習(xí)實戰(zhàn)》:這是一本實踐性很強的機器學(xué)習(xí)教材,由美國康奈爾大學(xué)的教授Peter Harrington編寫,通過一些實際案例來介紹機器學(xué)習(xí)的基礎(chǔ)知識和常用技術(shù),包括分類、聚類、回歸等。
- 《機器學(xué)習(xí)系統(tǒng)設(shè)計》:這是一本介紹機器學(xué)習(xí)系統(tǒng)設(shè)計的書籍,由美國加州大學(xué)伯克利分校的教授Richert Wang和Shanqing Cai編寫,介紹了機器學(xué)習(xí)系統(tǒng)設(shè)計的流程、技術(shù)和方法,包括數(shù)據(jù)預(yù)處理、模型構(gòu)建、模型評估等。
深度學(xué)習(xí)
深度學(xué)習(xí)是機器學(xué)習(xí)的分支之一,需要具備機器學(xué)習(xí)和數(shù)學(xué)基礎(chǔ)。以下是一個簡單的學(xué)習(xí)計劃及精典書籍:
- 學(xué)習(xí)Python編程語言:Python是機器學(xué)習(xí)最常用的編程語言之一,需要熟練掌握Python的基本語法和常用的Python庫,如NumPy、Pandas和Matplotlib等。
- 學(xué)習(xí)機器學(xué)習(xí)基礎(chǔ)理論:了解機器學(xué)習(xí)的基本概念和流程,如監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、訓(xùn)練集和測試集等??梢詤⒖冀?jīng)典的機器學(xué)習(xí)教材,如《機器學(xué)習(xí)》(周志華著)、《統(tǒng)計學(xué)習(xí)方法》(李航著)等。
- 學(xué)習(xí)深度學(xué)習(xí)基礎(chǔ)理論:了解深度學(xué)習(xí)的基本概念和流程,如人工神經(jīng)網(wǎng)絡(luò)、反向傳播算法、卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)等??梢詤⒖冀?jīng)典的深度學(xué)習(xí)教材,如《深度學(xué)習(xí)》(Ian Goodfellow、Yoshua Bengio和Aaron Courville著)、《神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)》(Michael Nielsen著)等。
- 學(xué)習(xí)深度學(xué)習(xí)框架:掌握深度學(xué)習(xí)常用的框架,如PyTorch、TensorFlow等??梢詤⒖脊俜轿臋n、教程和實戰(zhàn)項目進行學(xué)習(xí)。
- 實踐項目:參與實際的深度學(xué)習(xí)項目,通過實踐鞏固學(xué)習(xí)成果??梢詤⒓娱_源項目或者自己設(shè)計實現(xiàn)一個小項目。
- 持續(xù)學(xué)習(xí):深度學(xué)習(xí)是一個快速發(fā)展的領(lǐng)域,需要不斷學(xué)習(xí)最新的理論和技術(shù)??梢詤⒓泳€上或線下的深度學(xué)習(xí)課程,關(guān)注深度學(xué)習(xí)領(lǐng)域的最新進展。
推薦的經(jīng)典書籍:
- 《深度學(xué)習(xí)》(Deep Learning),Ian Goodfellow、Yoshua Bengio和Aaron Courville著
- 《神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)》(Neural Networks and Deep Learning),Michael Nielsen著
- 《Python深度學(xué)習(xí)》(Python Deep Learning),齋藤康毅著
- 《深度學(xué)習(xí)實戰(zhàn)》(Deep Learning with Python),F(xiàn)rancois Chollet著
- 《動手學(xué)深度學(xué)習(xí)》(Dive into Deep Learning),李沐、Aston Zhang等著
- 《深度學(xué)習(xí)入門:基于Python的理論與實現(xiàn)》:這是一本適合初學(xué)者的入門書籍,由日本深度學(xué)習(xí)研究者齋藤康毅編寫,書中使用Python語言講解深度學(xué)習(xí)的基礎(chǔ)知識和實現(xiàn)方法。
- 《深度學(xué)習(xí)》:這是一本深度學(xué)習(xí)領(lǐng)域的經(jīng)典教材,由加州大學(xué)伯克利分校的教授Ian Goodfellow等人編寫,涵蓋了深度學(xué)習(xí)的基礎(chǔ)知識和高級技術(shù),包括卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、生成模型等。
- 《Python深度學(xué)習(xí)》:這本書由Python深度學(xué)習(xí)框架Keras的作者Francois Chollet編寫,介紹了如何使用Keras實現(xiàn)深度學(xué)習(xí)模型,包括卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)等。
- 《深度學(xué)習(xí)之TensorFlow:入門、原理與進階》:這是一本由TensorFlow作者之一李沐編寫的書籍,涵蓋了TensorFlow的基礎(chǔ)知識和實現(xiàn)方法,包括卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)等。
- 《深度學(xué)習(xí)與計算機視覺實戰(zhàn)》:這是一本針對計算機視覺領(lǐng)域的深度學(xué)習(xí)應(yīng)用實戰(zhàn)書籍,由清華大學(xué)計算機視覺與模式識別研究組的教授李沐編寫,涵蓋了深度學(xué)習(xí)在圖像分類、目標檢測、圖像分割等領(lǐng)域的應(yīng)用。
有很多深度學(xué)習(xí)的優(yōu)秀老師開設(shè)了公開課,以下是一些比較受歡迎的老師及其公開課:
- 吳恩達 (Andrew Ng):吳恩達是深度學(xué)習(xí)領(lǐng)域的著名科學(xué)家和教育家,他的公開課包括《機器學(xué)習(xí)》、《深度學(xué)習(xí)》和《AI for Everyone》等。
- 李宏毅:李宏毅是臺灣大學(xué)計算機科學(xué)系的教授,他的公開課包括《機器學(xué)習(xí)》、《深度學(xué)習(xí)》和《生成式對抗網(wǎng)絡(luò)》等。
- 齋藤康毅:齋藤康毅是日本的一位深度學(xué)習(xí)研究者和科普作家,他的公開課包括《深度學(xué)習(xí)入門》和《深度學(xué)習(xí)進階》等。
- 谷歌機器學(xué)習(xí)工程師課程:由谷歌機器學(xué)習(xí)工程師主講的課程,包括《機器學(xué)習(xí)速成課程》和《深度學(xué)習(xí)課程》等。
- 斯坦福大學(xué)CS231n:由斯坦福大學(xué)計算機科學(xué)系主辦的深度學(xué)習(xí)課程,涵蓋了卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)等內(nèi)容。
以上是一些比較受歡迎的深度學(xué)習(xí)公開課老師和課程,建議選擇適合自己的老師和課程進行學(xué)習(xí)。
學(xué)習(xí) Pytorch 電腦需要什么樣的配置
最低要求:
- CPU:64位CPU,支持AVX指令集
- 內(nèi)存:4GB
- 顯卡:支持CUDA加速的NVIDIA GPU,建議使用Tesla、Quadro、GeForce GTX 10xx/16xx/20xx系列顯卡
- 硬盤:至少10GB的可用存儲空間
推薦配置:
- CPU:Intel Core i7或以上
- 內(nèi)存:16GB或以上
- 顯卡:NVIDIA Tesla V100或以上,至少11GB顯存
- 硬盤:NVMe SSD
需要注意的是,對于一些需要訓(xùn)練大型神經(jīng)網(wǎng)絡(luò)或使用超參數(shù)搜索的任務(wù),需要更高的內(nèi)存和顯存,以及更快的硬盤讀寫速度。此外,在使用PyTorch時,也需要安裝適當?shù)尿?qū)動程序和CUDA庫以支持GPU加速。文章來源:http://www.zghlxwxcb.cn/news/detail-423580.html
文章來源地址http://www.zghlxwxcb.cn/news/detail-423580.html
到了這里,關(guān)于AI人工智能 機器學(xué)習(xí) 深度學(xué)習(xí) 學(xué)習(xí)路徑及推薦書籍的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!