一，什么是決策樹
所謂決策樹，顧名思義，是一種樹，一種依托于策略抉擇而建立起來的樹。機器學習中，決策樹是一個預測模型；它代表的是對象屬性與對象值之間的一種映射關(guān)系。樹中每個節(jié)點表示某個對象，而每個分叉路徑則代表的是某個可能的屬性值，而每個葉子節(jié)點則對應根節(jié)點到該葉子節(jié)點所經(jīng)歷的路徑所表示的對象的值。決策樹僅有單一輸出，若欲有復數(shù)輸出，可以建立獨立的決策樹以處理不同的輸出。
? ? ? ? ?從數(shù)據(jù)產(chǎn)生決策樹的機器學習技術(shù)叫做決策樹學習，通俗點就是決策樹，是一種依托于分類、訓練上的預測樹，根據(jù)已知預測、歸類未來。
?
二，ID3算法
? ?ID3算法是一個由RossQuinlan發(fā)明的用于決策樹的算法。這個算法便是建立在奧卡姆剃刀的基礎上：越是小型的決策樹越優(yōu)于大的決策樹。盡管如此，該算法也不是總是生成最小的樹形結(jié)構(gòu)，而是一個啟發(fā)式算法。
? ? ? ? ?湯姆米歇爾《機器學習》中對ID3算法的描述：
? ? ? ? ?ID3算法思想描述：
1) ? ? ? ? ? ? ? ?對當前例子集合，計算屬性的信息增益；
2) ? ? ? ? ? ? ? ?選擇信息增益大的屬性A
3) ? ? ? ? ? ? ? ?把在A處取值相同的例子歸于同意子集，A取幾個值就得幾個子集
4) ? ? ? ? ? ? ? ?依次對每種取值情況下的子集，返回1）遞歸調(diào)用建樹算法，
5) ? ? ? ? ? ? ? ?若子集中只含有單個屬性，則分支為葉子節(jié)點，判斷其屬性值并標上相應的符號，然后返回調(diào)用處。
?
三，通過案例理解決策
| 頭發(fā) | 聲音 | 性別 |
| 長 | 粗 | 男 |
| 短文章來源：http://www.zghlxwxcb.cn/news/detail-776791.html |
粗 | 男 |
| 短 | 粗 | 男 |
| 長 | 細 | 女 |
| 短 | 細 | 女 |
| 短 | 粗 | 女 |
| 長 | 粗 | 女 |
| 長 | 粗 | 女 |
此案例有兩種判斷方法
一是先按頭發(fā)長短判斷，再按聲音粗細判斷，判斷過程如下圖文章來源地址http://www.zghlxwxcb.cn/news/detail-776791.html
到了這里，關(guān)于決策樹——ID3算法的文章就介紹完了。如果您還想了解更多內(nèi)容，請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
