在大數(shù)據(jù)時(shí)代，數(shù)據(jù)挖掘是最關(guān)鍵的工作。大數(shù)據(jù)的挖掘是從海量、不完全的、有噪聲的、模糊的、隨機(jī)的大型數(shù)據(jù)庫(kù)中發(fā)現(xiàn)隱含在其中有價(jià)值的、潛在有用的信息和知識(shí)的過程，也是一種決策支持過程。其主要基于人工智能，機(jī)器學(xué)習(xí)，模式學(xué)習(xí)，統(tǒng)計(jì)學(xué)等。通過對(duì)大數(shù)據(jù)高度自動(dòng)化地分析，做出歸納性的推理，從中挖掘出潛在的模式，可以幫助企業(yè)、商家、用戶調(diào)整市場(chǎng)政策、減少風(fēng)險(xiǎn)、理性面對(duì)市場(chǎng)，并做出正確的決策。目前，在很多領(lǐng)域尤其是在商業(yè)領(lǐng)域如銀行、電信、電商等，數(shù)據(jù)挖掘可以解決很多問題，包括市場(chǎng)營(yíng)銷策略制定、背景分析、企業(yè)管理危機(jī)等。大數(shù)據(jù)的挖掘常用的方法有分類、回歸分析、聚類、關(guān)聯(lián)規(guī)則、神經(jīng)網(wǎng)絡(luò)方法、Web 數(shù)據(jù)挖掘等。這些方法從不同的角度對(duì)數(shù)據(jù)進(jìn)行挖掘。

數(shù)據(jù)準(zhǔn)備的重要性：沒有高質(zhì)量的挖掘結(jié)果，數(shù)據(jù)準(zhǔn)備工作占用的時(shí)間往往在60%以上。

(1)分類

分類是找出數(shù)據(jù)庫(kù)中的一組數(shù)據(jù)對(duì)象的共同特點(diǎn)并按照分類模式將其劃分為不同的類，其目的是通過分類模型，將數(shù)據(jù)庫(kù)中的數(shù)據(jù)項(xiàng)映射到摸個(gè)給定的類別中。可以應(yīng)用到涉及到應(yīng)用分類、趨勢(shì)預(yù)測(cè)中，如淘寶商鋪將用戶在一段時(shí)間內(nèi)的購(gòu)買情況劃分成不同的類，根據(jù)情況向用戶推薦關(guān)聯(lián)類的商品，從而增加商鋪的銷售量。

分類的方法：決策樹——是最流行的分類方法

特點(diǎn)：

a、它的每次劃分都是基于最顯著的特征的；

b、所分析的數(shù)據(jù)樣本被稱作樹根，算法從所有特征中選出一個(gè)最重要的，用這個(gè)特征把樣本分割成若干子集；

c、重復(fù)這個(gè)過程，直到所有的分支下面的實(shí)例都是“純”的，即子集中各個(gè)實(shí)例都屬于同一個(gè)類別，這樣的分支即可確定為一個(gè)葉子節(jié)點(diǎn)。在所有子集變成“純”的之后，樹就停止生長(zhǎng)了。

決策樹的剪枝：

a、如果決策樹建的過深，容易導(dǎo)致過度擬合問題（即所有的分類結(jié)果數(shù)量基本一樣，沒有代表性）；

b、剪枝通常采用自上而下的方式。每次找出訓(xùn)練數(shù)據(jù)中對(duì)預(yù)測(cè)精度貢獻(xiàn)最小的那個(gè)分支，剪掉它；

c、簡(jiǎn)言之，先讓決策樹瘋狂生長(zhǎng)，然后再慢慢往回收縮。整體上往回收縮多少，要根據(jù)在測(cè)試集上的表現(xiàn)來反復(fù)嘗試。

(2)回歸分析

回歸分析反映了數(shù)據(jù)庫(kù)中數(shù)據(jù)的屬性值的特性，通過函數(shù)表達(dá)數(shù)據(jù)映射的關(guān)系來發(fā)現(xiàn)屬性值之間的依賴關(guān)系。它可以應(yīng)用到對(duì)數(shù)據(jù)序列的預(yù)測(cè)及相關(guān)關(guān)系的研究中去。在市場(chǎng)營(yíng)銷中，回歸分析可以被應(yīng)用到各個(gè)方面。如通過對(duì)本季度銷售的回歸分析，對(duì)下一季度的銷售趨勢(shì)作出預(yù)測(cè)并做出針對(duì)性的營(yíng)銷改變。

分類的方法：邏輯回歸——是一種常用的分類方法，非常成熟，應(yīng)用非常廣泛　　　　

特點(diǎn)：

a、回歸不只可以用于分類，也能用于發(fā)現(xiàn)變量間的因果關(guān)系；

b、最主要的回歸模型有多元線性回歸和邏輯回歸；

c、有些時(shí)候邏輯回歸不被當(dāng)作典型的數(shù)據(jù)挖掘算法。

邏輯回歸的步驟：

a、先訓(xùn)練，目的是找到分類效果最佳的回歸系數(shù)；

b、然后使用訓(xùn)練得到的一組回歸系數(shù)，對(duì)輸入的數(shù)據(jù)進(jìn)行計(jì)算，判定它們所屬的類別

邏輯回歸模型的檢驗(yàn)：

由于希望模型中的輸入變量與目標(biāo)變量之間的關(guān)系足夠強(qiáng)，為此需要做兩個(gè)診斷：

a、對(duì)模型整體的檢驗(yàn)——R2，即全部輸入變量能夠解釋目標(biāo)變量變異性的百分之多少。R2越大，說明模型擬合得越好；如果R2太小，則模型不可用于預(yù)測(cè)。

b、回歸系數(shù)的顯著性（p-value），如果某個(gè)輸入變量對(duì)目標(biāo)變量的作用p-value小于0.05，則可以認(rèn)為該輸入變量具有顯著作用。對(duì)不顯著的輸入變量可以考慮從模型中去掉。

決策樹與邏輯回歸的比較：

1、決策樹由于采用分割的方法，所以能夠深入數(shù)據(jù)細(xì)部，但同時(shí)失去了對(duì)全局的把握。一個(gè)分支一旦形成，它和別的分支或節(jié)點(diǎn)的關(guān)系就被切斷，以后的挖掘只能在局部中行；

2、邏輯回歸始終著眼于整數(shù)數(shù)據(jù)的擬合，所以對(duì)全局模式把握較好；

3、決策樹比較容易上手，需要的數(shù)據(jù)預(yù)處理較少；

4、邏輯回歸模型不能處理缺失值，而且對(duì)異常值敏感。因此回歸之前應(yīng)該處理缺失值，并盡量刪除異常值

分類和回歸分析被稱為有監(jiān)督學(xué)習(xí)：

1、有標(biāo)識(shí)；

2、通過模仿做出正確分類的已有數(shù)據(jù)，從而能夠?qū)π碌臄?shù)據(jù)做出比較準(zhǔn)確的分類。這就像教小孩學(xué)習(xí)一樣。

(3)聚類

聚類類似于分類，但與分類的目的不同，是針對(duì)數(shù)據(jù)的相似性和差異性將一組數(shù)據(jù)分為幾個(gè)類別。屬于同一類別的數(shù)據(jù)間的相似性很大，但不同類別之間數(shù)據(jù)的相似性很小，跨類的數(shù)據(jù)關(guān)聯(lián)性很低。

(4)關(guān)聯(lián)規(guī)則

關(guān)聯(lián)規(guī)則是隱藏在數(shù)據(jù)項(xiàng)之間的關(guān)聯(lián)或相互關(guān)系，即可以根據(jù)一個(gè)數(shù)據(jù)項(xiàng)的出現(xiàn)推導(dǎo)出其他數(shù)據(jù)項(xiàng)的出現(xiàn)。關(guān)聯(lián)規(guī)則的挖掘過程主要包括兩個(gè)階段：第一階段為從海量原始數(shù)據(jù)中找出所有的高頻項(xiàng)目組;第二階段為從這些高頻項(xiàng)目組產(chǎn)生關(guān)聯(lián)規(guī)則。關(guān)聯(lián)規(guī)則挖掘技術(shù)已經(jīng)被廣泛應(yīng)用于金融行業(yè)企業(yè)中用以預(yù)測(cè)客戶的需求，各銀行在自己的ATM 機(jī)上通過捆綁客戶可能感興趣的信息供用戶了解并獲取相應(yīng)信息來改善自身的營(yíng)銷。

聚類和關(guān)聯(lián)規(guī)則被稱為無監(jiān)督學(xué)習(xí)：

1、無標(biāo)識(shí)；

2、聚類：針對(duì)客戶特征進(jìn)行客戶群劃分。由此，我們可以對(duì)不同客戶群采取差異化的促銷方式；

3、關(guān)聯(lián)規(guī)則：分析發(fā)現(xiàn)購(gòu)買面包的顧客中有很大比例的人同時(shí)購(gòu)買牛奶，由此我們可以將牛奶與面包放在同一個(gè)地方。

(5)神經(jīng)網(wǎng)絡(luò)方法

神經(jīng)網(wǎng)絡(luò)作為一種先進(jìn)的人工智能技術(shù)，因其自身自行處理、分布存儲(chǔ)和高度容錯(cuò)等特性非常適合處理非線性的以及那些以模糊、不完整、不嚴(yán)密的知識(shí)或數(shù)據(jù)為特征的處理問題，它的這一特點(diǎn)十分適合解決數(shù)據(jù)挖掘的問題。典型的神經(jīng)網(wǎng)絡(luò)模型主要分為三大類：第一類是以用于分類預(yù)測(cè)和模式識(shí)別的前饋式神經(jīng)網(wǎng)絡(luò)模型，其主要代表為函數(shù)型網(wǎng)絡(luò)、感知機(jī);第二類是用于聯(lián)想記憶和優(yōu)化算法的反饋式神經(jīng)網(wǎng)絡(luò)模型，以Hopfield 的離散模型和連續(xù)模型為代表。第三類是用于聚類的自組織映射方法，以ART 模型為代表。雖然神經(jīng)網(wǎng)絡(luò)有多種模型及算法，但在特定領(lǐng)域的數(shù)據(jù)挖掘中使用何種模型及算法并沒有統(tǒng)一的規(guī)則，而且人們很難理解網(wǎng)絡(luò)的學(xué)習(xí)及決策過程。

(6)Web數(shù)據(jù)挖掘

Web數(shù)據(jù)挖掘是一項(xiàng)綜合性技術(shù)，指Web 從文檔結(jié)構(gòu)和使用的集合C 中發(fā)現(xiàn)隱含的模式P，如果將C看做是輸入，P 看做是輸出，那么Web 挖掘過程就可以看做是從輸入到輸出的一個(gè)映射過程。

當(dāng)前越來越多的Web 數(shù)據(jù)都是以數(shù)據(jù)流的形式出現(xiàn)的，因此對(duì)Web 數(shù)據(jù)流挖掘就具有很重要的意義。目前常用的Web數(shù)據(jù)挖掘算法有：PageRank算法，HITS算法以及LOGSOM 算法。這三種算法提到的用戶都是籠統(tǒng)的用戶，并沒有區(qū)分用戶的個(gè)體。目前Web 數(shù)據(jù)挖掘面臨著一些問題，包括：用戶的分類問題、網(wǎng)站內(nèi)容時(shí)效性問題，用戶在頁面停留時(shí)間問題，頁面的鏈入與鏈出數(shù)問題等。在Web 技術(shù)高速發(fā)展的今天，這些問題仍舊值得研究并加以解決。文章來源地址http://www.zghlxwxcb.cn/news/detail-484589.html

到了這里，關(guān)于大數(shù)據(jù)的常用算法（分類、回歸分析、聚類、關(guān)聯(lián)規(guī)則、神經(jīng)網(wǎng)絡(luò)方法、web數(shù)據(jù)挖掘）的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！