【數(shù)據(jù)挖掘知識分享】機器學習平臺——回歸算法簡介

回歸分析是最常用的統(tǒng)計學數(shù)值預測方法，它是在分析現(xiàn)象自變量和因變量之間相關關系的基礎上，建立變量之間的回歸方程，并將回歸方程作為預測模型，根據(jù)自變量在預測期的數(shù)量變化來預測因變量的值。

回歸分析主要解決以下幾個方面的問題：

1. 確定幾個特定的變量之間是否存在相關關系, 如果存在的話, 找出它們之間合適的數(shù)學表達式。
2. 根據(jù)一個或幾個變量的值, 預測或控制另一個變量的取值, 并且可以知道這種預測或控制能達到什么樣的精確度。
3. 進行因素分析。例如在對于共同影響一個變量的許多變量(因素)之間，找出哪些是重要因素，哪些是次要因素，這些因素之間又有什么關系等等。

回歸分析有很廣泛的應用, 例如實驗數(shù)據(jù)的一般處理, 經(jīng)驗公式的求得, 因素分析, 產(chǎn)品質量的控制, 氣象及地震預報, 自動控制中數(shù)學模型的制定等等。多元回歸分析是研究多個變量之間關系的回歸分析方法，按因變量和自變量的數(shù)量對應關系可劃分為一個因變量對多個自變量的回歸分析（簡稱為“一對多”回歸分析）及多個因變量對多個自變量的回歸分析（簡稱為“多對多”回歸分析），按回歸模型類型可劃分為線性回歸分析和非線性回歸分析。

回歸結果一般用預測誤差來度量，常用的誤差有：

?均方誤差

?均方根誤差

?解釋方差

?平均絕對誤差

?R-平方系數(shù)

常見的回歸算法⇒線性回歸

⇒邏輯回歸

⇒多項式回歸

⇒逐步回歸

⇒嶺回歸

⇒套索回歸

⇒ElasticNet回歸

Tempo機器學習平臺內(nèi)集成的回歸方法包括線性回歸，決策樹回歸，隨機森林回歸，KNN回歸，支持向量機回歸等。

后續(xù)我們將會針對每個回歸算法做詳細的解釋。