正文

邏輯回歸屬于分類算法嗎（邏輯回歸屬于分類算法嗎）

發(fā)布時(shí)間：2023-04-21 21:00:42 稿源：創(chuàng)意嶺閱讀： 84

大家好！今天讓創(chuàng)意嶺的小編來大家介紹下關(guān)于邏輯回歸屬于分類算法嗎的問題，以下是小編對(duì)此問題的歸納整理，讓我們一起來看看吧。

開始之前先推薦一個(gè)非常厲害的Ai人工智能工具，一鍵生成原創(chuàng)文章、方案、文案、工作計(jì)劃、工作報(bào)告、論文、代碼、作文、做題和對(duì)話答疑等等

只需要輸入關(guān)鍵詞，就能返回你想要的內(nèi)容，越精準(zhǔn)，寫出的就越詳細(xì)，有微信小程序端、在線網(wǎng)頁版、PC客戶端

官網(wǎng)：https://ai.de1919.com。

創(chuàng)意嶺作為行業(yè)內(nèi)優(yōu)秀的企業(yè)，服務(wù)客戶遍布全球各地，如需了解SEO相關(guān)業(yè)務(wù)請(qǐng)撥打電話175-8598-2043，或添加微信：1454722008

本文目錄:

1、機(jī)器學(xué)習(xí)常見算法優(yōu)缺點(diǎn)之邏輯回歸
2、邏輯回歸適用于什么樣的分類問題
3、機(jī)器學(xué)習(xí)是大數(shù)據(jù)分布式存儲(chǔ)技術(shù)嗎
4、用于數(shù)據(jù)挖掘的分類算法有哪些，各有何優(yōu)劣

邏輯回歸屬于分類算法嗎（邏輯回歸屬于分類算法嗎）

一、機(jī)器學(xué)習(xí)常見算法優(yōu)缺點(diǎn)之邏輯回歸

我們?cè)趯W(xué)習(xí)機(jī)器學(xué)習(xí)的時(shí)候自然會(huì)涉及到很多算法，而這些算法都是能夠幫助我們處理更多的問題。其中，邏輯回歸是機(jī)器學(xué)習(xí)中一個(gè)常見的算法，在這篇文章中我們給大家介紹一下關(guān)于邏輯回歸的優(yōu)缺點(diǎn)，大家有興趣的一定要好好閱讀喲。

首先我們給大家介紹一下邏輯回歸的相關(guān)知識(shí)，邏輯回歸的英文就是Logistic Regression。一般來說，邏輯回歸屬于判別式模型，同時(shí)伴有很多模型正則化的方法，具體有L0， L1，L2，etc等等，當(dāng)然我們沒有必要像在用樸素貝葉斯那樣擔(dān)心我的特征是否相關(guān)。這種算法與決策樹、SVM相比，我們還會(huì)得到一個(gè)不錯(cuò)的概率解釋，當(dāng)然，我們還可以輕松地利用新數(shù)據(jù)來更新模型，比如說使用在線梯度下降算法-online gradient descent。如果我們需要一個(gè)概率架構(gòu)，比如說，簡(jiǎn)單地調(diào)節(jié)分類閾值，指明不確定性，或者是要獲得置信區(qū)間，或者我們希望以后將更多的訓(xùn)練數(shù)據(jù)快速整合到模型中去，我們可以使用這個(gè)這個(gè)算法。

那么邏輯回歸算法的優(yōu)點(diǎn)是什么呢？其實(shí)邏輯回歸的優(yōu)點(diǎn)具體體現(xiàn)在5點(diǎn)，第一就是實(shí)現(xiàn)簡(jiǎn)單，廣泛的應(yīng)用于工業(yè)問題上。第二就是分類時(shí)計(jì)算量非常小，速度很快，存儲(chǔ)資源低。第三就是便利的觀測(cè)樣本概率分?jǐn)?shù)。第四就是對(duì)邏輯回歸而言，多重共線性并不是問題，它可以結(jié)合L2正則化來解決該問題。第五就是計(jì)算代價(jià)不高，易于理解和實(shí)現(xiàn)。

當(dāng)然，邏輯回歸的缺點(diǎn)也是十分明顯的，同樣，具體體現(xiàn)在五點(diǎn)，第一就是當(dāng)特征空間很大時(shí)，邏輯回歸的性能不是很好。第二就是容易欠擬合，一般準(zhǔn)確度不太高。第三就是不能很好地處理大量多類特征或變量。第四個(gè)缺點(diǎn)就是只能處理兩分類問題，且必須線性可分。第五個(gè)缺點(diǎn)就是對(duì)于非線性特征，需要進(jìn)行轉(zhuǎn)換。

那么邏輯回歸應(yīng)用領(lǐng)域都有哪些呢？邏輯回歸的應(yīng)用領(lǐng)域還是比較廣泛的，比如說邏輯回歸可以用于二分類領(lǐng)域，可以得出概率值，適用于根據(jù)分類概率排名的領(lǐng)域，如搜索排名等、邏輯回歸的擴(kuò)展softmax可以應(yīng)用于多分類領(lǐng)域，如手寫字識(shí)別等。當(dāng)然，在信用評(píng)估也有邏輯回歸的使用，同時(shí)邏輯回歸可以測(cè)量市場(chǎng)營銷的成功度。當(dāng)然，也可以預(yù)測(cè)某個(gè)產(chǎn)品的收益。最后一個(gè)功能比較有意思，那就是可以預(yù)定特定的某天是否會(huì)發(fā)生地震。

我們?cè)谶@篇文章中給大家介紹了關(guān)于機(jī)器學(xué)習(xí)中邏輯回歸算法的相關(guān)知識(shí)，從中我們具體為大家介紹了邏輯回歸算法的優(yōu)缺點(diǎn)以及應(yīng)用領(lǐng)域。相信大家能夠通過這篇文章能夠更好的理解邏輯回歸算法。

二、邏輯回歸適用于什么樣的分類問題

兩種方法都是常見的分類算法,從目標(biāo)函數(shù)來看,區(qū)別在于邏輯回歸采用的是logistical loss,svm采用的是hinge loss.這兩個(gè)損失函數(shù)的目的都是增加對(duì)分類影響較大的數(shù)據(jù)點(diǎn)的權(quán)重,減少與分類關(guān)系較小的數(shù)據(jù)點(diǎn)的權(quán)重.SVM的處理方法是只考慮

三、機(jī)器學(xué)習(xí)是大數(shù)據(jù)分布式存儲(chǔ)技術(shù)嗎

對(duì)人工智能、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、大數(shù)據(jù)，自然語言處理等的入門理解轉(zhuǎn)載

2021-01-06 14:54:36

skyline758

碼齡6年

關(guān)注

轉(zhuǎn)自大佬：https://blog.csdn.net/leishao_csdn/article/details/82800500，其講述非常詳細(xì)，邏輯很強(qiáng)

1. 機(jī)器學(xué)習(xí)(內(nèi)核思想即統(tǒng)計(jì)和歸納)

一般的機(jī)器學(xué)習(xí)模型至少考慮兩個(gè)量：一個(gè)是因變量，也就是我們希望預(yù)測(cè)的結(jié)果。另一個(gè)是自變量，也就是用來預(yù)測(cè)是否遲到的量。

機(jī)器學(xué)習(xí)方法是計(jì)算機(jī)利用已有的數(shù)據(jù)(經(jīng)驗(yàn))，得出了某種模型(遲到的規(guī)律)，并利用此模型預(yù)測(cè)未來(是否遲到)的一種方法。

事實(shí)上，機(jī)器學(xué)習(xí)的一個(gè)主要目的就是把人類思考?xì)w納經(jīng)驗(yàn)的過程轉(zhuǎn)化為計(jì)算機(jī)通過對(duì)數(shù)據(jù)的處理計(jì)算得出模型的過程。經(jīng)過計(jì)算機(jī)得出的模型能夠以近似于人的方式解決很多靈活復(fù)雜的問題。

“訓(xùn)練”產(chǎn)生“模型”，“模型”指導(dǎo) “預(yù)測(cè)”。

1.1 機(jī)器學(xué)習(xí)應(yīng)用范圍

其實(shí)，機(jī)器學(xué)習(xí)跟模式識(shí)別，統(tǒng)計(jì)學(xué)習(xí)，數(shù)據(jù)挖掘，計(jì)算機(jī)視覺，語音識(shí)別，自然語言處理等領(lǐng)域有著很深的聯(lián)系。

從范圍上來說，機(jī)器學(xué)習(xí)跟模式識(shí)別，統(tǒng)計(jì)學(xué)習(xí)，數(shù)據(jù)挖掘是類似的，同時(shí)，機(jī)器學(xué)習(xí)與其他領(lǐng)域的處理技術(shù)的結(jié)合，形成了計(jì)算機(jī)視覺、語音識(shí)別、自然語言處理等交叉學(xué)科。因此，一般說數(shù)據(jù)挖掘時(shí)，可以等同于說機(jī)器學(xué)習(xí)。同時(shí)，我們平常所說的機(jī)器學(xué)習(xí)應(yīng)用，應(yīng)該是通用的，不僅僅局限在結(jié)構(gòu)化數(shù)據(jù)，還有圖像，音頻等應(yīng)用。

1.1.1模式識(shí)別

模式識(shí)別=機(jī)器學(xué)習(xí)。兩者被視為同一個(gè)領(lǐng)域的兩個(gè)方面，兩者的主要區(qū)別在于前者是從工業(yè)界發(fā)展起來的概念，后者則主要源自計(jì)算機(jī)學(xué)科。

1.1.2 數(shù)據(jù)挖掘

數(shù)據(jù)挖掘=機(jī)器學(xué)習(xí)+數(shù)據(jù)庫。數(shù)據(jù)挖掘僅僅是一種思考方式，大部分?jǐn)?shù)據(jù)挖掘中的算法是機(jī)器學(xué)習(xí)的算法在數(shù)據(jù)庫中的優(yōu)化。

1.1.3 統(tǒng)計(jì)學(xué)習(xí)

統(tǒng)計(jì)學(xué)習(xí)近似等于機(jī)器學(xué)習(xí)。二者在某種程度上是有區(qū)別的：統(tǒng)計(jì)學(xué)習(xí)者重點(diǎn)關(guān)注的是統(tǒng)計(jì)模型的發(fā)展與優(yōu)化，偏數(shù)學(xué)，而機(jī)器學(xué)習(xí)者更關(guān)注的是能夠解決問題，偏實(shí)踐，因此機(jī)器學(xué)習(xí)研究者會(huì)重點(diǎn)研究學(xué)習(xí)算法在計(jì)算機(jī)上執(zhí)行的效率與準(zhǔn)確性的提升。

1.1.4 計(jì)算機(jī)視覺

計(jì)算機(jī)視覺=圖像處理+機(jī)器學(xué)習(xí)。計(jì)算機(jī)視覺相關(guān)的應(yīng)用非常的多，例如百度識(shí)圖、手寫字符識(shí)別、車牌識(shí)別等等應(yīng)用。

1.1.5 語音識(shí)別

語音識(shí)別=語音處理+機(jī)器學(xué)習(xí)。語音識(shí)別就是音頻處理技術(shù)與機(jī)器學(xué)習(xí)的結(jié)合。語音識(shí)別技術(shù)一般不會(huì)單獨(dú)使用，一般會(huì)結(jié)合自然語言處理的相關(guān)技術(shù)。目前的相關(guān)應(yīng)用有蘋果的語音助手siri等。

1.1.6 自然語言處理

自然語言處理=文本處理+機(jī)器學(xué)習(xí)。在自然語言處理技術(shù)中，大量使用了編譯原理相關(guān)的技術(shù)，例如詞法分析，語法分析等等，除此之外，在理解這個(gè)層面，則使用了語義理解，機(jī)器學(xué)習(xí)等技術(shù)。

1.2 機(jī)器學(xué)習(xí)經(jīng)典算法

1.2.1 回歸算法（分為線性回歸+邏輯回歸）

線性回歸（數(shù)值問題，結(jié)果是數(shù)字）：如何擬合出一條直線最佳匹配我所有的數(shù)據(jù)？一般使用“最小二乘法”來求解。假設(shè)我們擬合出的直線代表數(shù)據(jù)的真實(shí)值，而觀測(cè)到的數(shù)據(jù)代表擁有誤差的值。為了盡可能減小誤差的影響，需要求解一條直線使所有誤差的平方和最小。最小二乘法將最優(yōu)問題轉(zhuǎn)化為求函數(shù)極值問題。（對(duì)于求導(dǎo)求極值，這種做法并不適合計(jì)算機(jī)，可能求解不出來，也可能計(jì)算量太大）

計(jì)算機(jī)科學(xué)屆專門有一門學(xué)科叫“數(shù)值計(jì)算”，專門用來提升計(jì)算機(jī)進(jìn)行各類計(jì)算時(shí)的準(zhǔn)確性和效率問題。例如，著名的“梯度下降”、“牛頓法”就是數(shù)值計(jì)算中的經(jīng)典算法，也非常適合來處理求解函數(shù)極值的問題。梯度下降法是解決回歸模型中最簡(jiǎn)單且有效的方法之一。

邏輯回歸（分類算法，結(jié)果是離散分類）：邏輯回歸是一種與線性回歸非常類似的算法，但是，從本質(zhì)上講，處理問題的類型不同。線性回歸處理的是數(shù)值問題，也就是最后預(yù)測(cè)出的結(jié)果是數(shù)字，例如房價(jià)。而邏輯回歸屬于分類算法，也就是說，邏輯回歸預(yù)測(cè)結(jié)果是離散的分類，例如判斷這封郵件是否是垃圾郵件，以及用戶是否會(huì)點(diǎn)擊此廣告等等。

四、用于數(shù)據(jù)挖掘的分類算法有哪些，各有何優(yōu)劣

常見的機(jī)器學(xué)習(xí)分類算法就有，不常見的更是數(shù)不勝數(shù)，那么我們針對(duì)某個(gè)分類問題怎么來選擇比較好的分類算法呢？下面介紹一些算法的優(yōu)缺點(diǎn)：

1. 樸素貝葉斯

比較簡(jiǎn)單的算法，所需估計(jì)的參數(shù)很少，對(duì)缺失數(shù)據(jù)不太敏感。如果條件獨(dú)立性假設(shè)成立，即各特征之間相互獨(dú)立，樸素貝葉斯分類器將會(huì)比判別模型，如邏輯回歸收斂得更快，因此只需要較少的訓(xùn)練數(shù)據(jù)。就算該假設(shè)不成立，樸素貝葉斯分類器在實(shí)踐中仍然有著不俗的表現(xiàn)。如果你需要的是快速簡(jiǎn)單并且表現(xiàn)出色，這將是個(gè)不錯(cuò)的選擇。其主要缺點(diǎn)現(xiàn)實(shí)生活中特征之間相互獨(dú)立的條件比較難以實(shí)現(xiàn)。

2. 邏輯回歸

模型訓(xùn)練時(shí)，正則化方法較多，而且你不必像在用樸素貝葉斯那樣擔(dān)心你的特征是否相關(guān)。與決策樹與支持向量機(jī)相比，邏輯回歸模型還會(huì)得到一個(gè)不錯(cuò)的概率解釋，你甚至可以輕松地利用新數(shù)據(jù)來更新模型（使用在線梯度下降算法）。如果你需要一個(gè)概率架構(gòu)（比如簡(jiǎn)單地調(diào)節(jié)分類閾值，指明不確定性，獲得置信區(qū)間），或者你以后想將更多的訓(xùn)練數(shù)據(jù)快速整合到模型中去，邏輯回歸是一個(gè)不錯(cuò)的選擇。

3. 決策樹

決策樹的分類過程易于解釋說明。它可以毫無壓力地處理特征間的交互關(guān)系并且是非參數(shù)化的，因此你不必?fù)?dān)心異常值或者數(shù)據(jù)是否線性可分。它的一個(gè)缺點(diǎn)就是不支持在線學(xué)習(xí)，于是在新樣本到來后，決策樹需要全部重建。另一個(gè)缺點(diǎn)是容易過擬合，但這也就是諸如隨機(jī)森林（或提升樹）之類的集成方法的切入點(diǎn)。另外，隨機(jī)森林經(jīng)常是多分類問題的贏家（通常比支持向量機(jī)好上那么一點(diǎn)），它快速并且可調(diào)，同時(shí)你無須擔(dān)心要像支持向量機(jī)那樣調(diào)一大堆參數(shù)，所以隨機(jī)森林相當(dāng)受歡迎。

4. 支持向量機(jī)

高準(zhǔn)確率，為避免過擬合提供了很好的理論保證，而且就算數(shù)據(jù)在原特征空間線性不可分，只要給個(gè)合適的核函數(shù)，它就能運(yùn)行得很好。在超高維的文本分類問題中特別受歡迎?？上?nèi)存消耗大，難以解釋，運(yùn)行和調(diào)參也有些煩人，所以我認(rèn)為隨機(jī)森林要開始取而代之了。

但是，好的數(shù)據(jù)卻要優(yōu)于好的算法，設(shè)計(jì)優(yōu)良特征比優(yōu)良的算法好很多。假如你有一個(gè)超大數(shù)據(jù)集，那么無論你使用哪種算法可能對(duì)分類性能都沒太大影響（此時(shí)就根據(jù)速度和易用性來進(jìn)行抉擇）。

如果你真心在乎準(zhǔn)確率，你一定得嘗試多種多樣的分類器，并且通過交叉驗(yàn)證選擇最優(yōu)。

以上就是關(guān)于邏輯回歸屬于分類算法嗎相關(guān)問題的回答。希望能幫到你，如有更多相關(guān)問題，您也可以聯(lián)系我們的客服進(jìn)行咨詢，客服也會(huì)為您講解更多精彩的知識(shí)和內(nèi)容。