《機(jī)器學(xué)習(xí)與Python實(shí)踐》課件-08-02邏輯回歸

本章目錄01

分類問題02Sigmoid函數(shù)03邏輯回歸求解04邏輯回歸代碼實(shí)現(xiàn)1.分類問題01

分類問題02Sigmoid函數(shù)03邏輯回歸求解04邏輯回歸代碼實(shí)現(xiàn)監(jiān)督學(xué)習(xí)的最主要類型分類（Classification）身高1.85m，體重100kg的男人穿什么尺碼的T恤？根據(jù)腫瘤的體積、患者的年齡來判斷良性或惡性？根據(jù)用戶的年齡、職業(yè)、存款數(shù)量來判斷信用卡是否會(huì)違約？分類問題標(biāo)簽離散輸入變量可以是離散的，也可以是連續(xù)的。二分類分類問題12我們先從用藍(lán)色圓形數(shù)據(jù)定義為類型1，其余數(shù)據(jù)為類型2；只需要分類1次步驟：①->②①②二分類多分類分類問題1rest12restOne-vs-All(One-vs-Rest)

①②③一對(duì)多(一對(duì)余)2.Sigmoid函數(shù)01

分類問題02Sigmoid函數(shù)03邏輯回歸求解04邏輯回歸代碼實(shí)現(xiàn)

Sigmoid函數(shù)

2.Sigmoid函數(shù)

2.Sigmoid函數(shù)

2.Sigmoid函數(shù)

3.邏輯回歸求解01

分類問題02Sigmoid函數(shù)03邏輯回歸求解04邏輯回歸代碼實(shí)現(xiàn)3.邏輯回歸求解

損失函數(shù)

代價(jià)函數(shù)

表示真實(shí)值3.邏輯回歸求解3.邏輯回歸求解

3.邏輯回歸求解梯度下降求解過程：

3.邏輯回歸求解求解過程：

3.邏輯回歸求解求解過程：

沒有正則化，過擬合正則化過度，欠擬合適當(dāng)?shù)恼齽t化正則化：目的是為了防止過擬合

正則化項(xiàng)當(dāng)λ的值開始上升時(shí)，降低了方差。3.邏輯回歸求解4.邏輯回歸代碼實(shí)現(xiàn)01

分類問題02Sigmoid函數(shù)03邏輯回歸求解04邏輯回歸代碼實(shí)現(xiàn)4.邏輯回歸代碼實(shí)現(xiàn)

Sigmoid函數(shù)代價(jià)函數(shù)

4.邏輯回歸代碼實(shí)現(xiàn)正則化

參考文獻(xiàn)

[1]HOSMERDW,LEMESHOWS,STURDIVANTRX.Appliedlogisticregression[M].NewJersey:WileyNewYork.2000.[2]AndrewNg.MachineLearning[EB/OL].StanfordUniversity,2014./course/ml[3]李航.統(tǒng)計(jì)學(xué)習(xí)方法[M].北京:清華大學(xué)出版社,2019.[4]HastieT.,TibshiraniR.,FriedmanJ.TheElementsofStatisticalLearning[M].NewYork:Springer,2001.[5]CHRISTOPHERM.BISHOP.PatternRecognitionandMachineLearning[M].NewYork:Springer,2006.[6]StephenBoyd,LievenVandenberghe,ConvexOptimization[M].Cambridge:CambridgeUniversityPress,2004.[7]TIBSHIRANIR.Regressionselectionandshrinkageviathe