Spark和Python機(jī)器學(xué)習(xí)實(shí)戰(zhàn)：預(yù)測分析核心方法（第2版）

目錄
第 1章 做預(yù)測的兩類核心算法 1
1．1 為什么這兩類算法如此有用 1
1．2 什么是懲罰線性回歸方法 5
1．3 什么是集成方法 7
1．4 算法的選擇 8
1．5 構(gòu)建預(yù)測模型的步驟 10
1．5．1 構(gòu)造一個(gè)機(jī)器學(xué)習(xí)問題 12
1．5．2 特征提取和特征工程 13
1．5．3 確定訓(xùn)練好的模型的性能 14
1．6 各章內(nèi)容及其依賴關(guān)系 14
1．7 小結(jié) 16
第 2章 通過理解數(shù)據(jù)來了解問題 17
2．1 剖析一個(gè)新問題 17
2．1．1 屬性和標(biāo)簽的不同類型決定模型的選擇 19
2．1．2 新數(shù)據(jù)集的注意事項(xiàng) 20
2．2 分類問題：用聲吶發(fā)現(xiàn)未爆炸的水雷 21
2．2．1 巖石與水雷數(shù)據(jù)集的物理特性 21
2．2．2 巖石與水雷數(shù)據(jù)集的統(tǒng)計(jì)概要 24
2．2．3 用分位數(shù)圖展示異常點(diǎn) 26
2．2．4 類別屬性的統(tǒng)計(jì)特征 28
2．2．5 用Python pandas對巖石與水雷數(shù)據(jù)集進(jìn)行統(tǒng)計(jì)分析 28
2．3 對巖石與水雷數(shù)據(jù)集屬性進(jìn)行可視化 31
2．3．1 用平行坐標(biāo)圖進(jìn)行可視化 31
2．3．2 對屬性和標(biāo)簽間關(guān)系進(jìn)行可視化 33
2．3．3 用熱圖對屬性和標(biāo)簽的相關(guān)性進(jìn)行可視化 40
2．3．4 對巖石與水雷數(shù)據(jù)集探究過程的小結(jié) 41
2．4 以因素變量進(jìn)行實(shí)數(shù)值預(yù)測：鮑魚的年齡 41
2．4．1 回歸問題的平行坐標(biāo)圖——鮑魚年齡問題的屬性關(guān)系可視化 47
2．4．2 將相關(guān)性熱圖用于回歸問題——鮑魚年齡問題的屬性對相關(guān)性的可視化 50
2．5 用實(shí)數(shù)值屬性進(jìn)行實(shí)數(shù)值預(yù)測：評估紅酒口感 52
2．6 多類別分類問題：玻璃分類 59
2．7 用PySpark理解大規(guī)模數(shù)據(jù)集 63
2．8 小結(jié) 67
第3章 構(gòu)建預(yù)測模型：平衡性能、復(fù)雜度和大數(shù)據(jù) 69
3．1 基本問題：理解函數(shù)逼近 69
3．1．1 使用訓(xùn)練數(shù)據(jù) 70
3．1．2 評估預(yù)測模型的性能 72
3．2 影響算法選擇及性能的因素——復(fù)雜度及數(shù)據(jù) 72
3．2．1 簡單問題和復(fù)雜問題的比較 73
3．2．2 簡單模型和復(fù)雜模型的比較 75
3．2．3 影響預(yù)測算法性能的因素 79
3．2．4 選擇算法：線性或者非線性 79
3．3 評測預(yù)測模型的性能 80
3．3．1 不同類型問題的性能評測 80
3．3．2 模擬部署后模型的性能 94
3．4 模型與數(shù)據(jù)的均衡 95
3．4．1 通過權(quán)衡問題復(fù)雜度、模型復(fù)雜度和數(shù)據(jù)集規(guī)模來選擇模型 96
3．4．2 使用前向逐步回歸來控制過擬合 97
3．4．3 評估并理解預(yù)測模型 102
3．4．4 通過懲罰回歸系數(shù)來控制過擬合——嶺回歸 104
3．5 在超大規(guī)模數(shù)據(jù)集上用PySpark訓(xùn)練懲罰回歸模型 113
3．6 小結(jié) 116
第4章 懲罰線性回歸 117
4．1 為什么懲罰線性回歸方法如此有用 117
4．1．1 模型訓(xùn)練足夠快 118
4．1．2 有變量的重要性信息 118
4．1．3 部署時(shí)評估足夠快 118
4．1．4 性能可靠 118
4．1．5 稀疏解 119
4．1．6 問題可能需要線性模型 119
4．1．7 使用集成方法的時(shí)機(jī) 119
4．2 懲罰線性回歸：對線性回歸進(jìn)行正則化以獲得最優(yōu)性能 119
訓(xùn)練線性模型：最小化誤差等 121
4．3 求解懲罰線性回歸問題 126
4．3．1 理解最小角度回歸及其與前向步進(jìn)回歸的關(guān)系 126
4．3．2 使用Glmnet：快速且通用 136
4．4 將線性回歸擴(kuò)展到分類問題 141
4．4．1 用懲罰回歸求解分類問題 141
4．4．2 多類別分類問題的求解 145
4．4．3 理解基擴(kuò)展：用線性方法求解非線性問題 145
4．4．4 將非數(shù)值屬性引入線性方法 147
4．5 小結(jié) 150
第5章 用懲罰線性回歸方法構(gòu)建預(yù)測模型 153
5．1 懲罰線性回歸的Python包 153
5．2 多變量回歸：預(yù)測紅酒口感 154
5．2．1 構(gòu)建并測試預(yù)測紅酒口感的模型 155
5．2．2 部署前在整個(gè)數(shù)據(jù)集上進(jìn)行訓(xùn)練 158
5．3 二元分類：用懲罰線性回歸探測未爆炸水雷 165
5．4 多類別分類：犯罪現(xiàn)場玻璃樣本分類 184
5．5 用PySpark實(shí)現(xiàn)線性回歸和分類 187
5．6 用PySpark預(yù)測紅酒口感 188
5．7 用PySpark實(shí)現(xiàn)邏輯斯蒂回歸：巖石與水雷 193
5．8 將類別變量引入PySpark模型：預(yù)測鮑魚年齡 198
5．9 具有元參數(shù)優(yōu)化的多類別邏輯斯蒂回歸 202
5．10 小結(jié) 205
第6章 集成方法 207
6．1 二元決策樹 207
6．1．1 如何用二元決策樹進(jìn)行預(yù)測 210
6．1．2 如何訓(xùn)練二元決策樹 210
6．1．3 決策樹的訓(xùn)練等同于分割點(diǎn)的選擇 213
6．1．4 二元決策樹的過擬合 217
6．1．5 針對分類問題和類別特征所做的修改 220
6．2 自舉匯聚：投票法 221
6．2．1 投票法如何工作 221
6．2．2 投票法小結(jié) 232
6．3 梯度提升法 232
6．3．1 梯度提升法的基本原理 232
6．3．2 獲取梯度提升法的最佳性能 236
6．3．3 針對多變量問題的梯度提升法 239
6．3．4 梯度提升法小結(jié) 243
6．4 隨機(jī)森林法 243
6．4．1 隨機(jī)森林法：投票法加隨機(jī)屬性子集 246
6．4．2 影響隨機(jī)森林法性能的因素 246
6．4．3 隨機(jī)森林法小結(jié) 248
6．5 小結(jié) 248
第7章 用Python構(gòu)建集成模型 251
7．1 用Python集成方法包求解回歸問題 251
7．1．1 用梯度提升法預(yù)測紅酒口感 251
7．1．2 構(gòu)建隨機(jī)森林模型預(yù)測紅酒口感 257
7．2 將非數(shù)值屬性引入Python集成模型 265
7．2．1 用Python將鮑魚性別屬性編碼引入梯度提升法 265
7．2．2 用梯度提升法評估性能和編碼變量的重要性 267
7．2．3 用Python將鮑魚性別屬性編碼引入隨機(jī)森林回歸 269
7．2．4 評估性能和編碼變量的重要性 272
7．3 用Python集成方法求解二元分類問題 273
7．3．1 用Python梯度提升法探測未爆炸水雷 273
7．3．2 測定梯度提升分類器的性能 276
7．3．3 用Python隨機(jī)森林法探測未爆炸水雷 278
7．3．4 構(gòu)建隨機(jī)森林模型探測未爆炸水雷 279
7．3．5 測定隨機(jī)森林分類器的性能 283
7．4 用Python集成方法求解多類別分類問題 285
7．4．1 處理類別不均衡問題 286
7．4．2 用梯度提升法對玻璃進(jìn)行分類 286
7．4．3 測定梯度提升模型在玻璃分類問題上的性能 291
7．4．4 用隨機(jī)森林法對玻璃進(jìn)行分類 292
7．4．5 測定隨機(jī)森林模型在玻璃分類問題上的性能 296
7．5 用PySpark集成方法包求解回歸問題 297
7．5．1 用PySpark集成方法預(yù)測紅酒口感 298
7．5．2 用PySpark集成方法預(yù)測鮑魚年齡 303
7．5．3 用PySpark集成方法區(qū)分巖石與水雷 308
7．5．4 用PySpark集成方法識(shí)別玻璃類型 312
7．6 小結(jié) 314