用戶畫(huà)像：方法論與工程化解決方案

前言
第1章　用戶畫(huà)像基礎(chǔ)1
1.1　用戶畫(huà)像是什么1
1.1.1　畫(huà)像簡(jiǎn)介1
1.1.2　標(biāo)簽類(lèi)型3
1.2　數(shù)據(jù)架構(gòu)4
1.3　主要覆蓋模塊5
1.4　開(kāi)發(fā)階段流程7
1.4.1　開(kāi)發(fā)上線流程7
1.4.2　各階段關(guān)鍵產(chǎn)出9
1.5　畫(huà)像應(yīng)用的落地10
1.6　某用戶畫(huà)像案例11
1.6.1　案例背景介紹11
1.6.2　相關(guān)元數(shù)據(jù)12
1.6.3　畫(huà)像表結(jié)構(gòu)設(shè)計(jì)16
1.7　定性類(lèi)畫(huà)像21
1.8　本章小結(jié)22
第2章　數(shù)據(jù)指標(biāo)體系23
2.1　用戶屬性維度23
2.1.1　常見(jiàn)用戶屬性23
2.1.2　用戶性別26
2.2　用戶行為維度27
2.3　用戶消費(fèi)維度27
2.4　風(fēng)險(xiǎn)控制維度29
2.5　社交屬性維度30
2.6　其他常見(jiàn)標(biāo)簽劃分方式31
2.7　標(biāo)簽命名方式33
2.8　本章小結(jié)34
第3章　標(biāo)簽數(shù)據(jù)存儲(chǔ)35
3.1　Hive存儲(chǔ)35
3.1.1　Hive數(shù)據(jù)倉(cāng)庫(kù)35
3.1.2　分區(qū)存儲(chǔ)37
3.1.3　標(biāo)簽匯聚39
3.1.4　ID-MAP41
3.2　MySQL存儲(chǔ)45
3.2.1　元數(shù)據(jù)管理45
3.2.2　監(jiān)控預(yù)警數(shù)據(jù)47
3.2.3　結(jié)果集存儲(chǔ)47
3.3　HBase存儲(chǔ)50
3.3.1　HBase簡(jiǎn)介50
3.3.2　應(yīng)用場(chǎng)景52
3.3.3　工程化案例52
3.4　Elasticsearch存儲(chǔ)59
3.4.1　Elasticsearch簡(jiǎn)介59
3.4.2　應(yīng)用場(chǎng)景60
3.4.3　工程化案例64
3.5　本章小結(jié)67
第4章　標(biāo)簽數(shù)據(jù)開(kāi)發(fā)69
4.1　統(tǒng)計(jì)類(lèi)標(biāo)簽開(kāi)發(fā)69
4.1.1　近30日購(gòu)買(mǎi)行為標(biāo)簽案例70
4.1.2　最近來(lái)訪標(biāo)簽案例73
4.2　規(guī)則類(lèi)標(biāo)簽開(kāi)發(fā)74
4.2.1　用戶價(jià)值類(lèi)標(biāo)簽案例75
4.2.2　用戶活躍度標(biāo)簽案例79
4.3　挖掘類(lèi)標(biāo)簽開(kāi)發(fā)84
4.3.1　案例背景84
4.3.2　特征選取及開(kāi)發(fā)85
4.3.3　文本分詞處理86
4.3.4　數(shù)據(jù)結(jié)構(gòu)處理89
4.3.5　文本TF-IDF權(quán)重90
4.3.6　樸素貝葉斯分類(lèi)92
4.4　流式計(jì)算標(biāo)簽開(kāi)發(fā)95
4.4.1　流式標(biāo)簽建?？蚣?5
4.4.2　Kafka簡(jiǎn)介96
4.4.3　Spark Streaming集成Kafka97
4.4.4　標(biāo)簽開(kāi)發(fā)及工程化99
4.5　用戶特征庫(kù)開(kāi)發(fā)104
4.5.1　特征庫(kù)規(guī)劃105
4.5.2　數(shù)據(jù)開(kāi)發(fā)107
4.5.3　其他特征庫(kù)規(guī)劃111
4.6　標(biāo)簽權(quán)重計(jì)算112
4.6.1　TF-IDF詞空間向量112
4.6.2　時(shí)間衰減系數(shù)114
4.6.3　標(biāo)簽權(quán)重配置115
4.7　標(biāo)簽相似度計(jì)算116
4.7.1　案例場(chǎng)景116
4.7.2　數(shù)據(jù)開(kāi)發(fā)118
4.8　組合標(biāo)簽計(jì)算122
4.8.1　應(yīng)用場(chǎng)景122
4.8.2　數(shù)據(jù)計(jì)算123
4.9　數(shù)據(jù)服務(wù)層開(kāi)發(fā)124
4.9.1　推送至營(yíng)銷(xiāo)系統(tǒng)125
4.9.2　接口調(diào)用服務(wù)127
4.10　GraphX圖計(jì)算用戶129
4.10.1　圖計(jì)算理論及應(yīng)用場(chǎng)景129
4.10.2　數(shù)據(jù)開(kāi)發(fā)案例132
4.11　本章小結(jié)135
第5章　開(kāi)發(fā)性能調(diào)優(yōu)137
5.1　數(shù)據(jù)傾斜調(diào)優(yōu)137
5.2　合并小文件141
5.3　緩存中間數(shù)據(jù)143
5.4　開(kāi)發(fā)中間表144
5.5　本章小結(jié)145
第6章　作業(yè)流程調(diào)度146
6.1　crontab命令調(diào)度146
6.2　Airflow工作平臺(tái)148
6.2.1　基礎(chǔ)概念149
6.2.2　Airflow服務(wù)構(gòu)成150
6.2.3　Airflow安裝151
6.2.4　主要模塊功能151
6.2.5　工作流調(diào)度155
6.2.6　腳本實(shí)例155
6.2.7　常用命令行158
6.2.8　工程化調(diào)度方案158
6.3　數(shù)據(jù)監(jiān)控預(yù)警161
6.3.1　標(biāo)簽監(jiān)控預(yù)警161
6.3.2　服務(wù)層預(yù)警162
6.4　ETL異常排查164
6.5　本章小結(jié)166
第7章　用戶畫(huà)像產(chǎn)品化167
7.1　即時(shí)查詢167
7.2　標(biāo)簽視圖與標(biāo)簽查詢169
7.3　元數(shù)據(jù)管理171
7.4　用戶分群功能173
7.5　人群分析功能175
7.6　本章小結(jié)177
第8章　用戶畫(huà)像應(yīng)用178
8.1　經(jīng)營(yíng)分析178
8.1.1　商品分析178
8.1.2　用戶分析179
8.1.3　渠道分析180
8.1.4　漏斗分析185
8.1.5　客服話術(shù)186
8.1.6　人群特征分析186
8.2　精準(zhǔn)營(yíng)銷(xiāo)187
8.2.1　短信/郵件營(yíng)銷(xiāo)187
8.2.2　效果分析188
8.3　個(gè)性化推薦與服務(wù)189
8.4　本章小結(jié)190
第9章　實(shí)踐案例詳解191
9.1　風(fēng)控反欺詐預(yù)警191
9.1.1　應(yīng)用背景191
9.1.2　用戶畫(huà)像切入點(diǎn)192
9.2　A/B人群效果測(cè)試193
9.2.1　案例背景194
9.2.2　用戶畫(huà)像切入點(diǎn)194
9.2.3　效果分析195
9.3　用戶生命周期劃分與營(yíng)銷(xiāo)195
9.3.1　生命周期劃分196
9.3.2　不同階段的用戶觸達(dá)策略201
9.3.3　畫(huà)像在生命周期中的應(yīng)用204
9.3.4　應(yīng)用案例206
9.4　高價(jià)值用戶實(shí)時(shí)營(yíng)銷(xiāo)209
9.4.1　項(xiàng)目應(yīng)用背景209
9.4.2　用戶畫(huà)像切入點(diǎn)209
9.4.3　HBase應(yīng)用場(chǎng)景小結(jié)209
9.5　短信營(yíng)銷(xiāo)用戶211
9.5.1　案例背景211
9.5.2　畫(huà)像切入及其應(yīng)用效果211
9.6　Session行為分析應(yīng)用213
9.6.1　關(guān)于用戶行為分析213
9.6.2　案例背景218
9.6.3　特征構(gòu)建219
9.6.4　分析方法與結(jié)論221
9.7　人群效果監(jiān)測(cè)報(bào)表搭建228
9.7.1　案例背景228
9.7.2　邏輯梳理228
9.7.3　自動(dòng)報(bào)表郵件237
9.8　基于用戶特征庫(kù)篩選目標(biāo)人群239
9.8.1　案例背景239
9.8.2　應(yīng)用方式及效果240
9.9　本章小結(jié)241
附錄　某產(chǎn)品用戶畫(huà)像項(xiàng)目規(guī)劃文檔242