智能Web算法

1  什么是智能Web？ 1
1.1  智能Web應(yīng)用實例 3
1.2  智能應(yīng)用的基本要素 4
1.3  什么應(yīng)用會受益于智能? 5
1.3.1  社交網(wǎng)絡(luò) 6
1.3.2  Mashup 7
1.3.3  門戶網(wǎng)站 8
1.3.4  維基 9
1.3.5  文件分享網(wǎng)站 9
1.3.6  網(wǎng)絡(luò)游戲 11
1.4  如何構(gòu)建智能應(yīng)用？ 11
1.4.1  檢查功能和數(shù)據(jù) 12
1.4.2  獲取更多的數(shù)據(jù) 12
1.5  機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘及其他 16
1.6  智能應(yīng)用中八個常見的誤區(qū) 17
1.6.1  誤區(qū)1：數(shù)據(jù)是可靠的 18
1.6.2  誤區(qū)2：計算能馬上完成 19
1.6.3  誤區(qū)3：不用考慮數(shù)據(jù)規(guī)模 19
1.6.4  誤區(qū)4：不考慮解決方案的可擴(kuò)展性 19
1.6.5  誤區(qū)5：隨處使用同樣的方法 19
1.6.6  誤區(qū)6：總是能知道計算時間 20
1.6.7  誤區(qū)7：復(fù)雜的模型更好 20
1.6.8  誤區(qū)8：存在無偏見的模型 20
1.7  小結(jié) 20
1.8  參考資料 21 
2  搜索 22
2.1  用Lucene實現(xiàn)搜索 23
2.1.1  理解Lucene代碼 24
2.1.2  搜索的基本步驟 31
2.2  為什么搜索不僅僅是索引？ 33
2.3  用鏈接分析改進(jìn)搜索結(jié)果 35
2.3.1  PageRank簡介 35
2.3.2  計算PageRank向量 37
2.3.3  alpha：網(wǎng)頁間跳轉(zhuǎn)的影響 38
2.3.4  理解冪方法 40
2.3.5  結(jié)合索引分值和PageRank分值 45
2.4  根據(jù)用戶點擊改進(jìn)搜索結(jié)果 47
2.4.1  用戶點擊初探 48
2.4.2  樸素貝葉斯分類器的使用 50
2.4.3  整合Lucene索引、PageRank和用戶點擊 54
2.5  Word、PDF等無鏈接文檔的排序 58
2.5.1  DocRank算法簡介 58
2.5.2  DocRank的原理 60
2.6  大規(guī)模實現(xiàn)的有關(guān)問題 65
2.7  用戶得到了想要的結(jié)果嗎？精確度和查全率 67
2.8  總結(jié) 69
2.9  To Do 70
2.10  參考資料 72
3  推薦系統(tǒng) 73
3.1  一個在線音樂商店：基本概念 74
3.1.1  距離與相似度的概念 75
3.1.2  走近相似度的計算 80
3.1.3  什么才是最好的相似度計算公式？ 83
3.2  推薦引擎是怎么工作的 84
3.2.1  基于相似用戶的推薦 85
3.2.2  基于相似條目的推薦 94
3.2.3  基于內(nèi)容的推薦 98
3.3  推薦朋友、文章與新聞報道 104
3.3.1  MyDiggSpace.com簡介 105
3.3.2  發(fā)現(xiàn)朋友 106
3.3.3  DiggDelphi的內(nèi)部工作機(jī)制 108
3.4  像Netflix.com那樣推薦電影 114
3.4.1  電影數(shù)據(jù)集的介紹及推薦器 114
3.4.2  數(shù)據(jù)標(biāo)準(zhǔn)化與相關(guān)系數(shù) 117
3.5  大規(guī)模的實現(xiàn)與評估 123
3.6  總結(jié) 124
3.7  To Do 125
3.8  參考資料 127
4  聚類：事物的分組 128
4.1  聚類的需求 129
4.1.1  網(wǎng)站中的用戶組：案例研究 129
4.1.2  用SQL order by子句分組 131
4.1.3  用數(shù)組排序分組 132
4.2  聚類算法概述 135
4.2.1  基于分組結(jié)構(gòu)的聚類算法分類 136
4.2.2  基于數(shù)據(jù)類型和結(jié)構(gòu)的聚類算法分類 137
4.2.3  根據(jù)數(shù)據(jù)規(guī)模的聚類算法分類 137
4.3  基于鏈接的算法 138
4.3.1  樹狀圖：基本的聚類數(shù)據(jù)結(jié)構(gòu) 139
4.3.2  基于鏈接的算法概況 141
4.3.3  單鏈接算法 142
4.3.4  平均鏈接算法 144
4.3.5  最小生成樹算法 147
4.4  k-means算法 149
4.4.1  初識k-means算法 150
4.4.2  k-means的內(nèi)部原理 151
4.5  魯棒的鏈接型聚類（ROCK） 153
4.5.1  ROCK簡介 154
4.5.2  為什么ROCK這么強(qiáng)大？ 154
4.6  DBSCAN 159
4.6.1  基于密度的算法簡介 159
4.6.2  DBSCAN的原理 162
4.7  超大規(guī)模數(shù)據(jù)聚類 165
4.7.1  計算復(fù)雜性 166
4.7.2  高維度 167
4.8  總結(jié) 168
4.9  To Do 169
4.10  參考資料 171
5  分類：把事物放到它該在的地方 172
5.1  對分類的需求 173
5.2  分類器的概述 177
5.2.1  結(jié)構(gòu)分類算法 178
5.2.2  統(tǒng)計分類算法 180
5.2.3  分類器的生命周期 181
5.3  郵件的自動歸類與垃圾郵件過濾 182
5.3.1  樸素貝葉斯分類 184
5.3.2  基于規(guī)則的分類 197
5.4  用神經(jīng)網(wǎng)絡(luò)做欺詐檢測 210
5.4.1  交易數(shù)據(jù)中關(guān)于欺詐檢測的一個用例 210
5.4.2  神經(jīng)網(wǎng)絡(luò)概覽 212
5.4.3  一個可用的神經(jīng)網(wǎng)絡(luò)欺詐檢測器 214
5.4.4  神經(jīng)網(wǎng)絡(luò)欺詐檢測器剖析 218
5.4.5  創(chuàng)建通用神經(jīng)網(wǎng)絡(luò)的基類 226
5.5  你的結(jié)果可信嗎？ 232
5.6  大數(shù)據(jù)集的分類 235
5.7  總結(jié) 237
5.8  To Do 239
5.9  參考資料 242
6  分類器組合 244
6.1  信貸價值：分類器組合案例研究 246
6.1.1  數(shù)據(jù)的簡要說明 247
6.1.2  為真實問題生成人工數(shù)據(jù) 250
6.2  用單分類器做信用評估 255
6.2.1  樸素貝葉斯的基準(zhǔn)線 255
6.2.2  決策樹基準(zhǔn)線 258
6.2.3  神經(jīng)網(wǎng)絡(luò)基線 260
6.3  在同一個數(shù)據(jù)集中比較多個分類器 263
6.3.1  McNemar檢驗 264
6.3.2  差額比例檢驗 266
6.3.3  Cochran Q檢驗與F檢驗 268
6.4  Bagging: bootstrap聚合（bootstrapaggregating） 270
6.4.1  bagging實例 272
6.4.2  bagging分類器底層細(xì)節(jié) 274
6.4.3  分類器集成 276
6.5  Boosting：一種迭代提高的方法 279
6.5.1  boosting分類器實例 280
6.5.2  boosting分類器底層細(xì)節(jié) 282
6.6  總結(jié) 286
6.7  To Do 288
6.8  參考資料 292
7  智能技術(shù)大匯集：一個智能新聞門戶 293
7.1  功能概覽 295
7.2  獲取并清洗內(nèi)容 296
7.2.1  各就位、預(yù)備、開抓！ 296
7.2.2  搜索預(yù)備知識回顧 298
7.2.3  一個抓取并處理好的新聞數(shù)據(jù)集 299
7.3  搜索新聞 301
7.4  分配新聞類別 304
7.4.1  順序問題 304
7.4.2  使用NewsProcessor類進(jìn)行分類 309
7.4.3  分類器 310
7.4.4  分類策略：超越底層的分類 313
7.5  用NewsProcessor類創(chuàng)建新聞分組 316
7.5.1  聚類全部文章 317
7.5.2  在一個新聞類別中聚類文章 321
7.6  基于用戶評分的動態(tài)內(nèi)容展示 325
7.7  總結(jié) 328
7.8  To Do 329
7.9  參考資料 333
附錄A  BeanShell簡介 334
A.1  什么是BeanShell？ 334
A.2  為什么使用BeanShell？ 335
A.3  運行BeanShell 335
A.4  參考資料 336
附錄B  網(wǎng)絡(luò)采集 337
B.1  爬蟲組件概況 337
B.1.1  采集的步驟 338
B.1.2  我們的簡單爬蟲 338
B.1.3  開源Web爬蟲 339
B.2  參考資料 340
附錄C  數(shù)學(xué)知識回顧 341
C.1  向量和矩陣 341
C.2  距離的度量 342
C.3  高級矩陣方法 344
C.4  參考資料 344
附錄D  自然語言處理 345
D.1  參考資料 347
附錄E  神經(jīng)網(wǎng)絡(luò) 348
E.1  參考資料 349
索引 350