機器學習
內容描述
《機器學習》是計算機科學與人工智能的重要分支領域。
《機器學習》作為該領域的入門教材，在內容上盡可能涵蓋機器學習基礎知識的各方面。
全書共16章，大致分為3個部分：第1部分（第1～3章）介紹機器學習的基礎知識；第2部分（第4～10章）討論一些經典而常用的機器學習方法（決策樹、神經網絡、支持向量機、貝葉斯分類器、集成學習、聚類、降維與度量學習）；第3部分（第11～16章）為進階知識，內容涉及特徵選擇與稀疏學習、計算學習理論、半監督學習、概率圖模型、規則學習以及強化學習等。
每章都附有習題並介紹了相關閱讀材料，以便有興趣的讀者進一步鑽研探索。
《機器學習》可作為高等院校計算機、自動化及相關專業的本科生或研究生教材，也可供對機器學習感興趣的研究人員和工程技術人員閱讀參考。
目錄大綱
目錄
第1章1
1.1引言1
1.2基本術2
1.3假設空間4
1.4歸納偏好6
1.5發展歷程10
1.6應用現狀13
1.7閱讀材料16
習題19
參考文獻20
休息一會兒22
第2章模型評估與選擇23
2.1經驗誤差與過擬合23
2.2評估方法24
2.2.1留出法25
2.2.2交叉驗證法26
2.2.3自助法27
2.2.4調參與最終模型28
2.3性能度量28
2.3.1錯誤率與精度29
2.3.2查准率、查全率與F1 30
2.3.3 ROC與AUC 33
2.3.4代價敏感錯誤率與代價曲線35
2.4比較檢驗37
2.4.1假設檢驗37
2.4.2交叉驗證t檢驗40
2.4 .3 McNemar檢驗41
2.4.4 Friedman檢驗與後續檢驗42
2.5偏差與方差44
2.6閱讀材料46
習題48
參考文獻49
休息一會兒51
第3章線性模型53
3.1基本形式53
3.2線性回歸53
3.3對數機率回歸57
3.4線性判別分析60
3.5多分類學習63
3.6類別不平衡問題66
3.7閱讀材料67
習題69
參考文獻70
休息一會兒72
第4章決策樹73
4.1基本流程73
4.2劃分選擇75
4.2.1信息增益75
4.2 .2 益率77
4.2.3基尼指數79
4.3剪枝處理79
4.3.1預剪枝80
4.3.2後剪枝82
4.4連續與缺失值83
4.4.1連續值處理83
4.4.2缺失值處理85
4.5多變量決策樹88
4.6閱讀材料92
習題93
參考文獻94
休息一會兒95
第5章神經網絡97
5.1神經元模型97
5.2感知機與多層網絡98
5.3誤差逆傳播算法101
5.4全局最小與局部極小106
5.5其他常見神經網絡108
5.5.1 RBF網絡108
5.5.2 ART網絡108
5.5.3 SOM網絡109
5.5.4級聯相關網絡110
5.5.5 Elman網絡111
5.5.6 Boltzmann機111
5.6深度學習113
5.7閱讀材料115
習題116
參考文獻117
休息一會兒120
第6章支持向量機121
6.1間隔與支持向量121
6.2對偶問題123
6.3核函數126
6.4軟間隔與正則化129
6.5支持向量回歸133
6.6核方法137
6.7閱讀材料139
習題141
參考文獻142
休息一會兒145
第7章貝葉斯分類器147
7.1貝葉斯決策論147
7.2極大似然估計149
7.3樸素貝葉斯分類器150
7.4半樸素貝葉斯分類器154
7.5 葉斯網156
7.5.1結構157
7.5.2學習159
7.5.3推斷161
7.6 EM算法162
7.7閱讀材料164
習題166
參考文獻167
休息一會兒169
第8章集成學習171
8.1個體與集成171
8.2 Boosting 173
8.3 Bagging與隨機森林178
8.3.1 Bagging 178
8.3.2隨機森林179
8.4結合策略181
8.4.1平均法181
8.4.2投票法182
8.4.3學習法183
8.5多樣性185
8.5.1誤差--分歧分解185
8.5.2多樣性度量186
8.5.3多樣性增強188
8.6閱讀材料190
習題192
參考文獻193
休息一會兒196
第9章聚類197
9.1聚類任務197
9.2性能度量197
9.3距離計算199
9.4原型聚類202
9.4.1 k均值算法202
9.4.2學習向量量化204
9.4.3高斯混合聚類206
9.5密度聚類211
9.6層次聚類214
9.7閱讀材料217
習題220
參考文獻221
休息一會兒224
第10章降維與度量學習225
10.1 k近鄰學習225
10.2低維嵌入226
10.3主成分分析229
10.4核化線性降維232
10.5流形學習234
10.5.1等度量映射234
10.5.2局部線性嵌入235
10.6度量 習237
10.7閱讀材料240
習題242
參考文獻243
休息一會兒246
第11章特徵選擇與稀疏學習247
11.1子集搜索與評價247
11.2過濾式選擇249
11.3包裹式選擇250
11.4嵌入式選擇與L$_1$正則化252
11.5稀疏表示與字典學習254
11.6壓縮感知257
11.7閱讀材料260
習題262
參考文獻263
休息一會兒266
第12章計算學習理論267
12.1基礎知識267
12.2 PAC學習268
12.3有限假設空間270
12.3.1可分情形270
12.3.2不可分情形272
12.4 VC維273
12.5 Rademacher複雜度279
12.6穩定性284
12.7閱讀材料287
習題289
參考文獻290
休息一會兒292
第13章半監督學習293
13.1未標記樣本293
13.2生成式方法295
13.3半監督SVM 298
13.4圖半監督學習300
13.5基於分歧的方法304
13.6半監督聚類307
13.7閱讀材料311
習題313
參考文獻314
休息一會兒317
第14章概率圖模型319
14.1隱馬爾可夫模型319
14.2馬爾可夫隨機場322
14.3條件隨機場325
14.4學習與推斷328
14.4.1變 消去328
14.4.2信念傳播330
14.5近似推斷331
14.5.1 MCMC採樣331
14.5.2變分推斷334
14.6話題模型337
14.7閱讀材料339
習題341
參考文獻342
休息一會兒345
第15章規則學習347
15.1基本概念347
15.2序貫覆蓋349
15.3剪枝優化352
15.4一階規則學習354
15.5歸納邏輯程序設計357
15.5.1最小一般泛化358
15.5.2逆歸結359
15.6閱讀材料363
習題365
參考文獻366
休息一會兒369
第16章強化學習371
16.1任務與獎賞371
16.2 $K$-搖臂賭博機373
16.2.1探索與利用373
16.2.2 $\epsilon $-貪心374
16.2.3 Softmax 375
16.3有模型學習377
16.3.1策略評估377
16.3.2策略改進379
16.3.3策略迭代與值迭代381
16.4免模型學習382
16.4.1蒙特卡羅強化學習383
16.4.2時序差分學習386
16.5值函數近似388
16.6模仿學習390
16.6. 1直接模仿學習391
16.6.2逆強化學習391
16.7閱讀材料393
習題394
參考文獻395
休息一會兒397
附錄399
A矩陣399
B優化403
C概率分佈409
後 記417
索引419
作者介紹
作者：周志華
周志華，南京大學計算機系教授，ACM傑出科學家，IEEE Fellow, IAPR Fellow, IET/IEE Fellow,中國計算機學會會士。國家傑出青年科學基金獲得者、長江學者特聘教授。先後擔任多種SCI(E)期刊執行主編、副主編、副編輯、編委等。中國計算機學會人工智能與模式識別專業委員會主任，中國人工智能學會機器學習專業委員會主任，IEEE計算智能學會數據挖掘技術委員會副主席。
