深度學習原理與 PyTorch 實戰
內容描述
本書是一本系統介紹深度學習及開源框架PyTorch的入門書。全書註重實戰,每章圍繞一個有意思的實戰案例展開,不僅循序漸進地講解了PyTorch的基本使用、神經網絡的搭建、捲積神經網絡和循環神經網絡的實現,而且全面深入地介紹了電腦視覺、自然語言處理、遷移學習,以及對抗學習和深度強化學習等前沿技術。讀者通過閱讀本書,可以輕松入門深度學習,學會構造一個圖像識別器,生成逼真的圖畫,讓機器理解單詞與文本,讓機器作曲,教會機器玩游戲,還可以實現一個簡單的機器翻譯系統。
本書適用於人工智能行業的軟件工程師、對人工智能感興趣的學生,也非常適合作為深度學習培訓教程。
目錄大綱
目錄
第1章深度學習簡介1
1.1深度學習與人工智能1
1.2深度學習的歷史淵源2
1.2.1從感知機到人工神經網絡3
1.2.2深度學習時代4
1.2.3巨頭之間的角逐5
1.3深度學習的影響因素6
1.3.1大數據6
1.3.2深度網絡架構7
1.3.3 GPU 11
1.4深度學習為什麼如此成功11
1.4. 1特徵學習(representation learning) 11
1.4.2遷移學習(transfer learning) 12
1.5小結13
參考文獻14
第2章PyTorch簡介15
2.1 PyTorch安裝15
2.2初識PyTorch 15
2.2.1與Python的美融合16
2.2 .2張量計算16
2.2.3動態計算圖20
2.3 PyTorch實例:預測房價27
2.3.1準備數據27
2.3.2模型設計28
2.3.3訓練29
2.3.4預測31
2.3.5術語彙總32
2.4小結33
第3章單車預測器:你的第一個
神經網絡35
3.1共享單車的煩惱35
3.2單車預測器1.0 37
3.2.1神經網絡簡介37
3.2.2人工神經元38
3.2.3兩個隱含層神經元40
3.2.4訓練與運行42
3.2.5失敗的神經預測器43
3.2.6過擬合48
3.3單車預測器2.0 49
3.3.1數據的預處理過程49
3.3.2構建神經網絡52
3.3.3測試神經網絡55
3.4剖析神經網絡Neu 57
3.5小結61
3.6 Q&A 61
第4章機器也懂感情——中文情緒
分類器63
4.1神經網絡分類器64
4.1.1如何用神經網絡做分類64
4.1.2分類問題的損失函數66
4.2詞袋模型分類器67
4.2.1詞袋模型簡介68
4.2 .2搭建簡單文本分類器69
4.3程序實現70
4.3.1數據獲取70
4.3.2數據處理74
4.3.3文本數據向量化75
4.3.4劃分數據集76
4.3.5建立神經網絡78
4.4運行結果80
4.5剖析神經網絡81
4.6小結85
4.7 Q&A 85
第5章手寫數字識別器——認識卷積
神經網絡87
5.1什麼是卷積神經網絡88
5.1.1手寫數字識別任務的CNN
網絡及運算過程88
5.1.2卷積運算操作90
5.1.3池化操作96
5.1.4立體卷積核97
5.1.5超參數與參數98
5.1.6其他說明99
5.2手寫數字識別器100
5.2.1數據準備100
5.2.2構建網絡103
5.2.3運行模型105
5.2.4測試模型106
5.3剖析卷積神經網絡107
5.3.1第一層卷積核與特徵圖107
5.3.2 二層卷積核與特徵圖109
5.3.3卷積神經網絡的健壯性試驗110
5.4小結112
5.5 Q&A 112
5.6擴展閱讀112
第6章手寫數字加法機——遷移學習113
6.1什麼是遷移學習114
6.1.1遷移學習的由來114
6.1.2遷移學習的分類115
6.1.3遷移學習的意義115
6.1.4如何用神經網絡實現遷移
學習116
6.2應用案例:遷移學習如何抗擊貧困118
6.2.1背景介紹118
6.2.2方法探尋119
6.2.3遷移學習方法120
6.3螞蟻還是蜜蜂:遷移大型捲積神經
網絡121
6.3.1任務描述與初步嘗試121
6.3.2 ResNet與模型遷移122
6.3.3代碼實現123
6.3 .4結果分析127
6.3.5更多的模型與數據128
6.4手寫數字加法機128
6.4.1網絡架構128
6.4.2代碼實現129
6.4.3訓練與測試136
6.4.4結果138
6.4.5大規模實驗138
6.5小結143
6.6實踐項目:遷移與效率143
第7章你自己的Prisma——圖像
風格遷移145
7.1什麼是風格遷移145
7.1.1什麼是風格145
7.1.2風格遷移的涵義146
7.2風格遷移技術發展簡史147
7.2.1神經網絡之前的風格遷移147
7.2.2特定風格的實現148
7.3神經網絡風格遷移149
7.3.1神經網絡風格遷移的優勢150
7.3.2神經網絡風格遷移的基本
思想150
7.3.3卷積神經網絡的選取151
7.3.4內容損失152
7.3.5風格損失152
7.3.6風格損失原理分析153
7.3. 7損失函數與優化156
7.4神經網絡風格遷移實戰157
7.4.1準備工作157
7.4.2建立風格遷移網絡159
7.4.3風格遷移訓練162
7.5小結165
7.6擴展閱讀165
第8章人工智能造假術——圖像生成
與對抗學習166
8.1反捲積與圖像生成169
8.1.1 CNN回顧169
8.1.2反捲積操作171
8.1.3反池化過程173
8.1.4反捲積與分數步伐174
8.1.5輸出圖像尺寸公式175
8.1.6批正則化技術176
8.2圖像生成實驗1——小均方誤差
模型177
8.2.1模型思路177
8.2.2代碼實現178
8.2.3運行結果182
8.3圖像生成實驗2——生成器-識別器
模型184
8.3.1生成器-識別器模型的實現184
8.3.2對抗樣本187
8.4圖像生成實驗3——生成對抗網絡
GAN 190
8.4.1 GAN的總體架構191
8.4.2程序實現192
8.4.3結果展示195
8.5小結197
8.6 Q&A 197
8.7擴展閱讀198
第9章詞彙的星空——神經語言模型
與Word2Vec 199
9.1詞向量技術介紹199
9.1.1初識詞向量199
9.1.2傳統編碼方式200
9.2 NPLM:神經概率語言模型201
9.2.1 NPLM的基本思想202
9.2.2 NPLM的運作過程詳解202
9.2.3讀取NPLM中的詞向量205
9.2.4 NPLM的編碼實現206
9.2.5運行結果209
9.2.6 NPLM的總結與局限211
9.3 Word2Vec 211
9.3.1 CBOW模型和Skip-gram模型的結構211
9.3.2層級軟大213
9.3.3負採樣213
9.3.4總結及分析214
9.4 Word2Vec的應用214
9.4.1在自己的語料庫上訓練Word2Vec詞向量214
9.4.2調用現成的詞向量216
9.4. 3女人-男人=皇后-國王218
9.4.4使用向量的空間位置進行詞對詞翻譯220
9.4.5 Word2Vec小結221
9.5小結221
9.5 Q&A 222
第10章LSTM作曲機——序列生成
模型224
10.1序列生成問題224
10.2 RNN與LSTM 225
10.2.1 RNN 226
10.2.2 LSTM 231
10.3簡單01序列的學習問題235
10.3.1 RNN的序列學習236
10.3.2 LSTM的序列學習245
10.4 LSTM作曲機248
10.4.1 MIDI文件248
10.4.2數據準備249
10.4.3模型結構249
10.4.4代碼實現250
10.5小結259
10.6 Q&A 259
10.7擴展閱讀259
作者介紹
集智俱樂部(Swarma Club),成立於2003年,是一個從事學術研究、享受科學樂趣的探索者團體。倡導以平等開放的態度、科學實證的精神,進行跨學科的研究與交流,力圖搭建一個中國的“沒有圍牆的研究所”。目前已出版著作有《科學的**致:漫談人工智能》和《走近2050:注意力、互聯網與人工智能》,譯作有《深度思考:人工智能的終點與人類創造力的起點》。