PyTorch與深度學(xué)習(xí)實戰(zhàn)

第 1章　深度學(xué)習(xí)概述　1
1.1　深度學(xué)習(xí)簡介　1
1.1.1　深度學(xué)習(xí)的定義　1
1.1.2　深度學(xué)習(xí)的常見應(yīng)用　2
1.2　深度學(xué)習(xí)與應(yīng)用領(lǐng)域　9
1.2.1　深度學(xué)習(xí)與計算機視覺　9
1.2.2　深度學(xué)習(xí)與自然語言處理　10
1.2.3　深度學(xué)習(xí)與語音識別　11
1.2.4　深度學(xué)習(xí)與機器學(xué)習(xí)　12
1.2.5　深度學(xué)習(xí)與人工智能　13
1.3　PyTorch簡介　14
1.3.1　各深度學(xué)習(xí)框架對比　14
1.3.2　PyTorch生態(tài)　16
1.3.3　PyTorch特點　17
1.3.4　PyTorch安裝　17
1.4　PyTorch中的預(yù)訓(xùn)練模型　23
1.4.1　預(yù)訓(xùn)練模型的概念　23
1.4.2　預(yù)訓(xùn)練模型的使用場景　24
1.4.3　PyTorch預(yù)訓(xùn)練模型的調(diào)用方法　25
小結(jié)　26
課后習(xí)題　26
第 2章　PyTorch深度學(xué)習(xí)通用流程　28
2.1　數(shù)據(jù)加載與預(yù)處理　29
2.1.1　數(shù)據(jù)加載　29
2.1.2　數(shù)據(jù)預(yù)處理　30
2.1.3　加載及預(yù)處理貓狗分類數(shù)據(jù)　37
2.2　構(gòu)建網(wǎng)絡(luò)　42
2.2.1　常用的網(wǎng)絡(luò)構(gòu)建方法　42
2.2.2　激活函數(shù)　46
2.2.3　構(gòu)建基于卷積神經(jīng)網(wǎng)絡(luò)的貓狗分類網(wǎng)絡(luò)　50
2.3　編譯網(wǎng)絡(luò)　53
2.3.1　損失函數(shù)　53
2.3.2　優(yōu)化器　56
2.3.3　編譯基于卷積神經(jīng)網(wǎng)絡(luò)的貓狗分類網(wǎng)絡(luò)　59
2.4　訓(xùn)練網(wǎng)絡(luò)　60
2.4.1　迭代次數(shù)　60
2.4.2　批訓(xùn)練　61
2.4.3　訓(xùn)練基于卷積神經(jīng)網(wǎng)絡(luò)的貓狗分類網(wǎng)絡(luò)　61
2.5　性能評估　62
2.5.1　評估指標　62
2.5.2　評估基于卷積神經(jīng)網(wǎng)絡(luò)的貓狗分類模型的性能　63
小結(jié)　66
實訓(xùn)　CIFAR-10圖像分類　66
課后習(xí)題　67
第3章　PyTorch深度學(xué)習(xí)基礎(chǔ)　68
3.1　卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ)　68
3.1.1　常用的卷積神經(jīng)網(wǎng)絡(luò)算法及其結(jié)構(gòu)　68
3.1.2　卷積神經(jīng)網(wǎng)絡(luò)中的常用網(wǎng)絡(luò)層　72
3.1.3　基于卷積神經(jīng)網(wǎng)絡(luò)的手寫數(shù)字識別　87
3.2　循環(huán)神經(jīng)網(wǎng)絡(luò)基礎(chǔ)　97
3.2.1　常用的循環(huán)神經(jīng)網(wǎng)絡(luò)算法及其結(jié)構(gòu)　97
3.2.2　循環(huán)神經(jīng)網(wǎng)絡(luò)中的常用網(wǎng)絡(luò)層　101
3.2.3　基于LSTM網(wǎng)絡(luò)的時間序列分析　111
3.3　生成對抗網(wǎng)絡(luò)基礎(chǔ)　115
3.3.1　常用的生成對抗網(wǎng)絡(luò)算法及其結(jié)構(gòu)　115
3.3.2　基于生成對抗網(wǎng)絡(luò)的手寫數(shù)字圖像生成　119
小結(jié)　126
實訓(xùn)1　基于卷積神經(jīng)網(wǎng)絡(luò)的人臉表情識別　126
實訓(xùn)2　基于循環(huán)神經(jīng)網(wǎng)絡(luò)的文本情感分類　126
實訓(xùn)3　基于生成對抗網(wǎng)絡(luò)的人物圖片生成　127
課后習(xí)題　127
第4章　手寫漢字識別　129
4.1　目標分析　129
4.1.1　背景　129
4.1.2　分析目標　130
4.1.3　項目工程結(jié)構(gòu)　131
4.2　加載數(shù)據(jù)　132
4.2.1　定義生成圖像集路徑文檔的函數(shù)　132
4.2.2　定義讀取并轉(zhuǎn)換圖像數(shù)據(jù)格式的類　133
4.2.3　加載圖像數(shù)據(jù)　134
4.3　構(gòu)建網(wǎng)絡(luò)　135
4.4　編譯網(wǎng)絡(luò)　137
4.5　訓(xùn)練網(wǎng)絡(luò)　138
4.6　性能評估　138
4.7　模型預(yù)測　140
小結(jié)　140
實訓(xùn)　手寫中文數(shù)字識別　141
課后習(xí)題　141
第5章　文本生成　142
5.1　目標分析　142
5.1.1　背景　142
5.1.2　分析目標　143
5.1.3　項目工程結(jié)構(gòu)　143
5.2　文本預(yù)處理　144
5.2.1　處理數(shù)據(jù)　144
5.2.2　創(chuàng)建字典　145
5.2.3　生成序列　146
5.3　構(gòu)建網(wǎng)絡(luò)　148
5.3.1　定義文本生成類的構(gòu)造方法　149
5.3.2　初始化權(quán)重　150
5.3.3　設(shè)置數(shù)據(jù)在網(wǎng)絡(luò)中的流動方向　151
5.4　訓(xùn)練網(wǎng)絡(luò)　153
5.4.1　設(shè)置配置項　153
5.4.2　執(zhí)行訓(xùn)練　154
5.4.3　定義文本生成器　156
5.5　結(jié)果分析　159
小結(jié)　160
實訓(xùn)　基于LSTM網(wǎng)絡(luò)的文本生成　160
課后習(xí)題　161
第6章　基于CycleGAN的圖像風(fēng)格轉(zhuǎn)換　162
6.1　目標分析　162
6.1.1　背景　162
6.1.2　分析目標　163
6.1.3　項目工程結(jié)構(gòu)　164
6.2　數(shù)據(jù)準備　164
6.3　構(gòu)建網(wǎng)絡(luò)　166
6.3.1　殘差網(wǎng)絡(luò)　167
6.3.2　生成器　167
6.3.3　判別器　169
6.3.4　緩存隊列　170
6.4　訓(xùn)練網(wǎng)絡(luò)　171
6.5　結(jié)果分析　175
小結(jié)　176
實訓(xùn)　基于CycleGAN實現(xiàn)冬天與夏天的圖像風(fēng)格轉(zhuǎn)換　176
課后習(xí)題　177
第7章　基于TipDM大數(shù)據(jù)挖掘建模平臺實現(xiàn)文本生成　178
7.1　平臺簡介　178
7.1.1　共享庫　180
7.1.2　數(shù)據(jù)連接　180
7.1.3　數(shù)據(jù)集　180
7.1.4　我的工程　181
7.1.5　個人組件　184
7.2　實現(xiàn)文本生成　184
7.2.1　配置數(shù)據(jù)源　185
7.2.2　文本預(yù)處理　187
7.2.3　構(gòu)建網(wǎng)絡(luò)　189
7.2.4　訓(xùn)練網(wǎng)絡(luò)　191
7.2.5　結(jié)果分析　195
小結(jié)　197
實訓(xùn)　通過TipDM平臺實現(xiàn)基于LSTM網(wǎng)絡(luò)的文本生成　197
課后習(xí)題　197