GAN：實戰(zhàn)生成對抗網(wǎng)絡

前言
1 深度學習概述
1.1 深度學習的演化
1.1.1 sigmoid激發(fā)
1.1.2 修正線性單元（ReLU）
1.1.3 指數(shù)線性單元（ELU）
1.1.4 隨機梯度下降（SGD）
1.1.5 學習速率調(diào)優(yōu)
1.1.6 正則化
1.1.7 權(quán)重分享以及池化
1.1.8 局部感受野
1.1.9 卷積網(wǎng)絡（ConvNet）
1.2 逆卷積/轉(zhuǎn)置卷積
1.2.1 遞歸神經(jīng)網(wǎng)絡和LSTM
1.2.2 深度神經(jīng)網(wǎng)絡
1.2.3 判別模型和生成模型的對比
1.3 總結(jié)
2 無監(jiān)督學習GAN
2.1 利用深度神經(jīng)網(wǎng)絡自動化人類任務
2.1.1 GAN的目的
2.1.2 現(xiàn)實世界的一個比喻
2.1.3 GAN的組成
2.2 GAN的實現(xiàn)
2.2.1 GAN的應用
2.2.2 在Keras上利用DCGAN實現(xiàn)圖像生成
2.2.3 利用TensorFlow實現(xiàn)SSGAN
2.3 GAN模型的挑戰(zhàn)
2.3.1 啟動及初始化的問題
2.3.2 模型坍塌
2.3.3 計數(shù)方面的問題
2.3.4 角度方面的問題
2.3.5 全局結(jié)構(gòu)方面的問題
2.4 提升GAN訓練效果的方法
2.4.1 特征匹配
2.4.2 小批量
2.4.3 歷史平均
2.4.4 單側(cè)標簽平滑
2.4.5 輸入規(guī)范化
2.4.6 批規(guī)范化
2.4.7 利用ReLU和MaxPool避免稀疏梯度
2.4.8 優(yōu)化器和噪聲
2.4.9 不要僅根據(jù)統(tǒng)計信息平衡損失
2.5 總結(jié)
3 圖像風格跨域轉(zhuǎn)換
3.1 彌補監(jiān)督學習和無監(jiān)督學習之間的空隙
3.2 條件GAN介紹
3.2.1 利用CGAN生成時尚衣柜
3.2.2 利用邊界均衡固化GAN訓練
3.3 BEGAN的訓練過程
3.3.1 BEGAN的架構(gòu)
3.3.2 利用TensorFlow實現(xiàn)BEGAN
3.4 利用CycleGAN實現(xiàn)圖像風格的轉(zhuǎn)換
3.4.1 CycleGAN的模型公式
3.4.2 利用TensorFlow將蘋果變成橘子
3.4.3 利用CycleGAN將馬變?yōu)榘唏R
3.5 總結(jié)
4 從文本構(gòu)建逼真的圖像
4.1 StackGAN介紹
4.1.1 條件強化
4.1.2 StackGAN的架構(gòu)細節(jié)
4.1.3 利用TensorFlow從文本生成圖像
4.2 利用DiscoGAN探索跨域的關(guān)系
4.2.1 DiscoGAN架構(gòu)以及模型公式
4.2.2 DiscoGAN的實現(xiàn)
4.3 利用PyTorch從邊框生成手提包
4.4 利用PyTorch進行性別轉(zhuǎn)換
4.5 DiscoGAN和CycleGAN的對比
4.6 總結(jié)
5 利用多種生成模型生成圖像
5.1 遷移學習介紹
5.1.1 遷移學習的目的
5.1.2 多種利用預訓練模型的方法
5.1.3 利用Keras對車、貓、狗和花進行分類
5.2 利用Apache Spark進行大規(guī)模深度學習
5.2.1 利用Spark深度學習模塊運行預訓練模型
5.2.2 利用BigDL運行大規(guī)模手寫數(shù)字識別
5.2.3 利用SRGAN生成高清晰度圖像
5.2.4 SRGAN的架構(gòu)
5.3 利用DeepDream生成夢幻的藝術(shù)圖像
5.4 在TensorFlow上利用VAE生成手寫數(shù)字
5.5 VAE在真實世界的比喻
5.6 GAN和VAE兩個生成模型的比較
5.7 總結(jié)
6 將機器學習帶入生產(chǎn)環(huán)境
6.1 利用DCGAN構(gòu)建一個圖像矯正系統(tǒng)
6.1.1 構(gòu)建圖像矯正系統(tǒng)的步驟
6.1.2 在生產(chǎn)環(huán)境部署模型的挑戰(zhàn)
6.2 利用容器的微服務架構(gòu)
6.2.1 單體架構(gòu)的缺陷
6.2.2 微服務架構(gòu)的優(yōu)點
6.2.3 使用容器的優(yōu)點
6.3 部署深度模型的多種方法
6.3.1 方法1——離線建模和基于微服務的容器化部署
6.3.2 方法2——離線建模和無服務器部署
6.3.3 方法3——在線學習
6.3.4 方法4——利用托管機器學習服務
6.4 在Docker上運行基于Keras的深度模型
6.5 在GKE上部署深度模型
6.6 利用AWS Lambda和Polly進行無服務器的圖像識別并生成音頻
6.6.1 修改Lambda環(huán)境下代碼和包的步驟
6.6.2 利用云托管服務進行人臉識別
6.7 總結(jié)