第 1章　深度學(xué)習(xí)概述　1 1.1　深度學(xué)習(xí)簡介　1 1.1.1　深度學(xué)習(xí)的定義　1 1.1.2　深度學(xué)習(xí)的常見應(yīng)用　2 1.2　深度學(xué)習(xí)與應(yīng)用領(lǐng)域　9 1.2.1　深度學(xué)習(xí)與計(jì)算機(jī)視覺　9 1.2.2　深度學(xué)習(xí)與自然語言處理　10 1.2.3　深度學(xué)習(xí)與語音識(shí)別　11 1.2.4　深度學(xué)習(xí)與機(jī)器學(xué)習(xí)　12 1.2.5　深度學(xué)習(xí)與人工智能　13 1.3　PyTorch簡介　14 1.3.1　各深度學(xué)習(xí)框架對(duì)比　14 1.3.2　PyTorch生態(tài)　16 1.3.3　PyTorch特點(diǎn)　17 1.3.4　PyTorch安裝　17 1.4　PyTorch中的預(yù)訓(xùn)練模型　23 1.4.1　預(yù)訓(xùn)練模型的概念　23 1.4.2　預(yù)訓(xùn)練模型的使用場景　24 1.4.3　PyTorch預(yù)訓(xùn)練模型的調(diào)用方法　25 小結(jié)　26 課后習(xí)題　26 第 2章　PyTorch深度學(xué)習(xí)通用流程　28 2.1　數(shù)據(jù)加載與預(yù)處理　29 2.1.1　數(shù)據(jù)加載　29 2.1.2　數(shù)據(jù)預(yù)處理　30 2.1.3　加載及預(yù)處理貓狗分類數(shù)據(jù)　37 2.2　構(gòu)建網(wǎng)絡(luò)　42 2.2.1　常用的網(wǎng)絡(luò)構(gòu)建方法　42 2.2.2　激活函數(shù)　46 2.2.3　構(gòu)建基于卷積神經(jīng)網(wǎng)絡(luò)的貓狗分類網(wǎng)絡(luò)　50 2.3　編譯網(wǎng)絡(luò)　53 2.3.1　損失函數(shù)　53 2.3.2　優(yōu)化器　56 2.3.3　編譯基于卷積神經(jīng)網(wǎng)絡(luò)的貓狗分類網(wǎng)絡(luò)　59 2.4　訓(xùn)練網(wǎng)絡(luò)　60 2.4.1　迭代次數(shù)　60 2.4.2　批訓(xùn)練　61 2.4.3　訓(xùn)練基于卷積神經(jīng)網(wǎng)絡(luò)的貓狗分類網(wǎng)絡(luò)　61 2.5　性能評(píng)估　62 2.5.1　評(píng)估指標(biāo)　62 2.5.2　評(píng)估基于卷積神經(jīng)網(wǎng)絡(luò)的貓狗分類模型的性能　63 小結(jié)　66 實(shí)訓(xùn)　CIFAR-10圖像分類　66 課后習(xí)題　67 第3章　PyTorch深度學(xué)習(xí)基礎(chǔ)　68 3.1　卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ)　68 3.1.1　常用的卷積神經(jīng)網(wǎng)絡(luò)算法及其結(jié)構(gòu)　68 3.1.2　卷積神經(jīng)網(wǎng)絡(luò)中的常用網(wǎng)絡(luò)層　72 3.1.3　基于卷積神經(jīng)網(wǎng)絡(luò)的手寫數(shù)字識(shí)別　87 3.2　循環(huán)神經(jīng)網(wǎng)絡(luò)基礎(chǔ)　97 3.2.1　常用的循環(huán)神經(jīng)網(wǎng)絡(luò)算法及其結(jié)構(gòu)　97 3.2.2　循環(huán)神經(jīng)網(wǎng)絡(luò)中的常用網(wǎng)絡(luò)層　101 3.2.3　基于LSTM網(wǎng)絡(luò)的時(shí)間序列分析　111 3.3　生成對(duì)抗網(wǎng)絡(luò)基礎(chǔ)　115 3.3.1　常用的生成對(duì)抗網(wǎng)絡(luò)算法及其結(jié)構(gòu)　115 3.3.2　基于生成對(duì)抗網(wǎng)絡(luò)的手寫數(shù)字圖像生成　119 小結(jié)　126 實(shí)訓(xùn)1　基于卷積神經(jīng)網(wǎng)絡(luò)的人臉表情識(shí)別　126 實(shí)訓(xùn)2　基于循環(huán)神經(jīng)網(wǎng)絡(luò)的文本情感分類　126 實(shí)訓(xùn)3　基于生成對(duì)抗網(wǎng)絡(luò)的人物圖片生成　127 課后習(xí)題　127 第4章　手寫漢字識(shí)別　129 4.1　目標(biāo)分析　129 4.1.1　背景　129 4.1.2　分析目標(biāo)　130 4.1.3　項(xiàng)目工程結(jié)構(gòu)　131 4.2　加載數(shù)據(jù)　132 4.2.1　定義生成圖像集路徑文檔的函數(shù)　132 4.2.2　定義讀取并轉(zhuǎn)換圖像數(shù)據(jù)格式的類　133 4.2.3　加載圖像數(shù)據(jù)　134 4.3　構(gòu)建網(wǎng)絡(luò)　135 4.4　編譯網(wǎng)絡(luò)　137 4.5　訓(xùn)練網(wǎng)絡(luò)　138 4.6　性能評(píng)估　138 4.7　模型預(yù)測　140 小結(jié)　140 實(shí)訓(xùn)　手寫中文數(shù)字識(shí)別　141 課后習(xí)題　141 第5章　文本生成　142 5.1　目標(biāo)分析　142 5.1.1　背景　142 5.1.2　分析目標(biāo)　143 5.1.3　項(xiàng)目工程結(jié)構(gòu)　143 5.2　文本預(yù)處理　144 5.2.1　處理數(shù)據(jù)　144 5.2.2　創(chuàng)建字典　145 5.2.3　生成序列　146 5.3　構(gòu)建網(wǎng)絡(luò)　148 5.3.1　定義文本生成類的構(gòu)造方法　149 5.3.2　初始化權(quán)重　150 5.3.3　設(shè)置數(shù)據(jù)在網(wǎng)絡(luò)中的流動(dòng)方向　151 5.4　訓(xùn)練網(wǎng)絡(luò)　153 5.4.1　設(shè)置配置項(xiàng)　153 5.4.2　執(zhí)行訓(xùn)練　154 5.4.3　定義文本生成器　156 5.5　結(jié)果分析　159 小結(jié)　160 實(shí)訓(xùn)　基于LSTM網(wǎng)絡(luò)的文本生成　160 課后習(xí)題　161 第6章　基于CycleGAN的圖像風(fēng)格轉(zhuǎn)換　162 6.1　目標(biāo)分析　162 6.1.1　背景　162 6.1.2　分析目標(biāo)　163 6.1.3　項(xiàng)目工程結(jié)構(gòu)　164 6.2　數(shù)據(jù)準(zhǔn)備　164 6.3　構(gòu)建網(wǎng)絡(luò)　166 6.3.1　殘差網(wǎng)絡(luò)　167 6.3.2　生成器　167 6.3.3　判別器　169 6.3.4　緩存隊(duì)列　170 6.4　訓(xùn)練網(wǎng)絡(luò)　171 6.5　結(jié)果分析　175 小結(jié)　176 實(shí)訓(xùn)　基于CycleGAN實(shí)現(xiàn)冬天與夏天的圖像風(fēng)格轉(zhuǎn)換　176 課后習(xí)題　177 第7章　基于TipDM大數(shù)據(jù)挖掘建模平臺(tái)實(shí)現(xiàn)文本生成　178 7.1　平臺(tái)簡介　178 7.1.1　共享庫　180 7.1.2　數(shù)據(jù)連接　180 7.1.3　數(shù)據(jù)集　180 7.1.4　我的工程　181 7.1.5　個(gè)人組件　184 7.2　實(shí)現(xiàn)文本生成　184 7.2.1　配置數(shù)據(jù)源　185 7.2.2　文本預(yù)處理　187 7.2.3　構(gòu)建網(wǎng)絡(luò)　189 7.2.4　訓(xùn)練網(wǎng)絡(luò)　191 7.2.5　結(jié)果分析　195 小結(jié)　197 實(shí)訓(xùn)　通過TipDM平臺(tái)實(shí)現(xiàn)基于LSTM網(wǎng)絡(luò)的文本生成　197 課后習(xí)題　197