目錄
第1章 人工智能概念與發(fā)展 1
1.1 人工智能概念 1
1.1.1 定義 1
1.1.2 判斷方法 4
1.1.3 模型 6
1.1.4 表示 7
1.1.5 推理 8
1.1.6 學(xué)習(xí) 10
1.1.7 優(yōu)化 13
1.1.8 深度學(xué)習(xí) 14
1.2 人工智能的發(fā)展簡(jiǎn)史 15
1.2.1 人工智能的提出 16
1.2.2 推理與證明 16
1.2.3 危機(jī) 17
1.2.4 專家系統(tǒng) 17
1.2.5 重生 18
1.3 人工智能學(xué)派 19
1.3.1 符號(hào)主義 19
1.3.2 連接主義 20
1.3.3 行為主義 20
1.3.4 另一種分類 21
1.4 小結(jié) 22
習(xí)題 23
第2章 知識(shí)表示 24
2.1 基本概念 24
2.1.1 數(shù)據(jù) 24
2.1.2 信息 24
2.1.3 知識(shí) 25
2.1.4 人工智能中的知識(shí)表示 26
2.2 狀態(tài)空間圖 28
2.3 問(wèn)題歸約 30
2.4 謂詞邏輯 32
2.4.1 命題 32
2.4.2 謂詞邏輯表示 33
2.5 語(yǔ)義網(wǎng)絡(luò) 37
2.5.1 語(yǔ)義基元 38
2.5.2 常見(jiàn)的語(yǔ)義聯(lián)系 38
2.6 不確定知識(shí)表示 40
2.7 其他表示方法 41
2.7.1 規(guī)則表示 41
2.7.2 框架表示 42
2.7.3 腳本表示 43
2.7.4 面向?qū)ο蟊硎?44
2.7.5 智能體Agent 45
2.8 小結(jié) 46
習(xí)題 46
第3章 確定性與不確定性推理 48
3.1 圖搜索策略 48
3.1.1 盲目搜索 48
3.1.2 啟發(fā)式搜索 55
3.2 命題邏輯推理 58
3.2.1 完全歸納法 59
3.2.2 反演法 59
3.3 語(yǔ)義網(wǎng)絡(luò)推理 61
3.4 產(chǎn)生式系統(tǒng) 62
3.5 不確定性推理 65
3.5.1 事件概率 65
3.5.2 貝葉斯推理 67
3.6 小結(jié) 69
習(xí)題 69
第4章 神經(jīng)網(wǎng)絡(luò) 71
4.1 計(jì)算智能 71
4.2 人工神經(jīng)網(wǎng)絡(luò)相關(guān)概念 72
4.2.1 并行分布處理 73
4.2.2 非線性映射 73
4.2.3 訓(xùn)練學(xué)習(xí) 74
4.3 人工神經(jīng)元結(jié)構(gòu)與激活函數(shù) 74
4.3.1 生物神經(jīng)元結(jié)構(gòu) 74
4.3.2 人工神經(jīng)元結(jié)構(gòu) 75
4.3.3 神經(jīng)元中的激發(fā)函數(shù) 75
4.4 人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) 76
4.4.1 人工神經(jīng)網(wǎng)絡(luò)的一般結(jié)構(gòu) 76
4.4.2 對(duì)比生物神經(jīng)網(wǎng)絡(luò) 78
4.5 前饋網(wǎng)絡(luò)與反饋網(wǎng)絡(luò) 78
4.5.1 前饋神經(jīng)網(wǎng)絡(luò) 78
4.5.2 反饋神經(jīng)網(wǎng)絡(luò) 79
4.6 表示與推理 82
4.6.1 基于神經(jīng)網(wǎng)絡(luò)的知識(shí)表示與推理 82
4.6.2 與邏輯 83
4.6.3 異或邏輯 84
4.6.4 基于神經(jīng)網(wǎng)絡(luò)的推理 85
4.6.5 神經(jīng)網(wǎng)絡(luò)的泛化能力 85
4.7 應(yīng)用領(lǐng)域 86
4.8 小結(jié) 87
習(xí)題 87
第5章 進(jìn)化算法 89
5.1 發(fā)展背景 89
5.2 進(jìn)化策略 90
5.3 進(jìn)化規(guī)劃 91
5.4 遺傳算法 92
5.4.1 染色體編碼與解碼 94
5.4.2 初始種群 96
5.4.3 適應(yīng)度函數(shù) 96
5.4.4 遺傳操作 97
5.5 小結(jié) 104
習(xí)題 105
第6章 群體智能 106
6.1 發(fā)展背景 106
6.2 社會(huì)系統(tǒng) 107
6.3 粒子群算法 108
6.3.1 基本思路 108
6.3.2 算法描述 108
6.3.3 慣性因子討論 109
6.3.4 標(biāo)準(zhǔn)PSO算法 110
6.4 蟻群算法 116
6.4.1 基本原理 116
6.4.2 蟻群TSP系統(tǒng)模型 117
6.4.3 函數(shù)優(yōu)化 120
6.5 小結(jié) 122
習(xí)題 123
第7章 機(jī)器學(xué)習(xí)基礎(chǔ) 125
7.1 機(jī)器學(xué)習(xí)的定義和發(fā)展歷史 125
7.1.1 機(jī)器學(xué)習(xí)定義 125
7.1.2 發(fā)展歷程 126
7.1.3 相關(guān)概念 127
7.1.4 過(guò)程模型 128
7.1.5 常用機(jī)器學(xué)習(xí)模型 129
7.2 歸納與回歸 130
7.2.1 數(shù)據(jù)歸納處理 130
7.2.2 回歸 131
7.2.3 過(guò)擬合與欠擬合 134
7.3 分類分析 136
7.3.1 決策樹(shù) 136
7.3.2 樸素貝葉斯模型 140
7.3.3 支持向量機(jī) 142
7.3.4 k近鄰 146
7.3.5 集成學(xué)習(xí) 150
7.4 聚類分析 153
7.4.1 k-means算法 154
7.4.2 基于密度的聚類方法DBSCAN 156
7.4.3 層次聚類法 158
7.5 小結(jié) 161
習(xí)題 161
第8章 模型度量 163
8.1 偏差與方差 163
8.1.1 偏差 163
8.1.2 方差與標(biāo)準(zhǔn)差 164
8.1.3 偏差-方差平衡 166
8.1.4 均方誤差 167
8.2 準(zhǔn)確率和錯(cuò)誤率 167
8.3 精確率、召回率、F1分?jǐn)?shù) 168
8.4 ROC曲線 171
8.4.1 ROC曲線定義 171
8.4.2 ROC曲線繪制 172
8.5 AUC值 174
8.6 交叉驗(yàn)證 175
8.7 小結(jié) 176
習(xí)題 176
第9章 異常檢測(cè) 177
9.1 統(tǒng)計(jì)方法 177
9.1.1 3??方法 177
9.1.2 箱線圖 179
9.2 密度方法 181
9.2.1 LOF 181
9.2.2 DBSCAN 185
9.3 基于距離的方法 186
9.3.1 孤立森林 186
9.3.2 k-NN 189
9.4 本章小結(jié) 190
習(xí)題 191
第10章 梯度下降 193
10.1 擬合 193
10.2 梯度下降法的基本原理 194
10.2.1 公式變換 194
10.2.2 方向?qū)��?shù)與梯度 195
10.2.3 梯度表示與計(jì)算 196
10.2.4 算法描述 196
10.2.5 隨機(jī)梯度下降法 201
10.3 模型函數(shù) 202
10.3.1 假設(shè)函數(shù) 202
10.3.2 損失函數(shù) 202
10.3.3 代價(jià)函數(shù)與目標(biāo)函數(shù) 210
10.4 本章小結(jié) 212
習(xí)題 212
第11章 邏輯回歸 214
11.1 邏輯分布 214
11.2 決策邊界 215
11.3 線性模型與非線性模型 216
11.4 邏輯回歸算法 218
11.4.1 邏輯回歸模型的假設(shè)函數(shù) 218
11.4.2 邏輯回歸的代價(jià)函數(shù)與目標(biāo)函數(shù) 221
11.4.3 計(jì)算參數(shù)w、b：梯度下降 222
11.5 Softmax回歸 223
11.5.1 多分類問(wèn)題 223
11.5.2 Softmax回歸模型 224
11.6 判別模型與生成模型 226
11.6.1 判別模型 227
11.6.2 生成模型 227
11.7 本章小結(jié) 228
習(xí)題 228
第12章 BP神經(jīng)網(wǎng)絡(luò) 230
12.1 復(fù)合函數(shù)梯度計(jì)算 230
12.2 邏輯回歸函數(shù)梯度計(jì)算 232
12.2.1 單樣本情況的梯度計(jì)算 232
12.2.2 多樣本情況的梯度計(jì)算 233
12.3 BP神經(jīng)網(wǎng)絡(luò)的基本原理 234
12.3.1 BP神經(jīng)網(wǎng)絡(luò)的假設(shè)函數(shù) 234
12.3.2 BP神經(jīng)網(wǎng)絡(luò)的代價(jià)函數(shù) 235
12.3.3 前向傳播 236
12.3.4 反向傳播 236
12.4 應(yīng)用BP神經(jīng)網(wǎng)絡(luò)的步驟 247
12.5 本章小結(jié) 247
習(xí)題 248
第13章 深度學(xué)習(xí) 249
13.1 發(fā)展背景 249
13.2 神經(jīng)網(wǎng)絡(luò)的興起 250
13.2.1 大數(shù)據(jù)的支撐 250
13.2.2 全連接網(wǎng)絡(luò)的缺陷 251
13.3 卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) 252
13.3.1 輸入層 253
13.3.2 卷積層 254
13.3.3 非線性層 262
13.3.4 池化層 265
13.3.5 全連接層 267
13.3.6 輸出層 269
13.4 網(wǎng)絡(luò)訓(xùn)練 270
13.4.1 訓(xùn)練方法 270
13.4.2 預(yù)訓(xùn)練與微調(diào) 271
13.5 小結(jié) 272
習(xí)題 272
第14章 自然語(yǔ)言處理 274
14.1 發(fā)展背景 274
14.2 語(yǔ)言模型 275
14.2.1 基礎(chǔ)模型 275
14.2.2 n-gram模型 276
14.3 詞向量 278
14.3.1 離散式表示 279
14.3.2 分布式表示 283
14.4 神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型 291
14.5 預(yù)訓(xùn)練模型 294
14.6 小結(jié) 294
習(xí)題 295
參考文獻(xiàn) 296