本書從全新的視角詮釋了機器學習的基本模型和算法，重點討論了當前的兩項研究熱點——神經(jīng)網(wǎng)絡和核方法。全書緊緊圍繞從環(huán)境約束中學習的概念，將符號知識庫作為約束集合，通過采用多值邏輯形式的思想，實現(xiàn)了約束方法與機器學習的深度融合。特別是對深度學習的講解，很好地呈現(xiàn)了本書中所遵循的基于約束的方法。此外，本書還提供不同難度等級的練習及參考答案，適合高等院校計算機相關專業(yè)的學生參考，也適合業(yè)界研究人員和技術人員閱讀。
譯者序
前言
練習說明
第1章整體情況
11為什么機器需要學習
111學習任務
112環(huán)境的符號和子符號表示
113生物和人工神經(jīng)網(wǎng)絡
114學習的協(xié)議
115基于約束的學習
12原則和實踐
121歸納的令人困惑的本質(zhì)
122學習原則
123時間在學習過程中的作用
124注意力機制的聚焦
13實踐經(jīng)驗
131度量實驗的成功
132手寫字符識別
133建立機器學習實驗
134試驗和實驗備注
14機器學習面臨的挑戰(zhàn)
141學習觀察
142語言理解
143生活在自己環(huán)境中的代理
15注釋
第2章學習原則
21環(huán)境約束
211損失函數(shù)與風險函數(shù)
212約束引發(fā)的風險函數(shù)的病態(tài)
213風險最小化
214偏差——方差困境
22統(tǒng)計學習
221最大似然估計
222貝葉斯推理
223貝葉斯學習
224圖形模式
225頻率論和貝葉斯方法
23基于信息的學習
231一個啟發(fā)性的示例
232最大熵原理
233最大相互信息
24簡約原則下的學習
241簡約原則
242最小描述長度
243MDL與正則化
244正則化的統(tǒng)計解釋
25注釋
第3章線性閾值機
31線性機
311正規(guī)方程
312待定問題和廣義逆
313嶺回歸
314原始表示和對偶表示
32包含閾值單元的線性機
321謂詞階數(shù)和表示性問題
322線性可分示例的最優(yōu)性
323無法分離的線性可分
33統(tǒng)計視圖
331貝葉斯決策和線性判別分析
332邏輯回歸
333符合貝葉斯決策的獨立原則
334統(tǒng)計框架中的LMS
34算法問題
341梯度下降
342隨機梯度下降
343感知機算法
344復雜性問題
35注釋
第4章核方法
41特征空間
411多項式預處理
412布爾富集
413不變的特征匹配
414高維空間中的線性可分性
42最大邊際問題
421線性可分下的分類
422處理軟約束問題
423回歸
43核函數(shù)
431相似性與核技巧
432內(nèi)核表征
433再生核映射
434內(nèi)核類型
44正則化
441正則化的風險
442在RKHS上的正則化
443最小化正則化風險
444正則化算子
45注釋
第5章深層結(jié)構
51結(jié)構性問題
511有向圖及前饋神經(jīng)網(wǎng)絡
512深層路徑
513從深層結(jié)構到松弛結(jié)構
514分類器、回歸器和自動編碼器
52布爾函數(shù)的實現(xiàn)
521“與或”門的典型實現(xiàn)
522通用的“與非”實現(xiàn)
523淺層與深層實現(xiàn)
524基于LTU的實現(xiàn)和復雜性問題
53實值函數(shù)實現(xiàn)
531基于幾何的計算實現(xiàn)
532通用近似
533解空間及分離表面
534深層網(wǎng)絡和表征問題
54卷積網(wǎng)絡
541內(nèi)核、卷積和感受野
542合并不變性
543深度卷積網(wǎng)絡
55前饋神經(jīng)網(wǎng)絡上的學習
551監(jiān)督學習
552反向傳播
553符號微分以及自動求導法則
554正則化問題
56復雜度問題
561關于局部最小值的問題
562面臨飽和
563復雜性與數(shù)值問題
57注釋
第6章約束下的學習與推理
61約束機
611學習和推理
612約束環(huán)境的統(tǒng)一視圖
613學習任務的函數(shù)表示
614約束下的推理
62環(huán)境中的邏輯約束
621形式邏輯與推理的復雜度
622含符號和子符號的環(huán)境
623t范數(shù)
624ukasiewicz命題邏輯
63擴散機
631數(shù)據(jù)模型
632時空環(huán)境中的擴散
633循環(huán)神經(jīng)網(wǎng)絡
64算法問題
641基于內(nèi)容的逐點約束
642輸入空間中的命題約束
643線性約束的監(jiān)督學習
644擴散約束下的學習
65終身學習代理
651認知行為及時間流動
652能量平衡
653焦點關注、教學及主動學習
654發(fā)展學習
66注釋
第7章結(jié)語
第8章練習答案
附錄A有限維的約束優(yōu)化
附錄B正則算子
附錄C變分計算
附錄D符號索引
參考文獻（在線）
可以訪問華章圖書官網(wǎng)http://www.hzbook.com，通過注冊并登錄個人賬號下載。——編輯注
書單推薦
