第2版前言
“我們信靠上帝，其他的只信數(shù)據(jù)！”
— 威廉·愛德華·戴明(William Edwards Deming, 1900—1993) ①②
本書第1 版受到了廣大讀者的肯定和歡迎，讓我們備受鼓舞。同時(shí)，自此書出版以來，統(tǒng)計(jì)學(xué)習(xí)領(lǐng)域的研究步伐也日新月異。這些促使我們將本書更新至第2 版。
我們?cè)黾恿? 章新的內(nèi)容，并更新了已有章節(jié)的部分內(nèi)容�？紤]到許多讀者對(duì)第1 版的布局比較熟悉，我們嘗試了盡量少改動(dòng)本書的結(jié)構(gòu)。下表總結(jié)一些主要的變化。
章 新增內(nèi)容
1. 概述
2. 監(jiān)督學(xué)習(xí)綜述
3. 回歸的線性方法 最小角度回歸（Least Angle Regression，LAR）
算法和Lasso 的推廣
4. 分類的線性方法 用于邏輯斯特回歸（logistic）的Lasso 路徑
5. 基展開與正則化 增加了對(duì)重建核希爾伯特空間（RKHS）的描述
6. 核平滑方法
7. 模型的評(píng)估和選擇 交叉驗(yàn)證的優(yōu)勢(shì)和陷阱
8. 模型的推斷和平均
9. 加性模型、樹和相關(guān)方法
10. Boosting 和加性樹 一個(gè)生態(tài)學(xué)的新示例, 一些內(nèi)容被轉(zhuǎn)到第16章
11. 神經(jīng)網(wǎng)絡(luò) 貝葉斯神經(jīng)網(wǎng)和NIPS 2003 挑戰(zhàn)
12. 支持向量機(jī)和柔性判別分析 支持向量機(jī)（SVM）分類器的路徑算法
13. 原型方法與最近鄰
14. 非監(jiān)督學(xué)習(xí) 譜聚類，核主成分分析（PCA），稀疏PCA，非
負(fù)矩陣分解中的典型分析，非線性維數(shù)約簡(jiǎn)，谷
歌的頁面排名（Page Rank）算法，一個(gè)實(shí)現(xiàn)獨(dú)
立分量分析（ICA）的直接方法
15. 隨機(jī)森林 新
16. 集成學(xué)習(xí) 新
17. 無向圖模型 新
18. 高維問題：?? ? ?? 新
① 在網(wǎng)絡(luò)上，這一引語曾經(jīng)廣泛認(rèn)為是戴明（Deming）和海登（Robert W. Hayden）提出的。
然而，海登教授告訴我們，他從未說過此話。比較搞笑的是，我們也沒有找到“數(shù)據(jù)”來證實(shí)戴
明實(shí)際上說過這句話。
② 中文版編注：在NASA 有一間會(huì)議室的墻上，有這樣一句原話：“In God we trust, all others
bring data.”
其他說明如下。
? 第1 版對(duì)色盲讀者不是太友好，特別是我們偏好采用會(huì)引起麻煩的紅/綠對(duì)比。在新版中，我們對(duì)顏色配置進(jìn)行了較大的改進(jìn)，用橙色/藍(lán)色對(duì)比來代替原來的紅/綠對(duì)比。
? 我們將第6章的標(biāo)題從“核方法”改成“核平滑方法”，以免與第12章中的支持向量機(jī)部分以及第5章和第14章、在機(jī)器學(xué)習(xí)框架下廣泛討論的核方法混淆。
? 在第1 版中，因?yàn)闆]有明確區(qū)分條件誤差率（以訓(xùn)練集為條件）和無條件誤差率，所以第7 章關(guān)于誤差率估計(jì)的討論有些湊合。在新版中，我們已經(jīng)修正這一問題。
? 第15章和第16章是從第10章自然發(fā)展而來的，讀者最好能按這個(gè)順序來閱讀。
? 在第17章，我們沒有試圖涵蓋圖模型的全部?jī)?nèi)容，而是只討論了無向圖模型以及估計(jì)它們的一些新方法。具體來說，由于篇幅限制，我們?cè)诒緯�中忽略了與有向圖模型相關(guān)的內(nèi)容。
? 第18章探索了高維特征空間學(xué)習(xí)中的?? ? ?? 問題。這一問題在很多領(lǐng)域（如基因組、蛋白質(zhì)組和文本分類）中都廣泛存在。
我們感謝在第1 版中發(fā)現(xiàn)（大量）錯(cuò)誤的眾多讀者。在新版本里，我們?yōu)槟切╁e(cuò)誤表示歉意，并盡我們最大的努力來避免錯(cuò)誤再次發(fā)生。我們感謝馬克（Mark Segal）、巴拉（Bala Rajaratnam）和拉瑞（Larry Wasserman）對(duì)新增各章的內(nèi)容提出建議，也感謝斯坦福的許多研究生和博士后提出的建議，尤其是默罕默德（Mohammed AlQuraishi）、約翰（John Boik）、霍爾格（Holger Hoefling）、阿瑞（Arian Maleki）、多拉爾（Donal McMahon）、撒哈榮（Saharon Rosset）、巴巴克（Babak Shababa）、丹尼爾拉（DanielaWitten）、朱奇（Ji Zhu）和鄒輝（Hui Zou）。我們感謝約翰（John Kimmel），因?yàn)樗�耐心指�?dǎo)我們完成了新的版本。羅伯特（Robert Tibshirani）將此書獻(xiàn)給安娜（Anna McPhee）。
特雷弗·哈斯蒂（Trevor Hastie）
羅伯特·提布施拉尼（Robert Tibshirani）
杰羅姆·弗雷曼（Jerome Friedman）
加州，斯坦福大學(xué)
2008 年8 月