對現(xiàn)代計算機(jī)科學(xué)家來說，理解概率和統(tǒng)計是非常重要的. 如果你愛好理論，則需要知道很多概率知識（例如，了解隨機(jī)算法，理解圖論中的概率方法，理解有關(guān)近似的大量知識，等等），并至少要有足夠的統(tǒng)計知識. 如果你愛好實踐，則會發(fā)現(xiàn)自己在不斷地探尋統(tǒng)計技術(shù)（特別是分類、聚類和回歸）.例如，很多現(xiàn)代人工智能技術(shù)都是建立在統(tǒng)計的基礎(chǔ)之上. 再例如，有關(guān)海量數(shù)據(jù)集的統(tǒng)計推斷的思考對人們設(shè)計現(xiàn)代計算機(jī)系統(tǒng)產(chǎn)生了巨大的影響.
傳統(tǒng)上，計算機(jī)科學(xué)專業(yè)的本科生需要學(xué)習(xí)概率論課程（這一課程通常由數(shù)學(xué)系教師講授），或者需要學(xué)習(xí)統(tǒng)計學(xué)課程（這一課程通常由統(tǒng)計系教師講授）. 計算機(jī)科學(xué)專業(yè)的課程委員會決定對這些課程進(jìn)行修改，因此，我講授了該課程的實驗版本. 為此，我撰寫了一些筆記，基于這些筆記編寫了這本書. 本書中沒有關(guān)于概率或統(tǒng)計的新知識，但其主題是我選擇的，我認(rèn)為這與大家在很多其他書中見到的內(nèi)容有很大的不同.
選擇主題的關(guān)鍵原則是揭示概率和統(tǒng)計的思想，我認(rèn)為這些思想是每一名計算機(jī)科學(xué)專業(yè)的本科生都應(yīng)當(dāng)了解的，而不管他們以后選擇什么專業(yè)或從事什么職業(yè). 這意味著本書內(nèi)容的范圍非常廣，但對很多領(lǐng)域的介紹并不深入. 我認(rèn)為這樣很好，因為我的目的就是保證所有人都有足夠的見識，都能夠知道找到一個分類包就可以解決很多問題. 因此，本書覆蓋了足夠多帶你入門的基礎(chǔ)知識，并會讓你認(rèn)識到需要了解更多知識.
我寫的這些筆記對研究生也是有益的. 根據(jù)我的經(jīng)驗，很多人在并未意識到它們多么有用的情況下學(xué)習(xí)了本書中的部分或全部內(nèi)容，然后就忘記了. 如果這樣的事情發(fā)生在你的身上，希望本書能喚起你的記憶. 你應(yīng)該掌握本書中的所有內(nèi)容，又或許應(yīng)該知道得更多，但絕不應(yīng)該知道得更少.
閱讀和講授本書
本書適合從頭至尾進(jìn)行講授或者閱讀，但不同的教師或者讀者可能有不同的需求，因此下面將對本書內(nèi)容進(jìn)行簡要概述并指出哪些內(nèi)容可以略過.
部分 數(shù)據(jù)集的描述
這一部分涵蓋:
. 各種描述性統(tǒng)計量（均值、標(biāo)準(zhǔn)差、方差）及一維數(shù)據(jù)集的可視化方法
. 散點圖、相關(guān)性及二維數(shù)據(jù)集的描述
多數(shù)讀者可能看到過這些內(nèi)容的一部分，以我的經(jīng)驗，使人們真正意識到使用圖片的方法表示數(shù)據(jù)集多么有用是需要花費一些時間的. 我嘗試通過范例研究不同的數(shù)據(jù)集來特別強(qiáng)調(diào)這一點. 在講授這些內(nèi)容時，我緩慢且仔細(xì)地推進(jìn)這些章節(jié).
第二部分 概率
這一部分涵蓋:
. 離散型概率
. 條件概率，需要特別強(qiáng)調(diào)其中的例子，因為人們發(fā)現(xiàn)這些主題是與直覺相悖的
. 隨機(jī)變量與期望
. 部分連續(xù)型概率內(nèi)容（概率密度函數(shù)及如何解釋）
. 馬爾可夫不等式、切比雪夫不等式及弱大數(shù)定律
. 各種有用概率分布的部分性質(zhì)
. 對較大的 N，二項分布的正態(tài)逼近
我非常認(rèn)真地以形式化方式介紹了離散型概率. 很多人發(fā)現(xiàn)條件概率是與直覺相悖的（或至少在他們看來是如此的 —— 你仍然可以對 Monty Hall 問題繼續(xù)發(fā)起討論），因此，我使用了一些（有時令人吃驚的）例子來強(qiáng)調(diào)在此處認(rèn)真思考是多么重要. 根據(jù)我的經(jīng)驗，范例是能夠幫助學(xué)習(xí)的，但在一節(jié)中給出過多的范例會讓讀者分散注意力，因此，我會用一整節(jié)來介紹額外范例. 除了這些額外范例，你不能忽略此處的任何內(nèi)容.
有關(guān)隨機(jī)變量的一章主要包含一些常規(guī)內(nèi)容，但此處也涵蓋了馬爾可夫不等式、切比雪夫不等式及弱大數(shù)定律. 根據(jù)我的經(jīng)驗，計算機(jī)科學(xué)專業(yè)的本科生喜歡仿真（當(dāng)可以編寫程序時，為什么要去做加法?），并且非常喜歡使用弱大數(shù)定律. 你可以略過這些不等式，只介紹弱大數(shù)定律. 很多學(xué)生在后續(xù)的理論課程中將會學(xué)習(xí)這些不等式，經(jīng)驗表明，如果學(xué)生之前曾經(jīng)見過這些不等式，他們通常更容易掌握它們.
有關(guān)有用的概率分布的一章也主要包含一些常規(guī)內(nèi)容. 在我講授這門課程時，這一章會講得很快，主要讓學(xué)生自己閱讀. 但是，對具有較大 N 的二項分布的正態(tài)逼近會進(jìn)行詳細(xì)的討論. 根據(jù)我的經(jīng)驗，沒有人喜歡推導(dǎo)，但你應(yīng)當(dāng)知道這個逼近是成立的，并知道它的原理. 我主要通過一些例子來詳細(xì)講授這一主題.
第三部分 推斷
這一部分涵蓋:
. 樣本和總體
. 總體均值抽樣估計的置信區(qū)間
. 統(tǒng)計顯著性，包括 t 檢驗，F(xiàn) 檢驗及 χ2 檢驗
. 簡單的實驗設(shè)計，包括單向和雙向?qū)嶒?
. 實驗的 ANOVA（方差分析）
. 極大似然推斷
. 簡單貝葉斯推斷
. 過濾簡介
有關(guān)樣本的內(nèi)容僅包含有放回抽樣，這是學(xué)習(xí)更復(fù)雜的內(nèi)容的基礎(chǔ). 學(xué)生不太喜歡置信區(qū)間，也許是因為它的真正定義過于微妙，但是理解它的一般思想是至關(guān)重要的. 這些主題確實不應(yīng)當(dāng)被略過.
你也不應(yīng)當(dāng)略過統(tǒng)計顯著性的部分，盡管你很想略過. 我從來沒有與次接觸統(tǒng)計顯著性就感到愉悅的人（這樣的人可能在一個非常大的總體內(nèi)是存在的）打過交道. 但這一思想非常有用且非常有價值，以至于你不得不學(xué)習(xí).
我通常不講簡單的實驗設(shè)計和方差分析，但回想起來，這是一個錯誤. 方差分析的思想是非常直接且實用的. 我們通常使用別人的數(shù)據(jù)集進(jìn)行實驗設(shè)計教學(xué)，然而正確的選擇應(yīng)該是要求學(xué)生去設(shè)計并進(jìn)行實驗，但在正常的課程中通常沒有足夠時間來安排這個.
后，你不應(yīng)當(dāng)略過極大似然推斷或貝葉斯推斷，即便很多人并不需要知道過濾.
第四部分 工具
這一部分涵蓋:
. 主成分分析
. 使用主坐標(biāo)分析的簡單多維放縮
. 分類的基本思想
. 近鄰分類
. 樸素貝葉斯分類
. 使用經(jīng)隨機(jī)梯度下降法訓(xùn)練過的線性 SVM 進(jìn)行分類
. 使用隨機(jī)森林進(jìn)行分類
. 維度災(zāi)難
. 聚合和分裂聚類
. k 均值聚類
. 向量量化
. 多元正態(tài)分布
. 線性回歸
. 分析與改進(jìn)回歸方法的一些技巧
. 近鄰回歸
. 簡單馬爾可夫鏈
. 隱馬爾可夫模型
我所在學(xué)院的學(xué)生在學(xué)習(xí)本課程的同時也在學(xué)習(xí)線性代數(shù)課程. 當(dāng)我講授該課程的時候，將時間進(jìn)行了調(diào)整，以便學(xué)生可以在他們剛剛學(xué)完特征值和特征向量之后學(xué)習(xí)主成分分析. 你不應(yīng)當(dāng)略過主成分分析. 我講授的主坐標(biāo)分析是非常淺顯的，僅僅描述了它是做什么的以及為什么它是有用的.
我經(jīng)常被比較強(qiáng)硬地告知不能向本科生講授分類問題. 在我看來，這必須學(xué)，學(xué)生對此也非常喜愛. 給學(xué)生講授非常有用和非常容易做到的內(nèi)容時，他們真的會進(jìn)行反饋. 請一定不要略過這一部分的任何內(nèi)容.
聚類的相關(guān)內(nèi)容非常簡單且容易講授. 根據(jù)我的經(jīng)驗，如果沒有應(yīng)用，這個主題就有點讓人費解. 我通常會設(shè)置一個編程練習(xí)，讓學(xué)生編寫一個使用了向量量化方法導(dǎo)出特征的分類器. 這是一個確定人們理解了某件事情的非常好的方法，但并不真實. 很多學(xué)生發(fā)現(xiàn)該練習(xí)很有挑戰(zhàn)性，因為他們必須同時使用很多概念. 但很多學(xué)生克服了困難并非常開心地看到這些部分良好地結(jié)合起來. 多元正態(tài)分布在此處不過是說說而已，我認(rèn)為你不能略過本章中的任何知識.
與回歸有關(guān)的內(nèi)容也非常簡單且容易講授. 此處的主要障礙是學(xué)生覺得越復(fù)雜的事情越需要不斷學(xué)習(xí). 不是只有他們是這么想的，我也認(rèn)為你不能略過本章中的任何知識.
根據(jù)我的經(jīng)驗，計算機(jī)科學(xué)專業(yè)的學(xué)生發(fā)現(xiàn)簡單的馬爾可夫鏈?zhǔn)褂闷饋砗茏匀唬ūM管他們可能發(fā)現(xiàn)這個記號很煩人），并且會建議在教學(xué)開始之前就模擬一個鏈. 使用馬爾可夫鏈生成自然語言的例子（特別是 Garkov 和葡萄酒評價）是非常有趣的，并且你真的可以在課程中向他們演示. 你可以略去網(wǎng)頁排名的討論. 我接手的班級中，大約有一半的學(xué)生認(rèn)為隱馬爾可夫模型是簡單且自然的，另一半則期望期末好快點到來. 如果你不太喜歡這一部分，可以略過它們，并讓那些可能對此感興趣的人自學(xué).
第五部分 其他數(shù)學(xué)知識
這一部分匯總了一些讀者可能會發(fā)現(xiàn)有用的數(shù)學(xué)事實，也包括一些關(guān)于決策樹構(gòu)造的更深入的知識. 不需要講授這部分內(nèi)容.

David Forsyth
美國伊利諾伊州厄巴納