前 言
新舊版本比較
本書(shū)新版本（第五版）對(duì)舊版本（第四版）進(jìn)行了大量的修訂。主要修改如下除這里所羅列的修改外， 還包括散布在其他章節(jié)的許多修改。例如， 第6章增加了關(guān)于LMS算法的最優(yōu)性考慮和統(tǒng)計(jì)效率的新內(nèi)容， 第10章引入了關(guān)于RLS算法統(tǒng)計(jì)效率的新內(nèi)容， 第14章新增了關(guān)于信息濾波算法的獨(dú)特特性和Fisher信息等內(nèi)容。
1.引入了全新的第5章關(guān)于隨機(jī)梯度下降法的內(nèi)容。
2.根據(jù)朗之萬(wàn)（Langevin）函數(shù)及相應(yīng)的布朗運(yùn)動(dòng)， 修改了第6章(舊版本第5章)中最小均方(LMS)的統(tǒng)計(jì)學(xué)習(xí)理論。
3.引入了全新的第11章關(guān)于魯棒性的內(nèi)容。
4.在第13章后半部引入非平穩(wěn)環(huán)境下自適應(yīng)的新內(nèi)容， 并將其應(yīng)用于增量Delta-Bar-Delta（IDBD）算法和自動(dòng)步長(zhǎng)方法。
5.在附錄Ｂ和附錄Ｆ中分別引入關(guān)于微積分及朗之萬(wàn)函數(shù)的新內(nèi)容。
6.更新了參考文獻(xiàn)， 增列了“建議閱讀文獻(xiàn)”。
7.刪除了舊版本中“自適應(yīng)IIR濾波器”和關(guān)于復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)的“反向傳播學(xué)習(xí)”兩章。
本書(shū)新版要點(diǎn)
自適應(yīng)濾波器是統(tǒng)計(jì)信號(hào)處理中的一個(gè)重要組成部分。它可對(duì)未知統(tǒng)計(jì)環(huán)境或非平穩(wěn)環(huán)境下的各種信號(hào)處理問(wèn)題， 提供一種十分吸引人的解決方案， 并且其性能通常遠(yuǎn)優(yōu)于用常規(guī)方法設(shè)計(jì)的固定濾波器。此外， 自適應(yīng)濾波器還能夠提供非自適應(yīng)方法所不能提供的信號(hào)處理能力。因此， 自適應(yīng)濾波器已經(jīng)成功應(yīng)用于諸如通信、 控制、 雷達(dá)、 聲吶、 地震和生物醫(yī)學(xué)工程等許多領(lǐng)域。
本書(shū)寫(xiě)作目的
本書(shū)寫(xiě)作的主要目的是研究各種線性自適應(yīng)濾波器的數(shù)學(xué)原理。所謂自適應(yīng)性是根據(jù)輸入數(shù)據(jù)調(diào)整濾波器中的自由參數(shù)（系數(shù)）來(lái)實(shí)現(xiàn)的， 從而使得自適應(yīng)濾波器實(shí)際上是非線性的。我們說(shuō)自適應(yīng)濾波器是“線性”的， 指的是如下含義：
無(wú)論何時(shí)濾波器的輸入－輸出映射都服從疊加原理， 在任何特定的時(shí)刻， 而且在任意特定時(shí)刻濾波器的參數(shù)都是固定的。
線性自適應(yīng)濾波問(wèn)題不存在唯一的解。但存在由各種遞歸算法所表示的“一套工具”， 每一工具給出它所擁有的期望特性。本書(shū)就提供了這樣一套工具。
在背景方面， 假設(shè)讀者已學(xué)過(guò)概率論、 數(shù)字信號(hào)處理等大學(xué)本科的導(dǎo)論性課程及通信和控制系統(tǒng)等先修課程。
本書(shū)組成結(jié)構(gòu)
本書(shū)緒論部分從一般性地討論自適應(yīng)濾波器的運(yùn)算及其不同形式開(kāi)始， 并以其發(fā)展歷史的注釋作為結(jié)束。其目的是想通過(guò)該課題的豐富歷史， 向那些對(duì)該領(lǐng)域感興趣并有志潛心鉆研的讀者追溯這些研究動(dòng)機(jī)的由來(lái)。
本書(shū)主體內(nèi)容共17章， 具體安排如下。
1)隨機(jī)過(guò)程與模型， 這方面內(nèi)容在第1章介紹， 著重講解平穩(wěn)隨機(jī)過(guò)程的部分特征（如二階統(tǒng)計(jì)描述）。它是本書(shū)其余部分內(nèi)容的主要基礎(chǔ)。
2)維納濾波器理論及其在線性預(yù)測(cè)中的應(yīng)用（第2章和第3章）, 維納濾波器在第2章中介紹， 它定義了平穩(wěn)環(huán)境下的最佳線性濾波器， 而且提供了線性自適應(yīng)濾波器的一個(gè)基本框架。第3章講述了線性預(yù)測(cè)理論， 著重講述了前向預(yù)測(cè)和后向預(yù)測(cè)及其變種， 并以線性預(yù)測(cè)在語(yǔ)音編碼中的應(yīng)用作為該章的結(jié)束。
3)梯度下降法, 在第4章和第5章中講述。第4章介紹了一種固定型的古老最優(yōu)化技術(shù)（即所謂最速下降法）的基礎(chǔ)； 該方法提供了維納濾波器波的一種迭代演變框架。作為直接對(duì)比， 第5章介紹了隨機(jī)梯度下降法的基本原理； 該方法非常適合處理非平穩(wěn)環(huán)境， 而且通過(guò)最小均方(LMS, least-mean-square)和梯度自適應(yīng)格型(GAL, gradient adaptive lattice)算法闡明了其適用性。
4)LMS算法族， 涵蓋了第6章、 第7章、 第8章三章， 具體如下：
● 第6章討論了LMS算法的各種不同應(yīng)用， 詳盡闡述了小步長(zhǎng)統(tǒng)計(jì)理論。這一新的理論來(lái)源于非平衡熱力學(xué)的朗之萬(wàn)方程， 這為L(zhǎng)MS算法的瞬態(tài)過(guò)程提供了一個(gè)比較準(zhǔn)確的評(píng)估。計(jì)算機(jī)仿真證明了該理論的有效性。
● 第7章和第8章擴(kuò)展了傳統(tǒng)的LMS算法族。這一點(diǎn)是通過(guò)詳細(xì)論述歸一化LMS算法、 仿射投影自適應(yīng)濾波算法、 頻域和子帶自適應(yīng)LMS濾波算法來(lái)實(shí)現(xiàn)的。仿射投影算法可看做介于LMS算法與遞歸最小二乘（RLS）算法的中間算法。頻域和子帶自適應(yīng)LMS濾波算法將在后面討論。
5)最小二乘法和RLS算法, 分別在第9章和第10章介紹。第9章論述了最小二乘法， 它可看做源于隨機(jī)過(guò)程的維納濾波器的確定性副本。在最小二乘法中， 輸入數(shù)據(jù)是以塊(block-by-block)為基礎(chǔ)進(jìn)行處理的。過(guò)去因其數(shù)值計(jì)算復(fù)雜性而被忽視的分塊方法正日益引起人們的關(guān)注， 這得益于數(shù)字計(jì)算機(jī)技術(shù)的不斷進(jìn)步。第10章在最小二乘法的基礎(chǔ)上設(shè)計(jì)了RLS算法， 并詳盡闡述了其瞬態(tài)過(guò)程的統(tǒng)計(jì)理論。
6)魯棒性、 有限字長(zhǎng)效應(yīng)和非平穩(wěn)環(huán)境下的自適應(yīng)問(wèn)題， 分別在第11章、 第12章和第13章介紹。具體如下：
● 第11章介紹了H∞理論， 它為魯棒性提供數(shù)學(xué)基礎(chǔ)。在這一理論下， 只要所選的步長(zhǎng)參數(shù)很小， LMS算法在H∞的意義下就是魯棒的； 但在面對(duì)內(nèi)在或外在干擾的非平穩(wěn)環(huán)境時(shí)， RLS算法的魯棒性不如LMS算法。本章也討論了確定性魯棒性與統(tǒng)計(jì)有效性（效率）之間的折中問(wèn)題。
● 第5~10章的線性自適應(yīng)濾波算法理論以無(wú)限精度運(yùn)算為基礎(chǔ)。然而， 當(dāng)用數(shù)字形式實(shí)現(xiàn)任何自適應(yīng)濾波算法時(shí)， 將產(chǎn)生由有限精度運(yùn)算所引起的有限字長(zhǎng)效應(yīng)。第12章討論了LMS和RLS算法數(shù)字實(shí)現(xiàn)時(shí)的有限字長(zhǎng)效應(yīng)。
● 第13章擴(kuò)展了LMS和RLS算法理論。這是通過(guò)評(píng)價(jià)和比較運(yùn)行于非穩(wěn)定環(huán)境(設(shè)其為馬爾可夫模型)下LMS和RLS算法的性能來(lái)實(shí)現(xiàn)的。這一章的第二部分主要研究?jī)蓚�(gè)新算法：其一為增量delta-bar-delta（IDBD）算法， 它由傳統(tǒng)LMS算法的步長(zhǎng)參數(shù)的向量化實(shí)現(xiàn)； 其二為自動(dòng)步長(zhǎng)法， 它以IDBD算法為基礎(chǔ)， 通過(guò)實(shí)驗(yàn)構(gòu)成一個(gè)自適應(yīng)步驟， 以避免手動(dòng)調(diào)整步長(zhǎng)參數(shù)。
7)卡爾曼濾波理論及相關(guān)的自適應(yīng)濾波算法， 這些內(nèi)容在第14章、 第15章、 第16章中介紹， 具體如下：
● 第14章介紹了RLS算法。實(shí)際上， RLS算法是著名的卡爾曼濾波的一個(gè)特例。突出狀態(tài)的概念是卡爾曼濾波的一個(gè)重要特點(diǎn)。因此， 很好地理解卡爾曼濾波理論（也包括將平穩(wěn)環(huán)境下的維納濾波器作為其特例）是十分重要的。此外， 應(yīng)注意到協(xié)方差濾波和信息濾波算法是卡爾曼濾波器的變種。
● 第15章在協(xié)方差濾波和信息濾波的基礎(chǔ)上導(dǎo)出了它們各自的平方根形式。具體而言， 就是引入前陣列和后陣列的思想， 從而促使一類使用吉文斯(Givens)旋轉(zhuǎn)脈動(dòng)陣列的新的自適應(yīng)濾波算法的產(chǎn)生。
● 第16章介紹了另一類新的階遞歸最小二乘格型（LSL）濾波算法， 該算法也建立在協(xié)方差型和信息算法型卡爾曼濾波器的基礎(chǔ)上。為了實(shí)現(xiàn)這類算法， 需要利用一種數(shù)值魯棒的所謂QR分解方法。階遞歸LSL算法的另一個(gè)有吸引力的特點(diǎn)是其計(jì)算復(fù)雜度遵循線性規(guī)律。但是， 這些算法的所有優(yōu)點(diǎn)都是以數(shù)學(xué)和編碼上的高度復(fù)雜性為代價(jià)的。
8)無(wú)監(jiān)督(自組織)自適應(yīng)， 即盲反卷積， 在本書(shū)的最后一章即第17章介紹。這里所謂的“盲”表示在完成自適應(yīng)濾波的過(guò)程中不需要期望響應(yīng)的協(xié)助。這個(gè)艱巨任務(wù)是采用基于如下概念的模型完成的：
● 子空間分解， 在本章第一部分介紹， 提供了一個(gè)靈巧的數(shù)學(xué)上解決盲均衡問(wèn)題的方法。為了解決這個(gè)問(wèn)題， 我們使用通信系統(tǒng)中固有的循環(huán)平穩(wěn)性來(lái)尋找信道輸入的二階統(tǒng)計(jì)量， 以便用無(wú)監(jiān)督方式均衡信道。
● 高階統(tǒng)計(jì)量， 在本章第二部分介紹， 它可以是顯式的或者隱式的。這部分內(nèi)容致力于導(dǎo)出一類盲均衡算法， 統(tǒng)稱為Bussgang類盲均衡算法。本章第二部分還包含一類以源于最大熵法的信息理論方法為基礎(chǔ)的新的盲均衡算法。
本書(shū)還包含一個(gè)后記， 它分為兩個(gè)部分：
● 后記第一部分回顧前面章節(jié)中介紹的內(nèi)容， 最后總結(jié)了魯棒性、 有效性(效率)和復(fù)雜性， 并且說(shuō)明了LMS和RLS算法在這三個(gè)根本性的重要工程問(wèn)題上所起的作用。
● 后記第二部分包括以核函數(shù)（它起著計(jì)算單元隱層的作用）為基礎(chǔ)的一類新的非線性自適應(yīng)濾波算法。這些核函數(shù)來(lái)源于再生核希爾伯特空間（RKHS）， 而且這里給出的內(nèi)容源自機(jī)器學(xué)習(xí)文獻(xiàn)中已被很好研究的那些資料。特別是， 后記將注意力聚焦于LMS濾波， 包括傳統(tǒng)LMS算法在其中所起的關(guān)鍵性作用； 而且簡(jiǎn)要討論了自適應(yīng)濾波中這個(gè)相對(duì)較新的方法的屬性和限制。
本書(shū)還包含如下內(nèi)容的附錄：
● 復(fù)變函數(shù)
● 沃廷格(Wirtinger)微分
● 拉格朗日(Lagrange)乘子法
● 估計(jì)理論
● 特征值分析
● 朗之萬(wàn)函數(shù)
● 旋轉(zhuǎn)和反射
● 復(fù)數(shù)維薩特(Wishart)分布
在本書(shū)的不同部分， 應(yīng)用了由這些附錄中給出的基本思想和方法。
輔助材料
● 本書(shū)還附有一個(gè)術(shù)語(yǔ)表， 由一系列定義、 記號(hào)、 約定、 縮略詞和書(shū)中涉及的主要符號(hào)組成。
● 本書(shū)中引用的所有出版物都匯編在參考文獻(xiàn)中。每篇參考文獻(xiàn)包括作者姓名和出版年份。本書(shū)也包括了一個(gè)建議閱讀部分， 增加了許多其他參考文獻(xiàn)以便讀者進(jìn)一步閱讀。
例題、 習(xí)題與計(jì)算機(jī)實(shí)驗(yàn)
本書(shū)各章包括大量例題， 用來(lái)說(shuō)明書(shū)中討論的概念和理論。
本書(shū)還包括許多計(jì)算機(jī)實(shí)驗(yàn)， 用來(lái)說(shuō)明LMS和RLS算法的基礎(chǔ)理論和應(yīng)用。這些實(shí)驗(yàn)可以幫助讀者比較這兩種線性自適應(yīng)濾波算法的不同性能。
本書(shū)每一章（除了緒論外）以習(xí)題作為結(jié)束， 這出于以下兩點(diǎn)考慮：
● 幫助讀者更深刻地理解該章所包含的內(nèi)容。
● 激勵(lì)讀者擴(kuò)展該章所討論的原理和方法。
題解手冊(cè)
本書(shū)還配有對(duì)第1~17章所有習(xí)題詳細(xì)解答的題解手冊(cè)。選用本書(shū)作為教材的教師可直接向出版商申請(qǐng)題解手冊(cè)。教輔申請(qǐng)方式請(qǐng)參見(jiàn)書(shū)末的“教學(xué)支持說(shuō)明”。
所有計(jì)算機(jī)實(shí)驗(yàn)的MATLAB代碼， 可在網(wǎng)站http//www.pearsonhighered.com/haykin/上獲得。 也可登錄華信教育資源網(wǎng)(http//www.hxedu.com.cn)免費(fèi)注冊(cè)下載。
兩個(gè)