關(guān)于我們
書單推薦
新書推薦
|
深度學(xué)習(xí)方法解析與實(shí)戰(zhàn)應(yīng)用
本書以深入淺出的方式,講解何為“人工智能”,如何掌握以深度學(xué)習(xí)為代表的人工智能相關(guān)方法,以及如何進(jìn)行落地應(yīng)用。本書從理論、工具基礎(chǔ)講解開始,層層遞進(jìn),分別向讀者清晰地展現(xiàn)了卷積神經(jīng)網(wǎng)絡(luò)、生成式對(duì)抗網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、深度強(qiáng)化學(xué)習(xí)的知識(shí)脈絡(luò)與方法原理。同時(shí),按照具體應(yīng)用場景,結(jié)合主流深度學(xué)習(xí)框架,給出所講述理論的落地應(yīng)用案例和編程開發(fā)指導(dǎo),旨在結(jié)合理論與實(shí)踐,平衡知識(shí)的深度與廣度,明確入門與進(jìn)階路徑,使讀者更加深入全面地理解深度學(xué)習(xí)的原理及實(shí)踐方法。
本書主要面向人工智能技術(shù)初學(xué)者、程序開發(fā)者、前沿科技愛好者,尤其是在校大學(xué)生和相關(guān)領(lǐng)域研究人員。
近年來,由于智能芯片等硬件技術(shù)的不斷發(fā)展,以神經(jīng)網(wǎng)絡(luò)為核心的人工智能技術(shù)成為學(xué)界、產(chǎn)業(yè)界甚至商界的關(guān)注焦點(diǎn),人工智能中的深度學(xué)習(xí)技術(shù)在諸如計(jì)算機(jī)視覺、自然語言處理、語音識(shí)別、深度強(qiáng)化學(xué)習(xí)等多個(gè)基礎(chǔ)領(lǐng)域全面突破,在機(jī)器翻譯、智能游戲、醫(yī)療輔助診斷、無人駕駛、智慧安防等多個(gè)應(yīng)用領(lǐng)域大量落地實(shí)踐。同時(shí),面對(duì)國家重大戰(zhàn)略發(fā)展和國際前沿發(fā)展需求,一些高校成立了人工智能學(xué)院及人工智能專業(yè)。因此,以人工智能為代表的新一代信息技術(shù)(可以概括為“ABCDEFG”,即人工智能AI(Artificial Intelligence)、區(qū)塊鏈BC(Block Chain)、云計(jì)算CC(Cloud Computing)、大數(shù)據(jù)BD(Big Data)、邊緣計(jì)算EC(Edge Computing)、聯(lián)邦學(xué)習(xí)FL(Federated Learning)、5G通信等)已成為理論研究的焦點(diǎn)、應(yīng)用實(shí)踐的重點(diǎn)、社會(huì)發(fā)展的增長點(diǎn)。那么,面對(duì)“人工智能”這個(gè)既熟悉又陌生的詞匯,如何了解其理論、掌握其方法,并以“人工智能”方式為我們的工作生活進(jìn)行“賦能”呢?本書的寫作目的是深入淺出地講解何為“人工智能”,如何掌握以深度學(xué)習(xí)為代表的人工智能方法,以及如何利用人工智能更好地服務(wù)人類。
本書特色
1. 廣度與深度的平衡
人工智能是涉及計(jì)算機(jī)科學(xué)、數(shù)學(xué)、信息論、控制論、系統(tǒng)工程、腦科學(xué)、神經(jīng)科學(xué)、心理學(xué)、語言學(xué)、邏輯學(xué)、認(rèn)知學(xué)、行為學(xué)等多領(lǐng)域的綜合性交叉學(xué)科,在人類社會(huì)的方方面面具有廣泛應(yīng)用。因此,本書在理論的廣度上,講解了人工智能的基本概念、基本理論、基礎(chǔ)工具;在實(shí)踐的廣度上,分析了人工智能在游戲、智慧社區(qū)、智慧安防、智慧醫(yī)療等領(lǐng)域的應(yīng)用及設(shè)計(jì)構(gòu)想。同時(shí),本書在理論的深度上,以深度神經(jīng)網(wǎng)絡(luò)為主線,講解了以卷積神經(jīng)網(wǎng)絡(luò)、生成式對(duì)抗網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、深度強(qiáng)化學(xué)習(xí)為代表的重要方法;在實(shí)踐的深度上,以人體姿態(tài)估計(jì)、經(jīng)典控制類游戲、邊緣智能、圖像翻譯等實(shí)踐案例為核心支撐?梢哉f,本書實(shí)現(xiàn)了知識(shí)在廣度與深度上的平衡。
2. 理論與實(shí)踐的結(jié)合
人工智能是理論與實(shí)踐結(jié)合的產(chǎn)物。沒有早期神經(jīng)科學(xué)對(duì)大腦神經(jīng)認(rèn)知原理的探索,神經(jīng)元模型、卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)等數(shù)學(xué)模型就是“無源之水,無本之木”。沒有早期以Hinton、LeCun、Bengio等人為代表的人工智能科學(xué)家對(duì)深度神經(jīng)網(wǎng)絡(luò)理論研究的堅(jiān)守,就不會(huì)有2012年ImageNet大賽深度學(xué)習(xí)的巨大成功,更不會(huì)有AlphaGo的一騎絕塵!本書按照人工智能的發(fā)展脈絡(luò),將深度學(xué)習(xí)的理論學(xué)習(xí)與實(shí)踐應(yīng)用結(jié)合,并賦予相應(yīng)的應(yīng)用場景,尤其是將卷積神經(jīng)網(wǎng)絡(luò)與人體姿態(tài)估計(jì)、目標(biāo)檢測、人臉檢測結(jié)合,循環(huán)神經(jīng)網(wǎng)絡(luò)與語音識(shí)別結(jié)合,生成式對(duì)抗網(wǎng)絡(luò)與圖像翻譯、圖像生成結(jié)合,強(qiáng)化學(xué)習(xí)與AI游戲結(jié)合,進(jìn)而讓理論指導(dǎo)實(shí)踐,并讓實(shí)踐賦予理論更有溫度、更直接的“生命力”。
3. 入門與進(jìn)階的梯次
理論講解“接地氣”、案例實(shí)踐“有溫度”是本書的重要特色,也是針對(duì)入門讀者重點(diǎn)考慮與設(shè)計(jì)的。在入門學(xué)習(xí)方面,本書從基礎(chǔ)理論梳理到基礎(chǔ)工具講解,以點(diǎn)帶面,盡量避免過多的公式推導(dǎo)、理論羅列,以幫助初學(xué)者完成知識(shí)體系的構(gòu)建,同時(shí)配合生活等常用場景的案例分析,以期降低讀者入門的門檻和心理上的“疏遠(yuǎn)感”;在進(jìn)階提高方面,本書以有研究基礎(chǔ)的讀者為主要對(duì)象,從相關(guān)理論的起源、發(fā)展脈絡(luò)、關(guān)鍵技術(shù)、改進(jìn)優(yōu)化、發(fā)展前沿等角度,深入剖析技術(shù)的原理,為讀者的進(jìn)階提高之路厘清思路。
4. 開源與創(chuàng)新的支撐
開源是人工智能領(lǐng)域“百花齊放”的真實(shí)寫照,也是人工智能生態(tài)發(fā)展的重要推動(dòng)力。因此,本書所涉及的程序均已在Github上開源,以期為人工智能技術(shù)的開源與知識(shí)共享貢獻(xiàn)一份力量。此外,創(chuàng)新是科技進(jìn)步的源泉,也是技術(shù)發(fā)展的不竭動(dòng)力。本書的部分理論思考及實(shí)踐案例是團(tuán)隊(duì)多年參加競賽、學(xué)術(shù)交流的創(chuàng)新成果和發(fā)明專利等的積累,也是本書在內(nèi)涵上的重要特色。
本書組織結(jié)構(gòu)
本書按照基礎(chǔ)入門、方法解析、實(shí)戰(zhàn)應(yīng)用的結(jié)構(gòu),共分三篇13章。
第一篇為基礎(chǔ)入門篇,包括第0~3章,以人工智能概述為總領(lǐng),講解人工智能的理論基礎(chǔ)、工具基礎(chǔ)、神經(jīng)網(wǎng)絡(luò)基礎(chǔ),以期夯實(shí)初學(xué)者的學(xué)習(xí)基礎(chǔ),為其打開人工智能之門。其中,第0章主要講解人工智能的定義、歷史脈絡(luò)、適用領(lǐng)域、發(fā)展前景及存在的問題。第1章涉及深度學(xué)習(xí)的數(shù)學(xué)基礎(chǔ)、算法基礎(chǔ)、機(jī)器學(xué)習(xí)基礎(chǔ)、大數(shù)據(jù)基礎(chǔ),提綱挈領(lǐng)地講解了線性代數(shù)與矩陣論、概率論與統(tǒng)計(jì)學(xué)、博弈論、最優(yōu)化理論等數(shù)學(xué)知識(shí),梳理了數(shù)據(jù)結(jié)構(gòu)與算法的基本知識(shí)點(diǎn),分析了機(jī)器學(xué)習(xí)中監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)、聯(lián)邦學(xué)習(xí)等關(guān)鍵研究領(lǐng)域,而后介紹了數(shù)據(jù)挖掘、Hadoop開源生態(tài)框架體系。第2章重在全面總結(jié)深度學(xué)習(xí)所需工具,包括編程理論、編程語言、開源框架、硬件及操作系統(tǒng)相關(guān)知識(shí)等。第3章按照神經(jīng)網(wǎng)絡(luò)技術(shù)演進(jìn)路線,對(duì)神經(jīng)元模型、感知機(jī)模型、多隱層前饋神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)技術(shù)的發(fā)展脈絡(luò)進(jìn)行講解,并著重對(duì)優(yōu)化方法、優(yōu)化策略進(jìn)行分析。
總體來講,掌握基礎(chǔ)理論、基礎(chǔ)工具是入門深度神經(jīng)網(wǎng)絡(luò)的第一步,因此,第一篇的定位為既是基礎(chǔ)入門的“知識(shí)圖譜”,更是進(jìn)階提升的“第一踏板”。有相關(guān)理論儲(chǔ)備和研究基礎(chǔ)的讀者可以跳過該部分內(nèi)容,直接進(jìn)入后續(xù)章節(jié)學(xué)習(xí)。
第二篇為方法解析篇,包括第4~7章,主要對(duì)深度神經(jīng)網(wǎng)絡(luò)的關(guān)鍵方法進(jìn)行講解,從卷積神經(jīng)網(wǎng)絡(luò)、生成式對(duì)抗網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、深度強(qiáng)化學(xué)習(xí)的起源、發(fā)展、關(guān)鍵原理、重要改進(jìn)等角度對(duì)相關(guān)方法進(jìn)行剖析,既是對(duì)基礎(chǔ)入門篇內(nèi)容的整合與升華,也是對(duì)深度學(xué)習(xí)核心精髓的解析,更是實(shí)戰(zhàn)應(yīng)用的理論指導(dǎo)。其中,第4章以卷積神經(jīng)網(wǎng)絡(luò)的原理、方法、改進(jìn)、應(yīng)用為主線,解析卷積神經(jīng)網(wǎng)絡(luò)背后的方法論。第5章主要講解生成式對(duì)抗網(wǎng)絡(luò)的原理、方法、改進(jìn)方向等內(nèi)容。第6章在講解循環(huán)神經(jīng)網(wǎng)絡(luò)的原理、方法、改進(jìn)等重點(diǎn)知識(shí)的同時(shí),對(duì)自然語言處理的相關(guān)技術(shù)也進(jìn)行了討論。第7章主要講解深度強(qiáng)化學(xué)習(xí)所涉及的關(guān)鍵理論、重要方法模型,并著重對(duì)深度Q網(wǎng)絡(luò)進(jìn)行分析。
本篇中,第4章、第6章分別從空間維度、時(shí)間維度對(duì)以卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)為代表的深度學(xué)習(xí)方法進(jìn)行講解,第5章、第7章涉及博弈、決策的重要理論。因此,通過對(duì)深度學(xué)習(xí)關(guān)鍵方法的解析,讀者可以輕松構(gòu)建起深度學(xué)習(xí)知識(shí)體系的“四梁八柱”,對(duì)下銜接堅(jiān)實(shí)的理論基礎(chǔ),對(duì)上撐得起前沿應(yīng)用。
第三篇為實(shí)戰(zhàn)應(yīng)用篇,包括第8~12章,針對(duì)人體姿態(tài)估計(jì)、智能游戲、人群數(shù)量計(jì)算、垃圾分類、圖像翻譯等場景,將基于卷積神經(jīng)網(wǎng)絡(luò)的2D人體姿態(tài)估計(jì)、基于強(qiáng)化學(xué)習(xí)的游戲控制、面向邊緣智能的人群數(shù)量計(jì)算、邊緣計(jì)算場景下的垃圾識(shí)別分類、基于生成式對(duì)抗網(wǎng)絡(luò)的圖像生成與翻譯進(jìn)行程序?qū)崿F(xiàn),與基礎(chǔ)入門、方法解析相呼應(yīng),構(gòu)成符合學(xué)習(xí)規(guī)律的全周期閉合回路。其中,第8章以計(jì)算機(jī)視覺前沿應(yīng)用中的2D人體姿態(tài)估計(jì)為例,講解姿態(tài)估計(jì)的研究現(xiàn)狀、基礎(chǔ)理論、應(yīng)用場景、主要代表算法和具體實(shí)現(xiàn)過程。第9章以開源項(xiàng)目OpenAI Gym中的CartPolev0游戲?yàn)槔瑥膹?qiáng)化學(xué)習(xí)在游戲領(lǐng)域的應(yīng)用現(xiàn)狀出發(fā),通過編程開發(fā)對(duì)深度Q網(wǎng)絡(luò)智能體、基于策略梯度的神經(jīng)網(wǎng)絡(luò)游戲應(yīng)用進(jìn)行實(shí)踐。第10章以邊緣智能場景下的城市安防為例,以人群數(shù)量計(jì)算為應(yīng)用,對(duì)目標(biāo)檢測模型YOLO V3算法、人臉識(shí)別CenterFace算法進(jìn)行實(shí)現(xiàn)。第11章以智能垃圾分類為背景,對(duì)預(yù)訓(xùn)練中文語音識(shí)別模型和圖像分類模型進(jìn)行編程實(shí)現(xiàn)。第12章將兩種生成式對(duì)抗網(wǎng)絡(luò)應(yīng)用于圖像翻譯和圖像生成,對(duì)圖像“魔術(shù)”進(jìn)行編程實(shí)現(xiàn)。
本篇是從綜合案例實(shí)踐角度對(duì)全書知識(shí)點(diǎn)的總結(jié)與提升,以期讓人工智能技術(shù)不只是“上層建筑”,更是實(shí)實(shí)在在有溫度、接地氣的落地應(yīng)用。
預(yù)期讀者
1. 人工智能技術(shù)初學(xué)者
人工智能技術(shù)體系龐大、知識(shí)點(diǎn)極多,可選資源又很豐富,所以,初學(xué)者經(jīng)常無從下手。希望通過學(xué)習(xí)本書,初學(xué)者可以厘清知識(shí)脈絡(luò),找到適合自己的技術(shù)學(xué)習(xí)和發(fā)展路線。
2. 人工智能程序開發(fā)者
技術(shù)的生命在于應(yīng)用轉(zhuǎn)化,尤其在計(jì)算機(jī)科學(xué)領(lǐng)域,沒有落地應(yīng)用,技術(shù)很難有長遠(yuǎn)持續(xù)的發(fā)展。因此,希望本書的實(shí)戰(zhàn)案例講解可以輔助具有一定開發(fā)基礎(chǔ)的程序員、工程師獲得思路上的啟發(fā)和實(shí)際應(yīng)用場景的共鳴,為其所寫代碼賦予“有場景”的生命力,促進(jìn)其對(duì)實(shí)際問題場景創(chuàng)造性地程序化描述,進(jìn)而推動(dòng)社會(huì)信息化、自動(dòng)化、智能化的發(fā)展。
3. 人工智能愛好者
開源是人工智能發(fā)展的必經(jīng)之路,希望本書能為AI愛好者提供共享技術(shù)、共享理念的交流平臺(tái),對(duì)開源社區(qū)建設(shè)、人工智能知識(shí)普及起到一定的推動(dòng)作用。
學(xué)習(xí)建議
希望通過本書的學(xué)習(xí),讀者可以從方法的角度對(duì)人工智能的本質(zhì)進(jìn)行思考,尤其要重點(diǎn)理解兩句話:
(1) 人工智能的終極目標(biāo)是讓機(jī)器可以像人一樣具有學(xué)習(xí)的本領(lǐng),可以像人一樣思考,進(jìn)而促進(jìn)人類的發(fā)展。
(2) 人工智能的本質(zhì)是學(xué)習(xí),而“學(xué)習(xí)”的關(guān)鍵是聯(lián)合,即“架構(gòu)聯(lián)合、數(shù)據(jù)聯(lián)合、模型聯(lián)合、資源聯(lián)合”。
第一句話易于理解,在此不做贅述。關(guān)于第二句話的理解,可以將這一觀點(diǎn)放在新一代信息技術(shù)發(fā)展的大背景下,從算法、算力、數(shù)據(jù)等對(duì)AI發(fā)展的推動(dòng)作用角度去思考,即可獲得其中“真意”。具體講,架構(gòu)聯(lián)合是基于“云-邊-端”進(jìn)行統(tǒng)一的架構(gòu)設(shè)計(jì),即將云計(jì)算、邊緣計(jì)算、智能終端進(jìn)行通盤考慮,進(jìn)而為人工智能的發(fā)展提供架構(gòu)體系支撐;數(shù)據(jù)聯(lián)合是對(duì)多源跨域異構(gòu)數(shù)據(jù)進(jìn)行深度安全融合,進(jìn)而打破“數(shù)據(jù)孤島”,為人工智能發(fā)展提供充足的數(shù)據(jù)支撐;模型聯(lián)合是面向“云-邊-端”一體化架構(gòu)在分布式、集中式、混合式人工智能實(shí)現(xiàn)模式下的具體化呈現(xiàn),是實(shí)現(xiàn)高性能人工智能推理、訓(xùn)練的重要方式;資源聯(lián)合是整合“云-邊-端”所涉及的網(wǎng)絡(luò)通信、計(jì)算、存儲(chǔ)等資源的重要途徑,是促進(jìn)人工智能落地應(yīng)用的重要保障。
此外,本書各章節(jié)從知識(shí)前沿、領(lǐng)域關(guān)注、理論深度等角度分別設(shè)計(jì)了相應(yīng)的習(xí)題,可以幫助讀者鞏固相關(guān)基礎(chǔ)知識(shí)、啟發(fā)研究思路。同時(shí),在參考資源部分,整理了大量開源代碼、教學(xué)視頻等學(xué)習(xí)資料,以期幫助讀者提高動(dòng)手實(shí)踐能力。
最后,“紙上得來終覺淺,絕知此事要躬行”,想要深入理解深度學(xué)習(xí),還需讀者自己動(dòng)手去嘗試一些實(shí)驗(yàn),真正形成學(xué)習(xí)的“閉合回路”。
綜上所述,本書內(nèi)容的組織結(jié)構(gòu)如下圖所示:
致謝
感謝本書的合作者,感謝團(tuán)隊(duì)的成員們,感謝我們的家人,希望我們可以一起做更多有意義的事,并且做得更好。
感謝編輯的辛勞,感謝你們在選題、校對(duì)、排版等環(huán)節(jié)的付出與辛勤工作。
感謝為本書提出寶貴建議、促進(jìn)本書質(zhì)量提高的所有朋友及同行。
感謝奮戰(zhàn)在抗擊新冠病毒一線的各類人員,以及為抗擊新冠病毒做出貢獻(xiàn)的所有人。希望人工智能技術(shù)可以推動(dòng)社會(huì)發(fā)展,增加社會(huì)的“抵抗力”“免疫力”;同時(shí),也希望社會(huì)為人工智能技術(shù)的發(fā)展提供更廣闊的舞臺(tái),讓人工智能技術(shù)承擔(dān)更多的社會(huì)責(zé)任,并將有溫度、有場景的成果反饋于我們的生活。
勘誤與交流
由于作者水平有限,編著時(shí)間倉促,書中紕漏在所難免,懇請(qǐng)讀者多提寶貴意見,批評(píng)指正,以促提高。
相關(guān)問題可以發(fā)團(tuán)隊(duì)郵箱:15891741749@139.com。本書代碼開源地址為:https: //github.com/book4aidl。
再次感謝您的反饋與交流。
第一篇 基礎(chǔ)入門篇
第0章 人工智能概述 3
0.1 人工智能的定義與學(xué)派 3
0.1.1 人工智能定義 3
0.1.2 人工智能學(xué)派 5
0.2 人工智能簡史 6
0.2.1 早期的人工智能 7
0.2.2 人工智能的波浪式前進(jìn) 8
0.3 人工智能的關(guān)鍵支撐技術(shù) 10
0.3.1 算法——深度神經(jīng)網(wǎng)絡(luò) 11
0.3.2 數(shù)據(jù)——多源異構(gòu)大數(shù)據(jù) 11
0.3.3 算力——高性能計(jì)算芯片 12
0.4 人工智能的應(yīng)用與面臨的挑戰(zhàn) 13
0.4.1 人工智能應(yīng)用領(lǐng)域 13
0.4.2 人工智能前沿 16
0.4.3 發(fā)展趨勢與面臨的挑戰(zhàn) 19
0.5 國家戰(zhàn)略與政策下的人工智能 21
0.5.1 國內(nèi)政策及戰(zhàn)略規(guī)劃 21
0.5.2 國外戰(zhàn)略與政策 23
0.6 習(xí)題 23
參考資源 24
第1章 理論基礎(chǔ) 25
1.1 數(shù)學(xué)基礎(chǔ) 25
1.1.1 線性代數(shù)與矩陣論 25
1.1.2 概率論與統(tǒng)計(jì)學(xué) 27
1.1.3 博弈論 28
1.1.4 最優(yōu)化理論 28
1.2 算法基礎(chǔ) 29
1.2.1 算法概論 30
1.2.2 數(shù)據(jù)結(jié)構(gòu) 30
1.3 機(jī)器學(xué)習(xí)基礎(chǔ) 31
1.3.1 機(jī)器學(xué)習(xí)概述 31
1.3.2 監(jiān)督學(xué)習(xí) 35
1.3.3 無監(jiān)督學(xué)習(xí) 35
1.3.4 強(qiáng)化學(xué)習(xí) 36
1.3.5 聯(lián)邦學(xué)習(xí) 37
1.4 大數(shù)據(jù)基礎(chǔ) 38
1.4.1 數(shù)據(jù)挖掘 38
1.4.2 Hadoop開源生態(tài)框架體系 39
1.5 溫故知新 40
1.6 習(xí)題 41
參考資源 43
第2章 工具基礎(chǔ) 44
2.1 編程基礎(chǔ) 44
2.1.1 編程理論 44
2.1.2 Python基礎(chǔ) 46
2.2 開源框架基礎(chǔ) 53
2.2.1 Pytorch 54
2.2.2 TensorFlow框架 55
2.2.3 PaddlePaddle框架 56
2.2.4 其他框架 57
2.3 硬件基礎(chǔ) 59
2.3.1 CPU基礎(chǔ) 60
2.3.2 GPU基礎(chǔ) 62
2.3.3 樹莓派 62
2.4 操作系統(tǒng)基礎(chǔ) 63
2.4.1 Linux簡介 63
2.4.2 國產(chǎn)Linux操作系統(tǒng) 65
2.5 溫故知新 66
2.6 習(xí)題 67
參考資源 68
第3章 神經(jīng)網(wǎng)絡(luò)基礎(chǔ) 69
3.1 神經(jīng)網(wǎng)絡(luò)概述 69
3.2 神經(jīng)元模型與感知機(jī)模型 70
3.2.1 MP神經(jīng)元 70
3.2.2 感知機(jī) 72
3.3 多隱層前饋神經(jīng)網(wǎng)絡(luò) 73
3.3.1 網(wǎng)絡(luò)結(jié)構(gòu) 73
3.3.2 激活函數(shù) 75
3.3.3 網(wǎng)絡(luò)訓(xùn)練 77
3.4 神經(jīng)網(wǎng)絡(luò)的優(yōu)化方法 80
3.4.1 梯度下降法 80
3.4.2 隨機(jī)梯度下降 81
3.4.3 小批量梯度下降 81
3.4.4 動(dòng)量梯度下降 82
3.4.5 RMSProp 82
3.4.6 ADAM 83
3.5 神經(jīng)網(wǎng)絡(luò)的優(yōu)化策略 83
3.5.1 參數(shù)初始化 83
3.5.2 正則化 85
3.5.3 Dropout 86
3.5.4 數(shù)據(jù)增強(qiáng) 87
3.5.5 預(yù)訓(xùn)練 87
3.6 深度神經(jīng)網(wǎng)絡(luò)概述 87
3.6.1 深度學(xué)習(xí)的優(yōu)勢 89
3.6.2 適用領(lǐng)域 90
3.7 溫故知新 92
3.8 習(xí)題 92
參考資源 94
第二篇 方法解析篇
第4章 卷積神經(jīng)網(wǎng)絡(luò)方法解析 97
4.1 卷積神經(jīng)網(wǎng)絡(luò)概述 97
4.1.1 生物機(jī)理 98
4.1.2 拓?fù)浣Y(jié)構(gòu) 99
4.1.3 網(wǎng)絡(luò)特點(diǎn) 100
4.2 關(guān)鍵方法 102
4.2.1 卷積 103
4.2.2 池化 111
4.2.3 全連接 111
4.3 常見的卷積神經(jīng)網(wǎng)絡(luò) 112
4.3.1 LeNet 112
4.3.2 AlexNet 112
4.3.3 VGGNet 114
4.3.4 GoogLeNet 114
4.3.5 ResNet 115
4.3.6 DenseNet 116
4.4 改進(jìn)方向與應(yīng)用領(lǐng)域 116
4.4.1 改進(jìn)方向 116
4.4.2 應(yīng)用領(lǐng)域 117
4.5 溫故知新 118
4.6 習(xí)題 118
參考資源 119
第5章 生成式對(duì)抗網(wǎng)絡(luò)方法解析 120
5.1 生成模型概述 120
5.2 網(wǎng)絡(luò)模型 121
5.3 重要方法 122
5.3.1 數(shù)學(xué)原理 122
5.3.2 訓(xùn)練機(jī)制 125
5.3.3 訓(xùn)練技巧 125
5.3.4 評(píng)價(jià)指標(biāo) 127
5.4 GAN的改進(jìn)模型 129
5.4.1 CGAN 130
5.4.2 DCGAN 131
5.4.3 WGAN 132
5.4.4 LSGAN 133
5.4.5 PGGAN 134
5.4.6 ACGAN 136
5.4.7 BigGAN 137
5.5 改進(jìn)方向與應(yīng)用領(lǐng)域 139
5.5.1 改進(jìn)方向 139
5.5.2 應(yīng)用領(lǐng)域 140
5.5.3 研究進(jìn)展 143
5.6 溫故知新 144
5.7 習(xí)題 144
參考資源 145
第6章 循環(huán)神經(jīng)網(wǎng)絡(luò)方法解析 146
6.1 循環(huán)神經(jīng)網(wǎng)絡(luò)概述 146
6.2 自然語言處理 148
6.2.1 語言模型 148
6.2.2 詞向量 149
6.3 循環(huán)神經(jīng)網(wǎng)絡(luò) 151
6.3.1 生物機(jī)理 151
6.3.2 網(wǎng)絡(luò)結(jié)構(gòu) 151
6.3.3 網(wǎng)絡(luò)訓(xùn)練 153
6.4 循環(huán)神經(jīng)網(wǎng)絡(luò)改進(jìn) 154
6.4.1 LSTM 154
6.4.2 其他改進(jìn)模型 156
6.5 研究進(jìn)展與應(yīng)用領(lǐng)域 158
6.5.1 研究進(jìn)展 158
6.5.2 應(yīng)用領(lǐng)域 159
6.6 溫故知新 161
6.7 習(xí)題 162
參考資源 163
第7章 深度強(qiáng)化學(xué)習(xí)方法解析 165
7.1 強(qiáng)化學(xué)習(xí)概述 165
7.2 強(qiáng)化學(xué)習(xí)基礎(chǔ) 166
7.2.1 定義及相關(guān)概念 166
7.2.2 馬爾可夫決策過程 169
7.3 經(jīng)典強(qiáng)化學(xué)習(xí) 170
7.3.1 強(qiáng)化學(xué)習(xí)分類 170
7.3.2 Qlearning算法 172
7.3.3 存在挑戰(zhàn) 173
7.4 深度強(qiáng)化學(xué)習(xí) 174
7.4.1 DQN算法 174
7.4.2 深度強(qiáng)化學(xué)習(xí)的改進(jìn)算法 177
7.4.3 小結(jié) 179
7.5 重要應(yīng)用 180
7.6 研究進(jìn)展 181
7.7 溫故知新 182
7.8 習(xí)題 183
參考資源 184
第三篇 實(shí)戰(zhàn)應(yīng)用篇
第8章 基于卷積神經(jīng)網(wǎng)絡(luò)的2D人體姿態(tài)估計(jì)實(shí)戰(zhàn) 187
8.1 人體姿態(tài)估計(jì)概述 187
8.2 人體姿態(tài)估計(jì)技術(shù)回顧 188
8.2.1 單人姿態(tài)估計(jì) 189
8.2.2 多人姿態(tài)估計(jì) 191
8.3 編程實(shí)戰(zhàn) 192
8.3.1 實(shí)驗(yàn)環(huán)境 192
8.3.2 數(shù)據(jù)準(zhǔn)備 194
8.3.3 模型構(gòu)建 194
8.3.4 運(yùn)行測試 200
8.4 溫故知新 200
參考資源 201
第9章 利用深度強(qiáng)化學(xué)習(xí)玩游戲?qū)崙?zhàn) 202
9.1 實(shí)戰(zhàn)背景 202
9.1.1 深度強(qiáng)化學(xué)習(xí)在游戲領(lǐng)域的應(yīng)用 202
9.1.2 Gym介紹 203
9.2 深度強(qiáng)化學(xué)習(xí)技術(shù)回顧 204
9.3 編程實(shí)戰(zhàn) 206
9.3.1 基于Pytorch的游戲?qū)崙?zhàn) 207
9.3.2 基于策略梯度進(jìn)行TensorFlow實(shí)戰(zhàn) 211
9.4 溫故知新 215
參考資源 216
第10章 面向邊緣智能的人群數(shù)量計(jì)算實(shí)戰(zhàn) 217
10.1 實(shí)戰(zhàn)背景 217
10.1.1 人群數(shù)量計(jì)算 217
10.1.2 邊緣智能 219
10.2 目標(biāo)檢測技術(shù)回顧 220
10.2.1 目標(biāo)檢測 220
10.2.2 人臉檢測 222
10.2.3 面向邊緣智能的人群數(shù)量計(jì)算系統(tǒng)整體流程設(shè)計(jì) 223
10.3 編程實(shí)戰(zhàn) 225
10.3.1 基于YOLO V3的目標(biāo)檢測 225
10.3.2 基于CenterFace的人臉檢測 229
10.4 溫故知新 232
參考資源 233
第11章 邊緣計(jì)算場景下智能垃圾分類實(shí)戰(zhàn) 234
11.1 實(shí)戰(zhàn)背景 234
11.1.1 垃圾分類 234
11.1.2 邊緣計(jì)算發(fā)展 235
11.2 相關(guān)技術(shù)梳理 237
11.2.1 智能語音識(shí)別 237
11.2.2 垃圾圖像分類 238
11.2.3 基于邊緣計(jì)算的智能垃圾分類系統(tǒng)整體流程 240
11.3 編程實(shí)戰(zhàn) 242
11.3.1 智能語音識(shí)別 242
11.3.2 垃圾圖像分類 245
11.4 溫故知新 247
參考資源 249
第12章 基于生成式對(duì)抗網(wǎng)絡(luò)的圖像“魔術(shù)” 250
12.1 實(shí)戰(zhàn)背景 250
12.1.1 GAN在圖像翻譯中的應(yīng)用 250
12.1.2 GAN在圖像生成中的應(yīng)用 251
12.2 生成式對(duì)抗網(wǎng)絡(luò)技術(shù)回顧 253
12.3 編程實(shí)戰(zhàn) 256
12.3.1 基于TensorFlow的CycleGAN 257
12.3.2 基于Pytorch的DCGAN 267
12.4 溫故知新 272
參考資源 273
附錄1 Linux指令 274
附錄2 BP算法推導(dǎo) 278
參考文獻(xiàn) 282
你還可能感興趣
我要評(píng)論
|