第 1章 緒論　1 1.1　自然語言處理概述　1 1.1.1　NLP的發(fā)展歷程　2 1.1.2　NLP研究內容　3 1.1.3　NLP的幾個應用場景　4 1.1.4　NLP與人工智能技術　5 1.1.5　學習NLP的難點　6 1.2　NLP基本流程　6 1.2.1　語料獲取　6 1.2.2　語料預處理　7 1.2.3　文本向量化　7 1.2.4　模型構建　7 1.2.5　模型訓練　7 1.2.6　模型評價　8 1.3　NLP的開發(fā)環(huán)境　8 1.3.1　Anaconda安裝　8 1.3.2　Anaconda應用介紹　9 小結　14 課后習題　14 第　2章 語料庫　16 2.1　語料庫概述　16 2.1.1　語料庫簡介　16 2.1.2　語料庫的用途　17 2.2　語料庫的種類與構建原則　17 2.2.1　語料庫的種類　17 2.2.2　語料庫的構建原則　18 2.3　NLTK　19 2.3.1　NLTK簡介　19 2.3.2　安裝步驟　19 2.3.3　NLTK中函數(shù)的使用　21 2.4　語料庫的獲取　23 2.4.1　獲取NLTK語料庫　23 2.4.2　獲取網絡在線語料庫　30 2.5　任務：語料庫的構建與應用　32 2.5.1　構建作品集語料庫　32 2.5.2　武俠小說語料庫分析　33 小結　35 實訓　35 實訓1　構建語料庫　35 實訓2　《七劍下天山》語料庫分析　36 課后習題　36 第3章　正則表達式　38 3.1　正則表達式的概念　38 3.1.1　正則表達式函數(shù)　38 3.1.2　正則表達式的元字符　40 3.2　任務：正則表達式的應用　43 3.2.1　《西游記》字符過濾　43 3.2.2　自動提取人名與電話號碼　44 3.2.3　提取網頁標簽信息　45 小結　46 實訓　46 實訓1　過濾《三國志》中的字符　46 實訓2　提取地名與郵編　46 實訓3　提取網頁標簽中的文本　46 課后習題　47 第4章　中文分詞技術　48 4.1　中文分詞簡介　48 4.2　基于規(guī)則分詞　48 4.2.1　正向最大匹配法　49 4.2.2　逆向最大匹配法　49 4.2.3　雙向最大匹配法　50 4.3　基于統(tǒng)計分詞　51 4.3.1　n元語法模型　51 4.3.2　隱馬爾可夫模型相關概念　55 4.4　中文分詞工具jieba　62 4.4.1　基本步驟　63 4.4.2　分詞模式　63 4.5　任務：中文分詞的應用　64 4.5.1　HMM中文分詞　64 4.5.2　提取新聞文本中的高頻詞　68 小結　69 實訓　70 實訓1　使用HMM進行中文分詞　70 實訓2　提取文本中的高頻詞　70 課后習題　70 第5章　詞性標注與命名實體識別　72 5.1　詞性標注　72 5.1.1　詞性標注簡介　72 5.1.2　詞性標注規(guī)范　73 5.1.3　jieba詞性標注　74 5.2　命名實體識別　77 5.2.1　命名實體識別簡介　77 5.2.2　CRF模型　78 5.3　任務：中文命名實體識別　82 5.3.1　sklearn-crfsuite庫簡介　83 5.3.2　命名實體識別流程　83 小結　90 實訓　中文命名實體識別　90 課后習題　91 第6章　關鍵詞提取　92 6.1　關鍵詞提取技術簡介　92 6.2　關鍵詞提取算法　93 6.2.1　TF-IDF算法　93 6.2.2　TextRank算法　94 6.2.3　LSA與LDA算法　96 6.3　任務：自動提取文本關鍵詞　103 小結　109 實訓　109 實訓1　文本預處理　109 實訓2　使用TF-IDF算法提取關鍵詞　109 實訓3　使用TextRank算法提取關鍵詞　110 實訓4　使用LSA算法提取關鍵詞　110 課后習題　110 第7章　文本向量化　112 7.1　文本向量化簡介　112 7.2　文本離散表示　113 7.2.1　獨熱表示　113 7.2.2　BOW模型　113 7.2.3　TF-IDF表示　114 7.3　文本分布式表示　114 7.3.1　Word2Vec模型　114 7.3.2　Doc2Vec模型　118 7.4　任務：文本相似度計算　120 7.4.1　Word2Vec詞向量的訓練　121 7.4.2　Doc2Vec段落向量的訓練　122 7.4.3　計算文本的相似度　124 小結　128 實訓　128 實訓1　實現(xiàn)基于Word2Vec模型的新聞語料詞向量訓練　128 實訓2　實現(xiàn)基于Doc2Vec模型的新聞語料段落向量訓練　128 實訓3　使用Word2Vec模型和Doc2Vec模型計算新聞文本的相似度　129 課后習題　129 第8章　文本分類與文本聚類　131 8.1　文本挖掘簡介　131 8.2　文本分類常用算法　132 8.3　文本聚類常用算法　133 8.4　文本分類與文本聚類的步驟　135 8.5　任務：垃圾短信分類　136 8.6　任務：新聞文本聚類　141 小結　144 實訓　144 實訓1　基于樸素貝葉斯的新聞分類　144 實訓2　食品種類安全問題聚類分析　145 課后習題　145 第9章　文本情感分析　147 9.1　文本情感分析簡介　147 9.1.1　文本情感分析的主要內容　147 9.1.2　文本情感分析的常見應用　148 9.2　情感分析的常用方法　149 9.2.1　基于情感詞典的方法　149 9.2.2　基于文本分類的方法　150 9.2.3　基于LDA主題模型的方法　151 9.3　任務：基于情感詞典的情感分析　151 9.4　任務：基于文本分類的情感分析　154 9.4.1　基于樸素貝葉斯分類的情感分析　154 9.4.2　基于SnowNLP庫的情感分析　156 9.5　任務：基于LDA主題模型的情感分析　157 9.5.1　數(shù)據(jù)處理　157 9.5.2　模型訓練　158 9.5.3　結果分析　159 小結　160 實訓　160 實訓1　基于詞典的豆瓣評論文本情感分析　160 實訓2　基于樸素貝葉斯算法的豆瓣評論文本情感分析　160 實訓3　基于SnowNLP的豆瓣評論文本情感分析　161 實訓4　基于LDA主題模型的豆瓣評論文本情感分析　161 課后習題　161 第　10章 NLP中的深度學習技術　163 10.1　循環(huán)神經網絡概述　163 10.2　RNN結構　164 10.2.1　多對一結構　164 10.2.2　等長的多對多結構　164 10.2.3　非等長結構（Seq2Seq模型）　169 10.3　深度學習工具　171 10.3.1　TensorFlow簡介　171 10.3.2　基于TensorFlow的深度學習庫Keras　172 10.4　任務：基于LSTM的文本分類與情感分析　172 10.4.1　文本分類　172 10.4.2　情感分析　181 10.5　任務：基于Seq2Seq的機器翻譯　185 10.5.1　語料預處理　185 10.5.2　構建模型　188 10.5.3　定義優(yōu)化器和損失函數(shù)　191 10.5.4　訓練模型　191 10.5.5　翻譯　194 小結　195 實訓　195 實訓1　實現(xiàn)基于LSTM模型的新聞分類　195 實訓2　實現(xiàn)基于LSTM模型的攜程網評論情感分析　196 實訓3　實現(xiàn)基于Seq2Seq和GPU的機器翻譯　196 課后習題　197 第　11章 智能問答系統(tǒng)　198 11.1　智能問答系統(tǒng)簡介　198 11.2　智能問答系統(tǒng)的主要組成部分　198 11.2.1　問題理解　199 11.2.2　知識檢索　199 11.2.3　答案生成　200 11.3　任務：基于Seq2Seq模型的聊天機器人　201 11.3.1　讀取語料庫　201 11.3.2　文本預處理　202 11.3.3　模型構建　206 11.3.4　模型訓練　211 11.3.5　模型評價　218 小結　218 實訓　基于Seq2Seq模型的聊天機器人　218 課后習題　219 第　12章 基于TipDM大數(shù)據(jù)挖掘建模平臺實現(xiàn)垃圾短信分類　220 12.1　平臺簡介　220 12.1.1　實訓庫　221 12.1.2　數(shù)據(jù)連接　222 12.1.3　實訓數(shù)據(jù)　222 12.1.4　我的實訓　223 12.1.5　系統(tǒng)算法　223 12.1.6　個人算法　225 12.2　實現(xiàn)垃圾短信分類　226 12.2.1　數(shù)據(jù)源配置　227 12.2.2　文本預處理　229 12.2.3　樸素貝葉斯分類模型　234 小結　235 實訓　實現(xiàn)基于樸素貝葉斯的新聞分類　235 課后習題　236