目錄
前言
第1章 線(xiàn)性代數(shù) 1
1.1 線(xiàn)性代數(shù)的基本概念 1
1.1.1 線(xiàn)性空間 1
1.1.2 正交性 4
1.1.3 格拉姆–施密特過(guò)程 9
1.1.4 特征值和特征向量 9
1.2 線(xiàn)性回歸 14
1.2.1 QR分解 14
1.2.2 最小二乘問(wèn)題 15
1.2.3 線(xiàn)性回歸與最小二乘問(wèn)題的關(guān)系 17
1.3 主成分分析 18
1.3.1 奇異值分解 18
1.3.2 低秩矩陣逼近 20
1.3.3 主成分分析方法 21
1.4 習(xí)題 26
第2章 概率論 28
2.1 概率分布 28
2.1.1 概率公理 28
2.1.2 條件概率 29
2.1.3 離散型隨機(jī)變量 30
2.1.4 連續(xù)型隨機(jī)變量 33
2.2 獨(dú)立變量和隨機(jī)抽樣 36
2.2.1 聯(lián)合概率分布 36
2.2.2 相關(guān)性和依賴(lài)性 39
2.2.3 隨機(jī)抽樣 41
2.3 最大似然估計(jì) 42
2.3.1 隨機(jī)抽樣的最大似然估計(jì) 42
2.3.2 最小二乘問(wèn)題的概率表示 43
2.4 習(xí)題 44
第3章 微積分與優(yōu)化 45
3.1 連續(xù)性和導(dǎo)數(shù) 45
3.1.1 極限與連續(xù)性 45
3.1.2 導(dǎo)數(shù) 47
3.1.3 泰勒定理 54
3.2 無(wú)約束最優(yōu)化.56
3.2.1 局部最小值的充分必要條件 56
3.2.2 凸性和全局最小值 59
3.2.3 梯度下降 64
3.3 logistic回歸 65
3.4 k均值 67
3.5 支持向量機(jī) 69
3.6 神經(jīng)網(wǎng)絡(luò) 71
3.6.1 數(shù)學(xué)公式 71
3.6.2 激活函數(shù) 73
3.6.3 代價(jià)函數(shù) 74
3.6.4 反向傳播概念 74
3.6.5 反向傳播算法 75
3.7 習(xí)題 76
第4章 網(wǎng)絡(luò)分析 77
4.1 圖模型 77
4.2 譜圖二分類(lèi) 84
4.3 網(wǎng)絡(luò)嵌入 89
4.4 基于網(wǎng)絡(luò)的流感預(yù)測(cè) 90
4.4.1 流感及其預(yù)測(cè)的背景 90
4.4.2 基于空間網(wǎng)絡(luò)的數(shù)據(jù)分析 93
4.4.3 ANN 方法用于預(yù)測(cè) 97
4.5 基于稀疏識(shí)別的材料微觀(guān)結(jié)構(gòu)研究 106
4.5.1 材料背景介紹 106
4.5.2 稀疏識(shí)別算法 107
4.5.3 模型構(gòu)建和模型性能 108
4.6 習(xí)題.112
第5章 量子計(jì)算 114
5.1 基本概念 114
5.1.1 量子比特 114
5.1.2 計(jì)算基態(tài) 115
5.1.3 張量積 116
5.2 量子門(mén) 117
5.2.1 單量子比特門(mén) 117
5.2.2 雙量子比特門(mén) 121
5.2.3 多量子比特門(mén) 123
5.3 量子測(cè)量 125
5.4 量子編碼 126
5.4.1 基態(tài)編碼 126
5.4.2 角度編碼 126
5.4.3 振幅編碼 126
5.5 量子電路 127
5.6 量子算法 128
5.6.1 Deutsch算法 128
5.6.2 Deutsch-Jozsa算法 130
5.7 習(xí)題.132
第6章 大模型 133
6.1 基本概念 133
6.1.1 大模型與小模型 133
6.1.2 發(fā)展歷程 133
6.1.3 分類(lèi) 134
6.2 預(yù)訓(xùn)練與微調(diào) 135
6.2.1 預(yù)訓(xùn)練階段 135
6.2.2 微調(diào)階段 135
6.3 循環(huán)神經(jīng)網(wǎng)絡(luò) 136
6.3.1 RNN的結(jié)構(gòu) 136
6.3.2 RNN的應(yīng)用 140
6.4 長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò) 140
6.4.1 LSTM的結(jié)構(gòu) 140
6.4.2 LSTM的應(yīng)用 142
6.5 Transformer架構(gòu) 142
6.5.1 自注意力機(jī)制 143
6.5.2 多頭注意力機(jī)制 145
6.5.3 位置編碼 146
6.5.4 編碼器 146
6.5.5 解碼器 147
6.5.6 交叉注意力機(jī)制 149
6.5.7 Transformer架構(gòu)的應(yīng)用 150
6.6 習(xí)題 151
參考文獻(xiàn) 152