本書以Spark 0.9版本為基礎進行編寫,是一本全面介紹Spark及Spark生態(tài)圈相關技術的書籍,是國內(nèi)首本深入介紹 Spark 原理和架構(gòu)的技術書籍。主要內(nèi)容有 Spark 基礎功能介紹及內(nèi)部重要模塊分析,包括部署模式、調(diào)度框架、存儲管理以及應用監(jiān)控;同時也詳細介紹了 Spark 生態(tài)圈中其他的軟件和模塊,包括 SQL 處理引擎 Shark 和 Spark SQL、流式處理引擎 Spark Streaming、圖計算框架 Graphx 以及分布式內(nèi)存文件系統(tǒng) Tachyon。本書從概念和原理上對 Spark 核心框架和生態(tài)圈做了詳細的解讀,并對 Spark 的應用現(xiàn)狀和未來發(fā)展做了一定的介紹,旨在為大數(shù)據(jù)從業(yè)人員和 Spark愛好者提供一個更深入學習的平臺。
本書適合任何大數(shù)據(jù)、Spark 領域的從業(yè)人員閱讀,同時也為架構(gòu)師、軟件開發(fā)工程師和大數(shù)據(jù)愛好者展現(xiàn)了一個現(xiàn)代大數(shù)據(jù)框架的架構(gòu)原理和實現(xiàn)細節(jié)。相信通過學習本書,讀者能夠熟悉和掌握 Spark 這一當前流行的大數(shù)據(jù)框架,并將其投入到生產(chǎn)實踐中去。
全球首部全面介紹Spark及Spark生態(tài)圈相關技術的技術書籍 俯覽未來大局,不失精細剖析,呈現(xiàn)一個現(xiàn)代大數(shù)據(jù)框架的架構(gòu)原理和實現(xiàn)細節(jié) 透徹講解Spark原理和架構(gòu),以及部署模式、調(diào)度框架、存儲管理及應用監(jiān)控等重要模塊 Spark生態(tài)圈深度檢閱:SQL處理Shark和Spark SQL、流式處理Spark Streaming、圖計算Graphx及內(nèi)存文件系統(tǒng)Tachyon
夏俊鸞 現(xiàn)任阿里巴巴數(shù)據(jù)平臺部高級技術專家,Apache Spark項目Committer,曾就職于英特爾亞太研發(fā)中心,微博賬號@Andrew-Xia。
劉旭暉 現(xiàn)任蘑菇街數(shù)據(jù)平臺資深架構(gòu)師(花名天火),曾就職于英特爾亞太研發(fā)中心大數(shù)據(jù)軟件部,Spark/Hadoop/Hbase/Phoenix 等眾多大數(shù)據(jù)相關開源項目的積極貢獻者。樂于分享,著有CSDN博客 blog.csdn.net/colorant。
邵賽賽 英特爾亞太研發(fā)有限公司開發(fā)工程師,專注于大數(shù)據(jù)領域,開源愛好者,現(xiàn)從事Spark相關工作,Spark代碼貢獻者。
程浩 英特爾大數(shù)據(jù)技術團隊軟件工程師,Shark和Spark SQL活躍開發(fā)者,致力于SQL on Big Data的性能調(diào)優(yōu)與優(yōu)化。
史鳴飛 英特爾亞太研發(fā)有限公司大數(shù)據(jù)軟件部工程師,專注于大數(shù)據(jù)領域,主要從事Spark及相關項目的開發(fā)及應用,Spark及Shark代碼貢獻者,現(xiàn)在主要投身于Tachyon項目的開發(fā)。
黃潔 目前就職于英特爾亞太研發(fā)中心大數(shù)據(jù)技術中心,擔任高級軟件工程師,致力于大數(shù)據(jù)技術的性能優(yōu)化及開發(fā)工作,涉及Hadoop、Spark、HBase等開源項目。在多年的工作過程中,積累了一定的分布式大數(shù)據(jù)框架性能調(diào)優(yōu)經(jīng)驗,并且是Apache Chukwa項目的PMC成員和Committer。在此之前,畢業(yè)于上海交通大學并獲碩士及學士學位。
第1章 Spark系統(tǒng)概述
1.1 大數(shù)據(jù)處理框架
1.2 Spark大數(shù)據(jù)處理框架
1.2.1 RDD表達能力
1.2.2 Spark子系統(tǒng)
1.3 小結(jié)
第2章 Spark RDD及編程接口
2.1 Spark程序“Hello World”
2.2 Spark RDD
2.2.1 RDD分區(qū)(partitions)
2.2.2 RDD優(yōu)先位置(preferredLocations)
2.2.3 RDD依賴關系(dependencies)
2.2.4 RDD分區(qū)計算(compute)
2.2.5 RDD分區(qū)函數(shù)(partitioner)
2.3 創(chuàng)建操作 第1章 Spark系統(tǒng)概述
1.1 大數(shù)據(jù)處理框架
1.2 Spark大數(shù)據(jù)處理框架
1.2.1 RDD表達能力
1.2.2 Spark子系統(tǒng)
1.3 小結(jié)
第2章 Spark RDD及編程接口
2.1 Spark程序“Hello World”
2.2 Spark RDD
2.2.1 RDD分區(qū)(partitions)
2.2.2 RDD優(yōu)先位置(preferredLocations)
2.2.3 RDD依賴關系(dependencies)
2.2.4 RDD分區(qū)計算(compute)
2.2.5 RDD分區(qū)函數(shù)(partitioner)
2.3 創(chuàng)建操作
2.3.1 集合創(chuàng)建操作
2.3.2 存儲創(chuàng)建操作
2.4 轉(zhuǎn)換操作
2.4.1 RDD基本轉(zhuǎn)換操作
2.4.2 鍵值RDD轉(zhuǎn)換操作
2.4.3 再論RDD依賴關系
2.5 控制操作(control operation)
2.6 行動操作(action operation)
2.6.1 集合標量行動操作
2.6.2 存儲行動操作
2.7 小結(jié)
第3章 Spark運行模式及原理
3.1 Spark運行模式概述
3.1.1 Spark運行模式列表
3.1.2 Spark基本工作流程
3.1.3 相關基本類
3.2 Local模式
3.2.1 部署及程序運行
3.2.2 內(nèi)部實現(xiàn)原理
3.3 Standalone模式
3.3.1 部署及程序運行
3.3.2 內(nèi)部實現(xiàn)原理
3.4 Local cluster模式
3.4.1 部署及程序運行
……
第4章 Spark調(diào)度管理原理
第5章 Spark的存儲管理
第6章 Spark監(jiān)控管理
第7章 Spark架構(gòu)與安裝配置
第8章 SQL程序擴展
第9章 Spark SQL
第10章 Spark Streaming流數(shù)據(jù)處理框架
第11章 GraphX計算框架
第12章 Tachyon存儲系統(tǒng)