Spark Streaming技術內幕及源碼剖析
內容描述
本書以大數據處理引擎Spark的穩定版本1.6.x為基礎,從應用案例、原理、源碼、流程、調優等多個角度剖析Spark上的實時計算框架SparkStreaming。在勾勒出SparkStreaming架構輪廓的基礎上,從基本源碼開始進行剖析,由淺入深地引導已具有Spark和Spark Streaming基礎技術知識的讀者進行Spark Streaming的進階學習,理解Spark Streaming的原理和運行機制,為流數據處理的決策和應用提供了技術參考;結合Spark Streaming的深入應用的需要,對Spark Streaming的性能調優進行了分析,也對Spark Streaming功能的改造和擴展提供了指導。
本書適合大數據領域CTO、架構師、高級軟件工程師,尤其是Spark領域已有Spark Streaming基礎知識的從業人員閱讀,也可供需要深入學習Spark、Spark Streaming的高校研究生和高年級本生參考。
海報:
目錄大綱
第1章Spark Streaming應用概述
1.1 Spark Streaming應用案例
1.2 Spark Streaming應用剖析
第2章Spark Streaming基本原理
2.1 Spark Core簡介
2.2 Spark Streaming設計思想
2.3 Spark Streaming整體架構
2.4編程接口
第3章Spark Streaming運行流程詳解
3.1從StreamingContext的初始化到啟動
3.2數據接收
3.3數據處理
3.4數據清理
3.5容錯機制
3.5.1容錯原理
3.5.2 Driver容錯機制
3.5.3 Executor容錯機制
3.6 No Receiver方式
3.7輸出不重複
3.8消費速率的動態控制
3.9狀態操作
3.10窗口操作
3.11頁面展示
3.12 Spark Streaming應用程序的停止
第4章Spark Streaming性能調優機制
4.1並行度解析
4.1.1數據接收的並行度
4.1.2數據處理的並行度
4.2內存
4.3序列化
4.4 Batch Interval
4.5 Task
4.6 JVM GC
第5章Spark 2.0中的流計算
5.1連續應用程序
5.2無邊界表unbounded table
5.3增量輸出模式
5.4 API簡化
5.5其他改進