Spark培訓(xùn)課程
第一天: 第一講 Spark大數(shù)據(jù)實(shí)時(shí)處理技術(shù)
1)大數(shù)據(jù)處理技術(shù)概述
2)Spark實(shí)時(shí)處理技術(shù)
3)Spark生態(tài)系統(tǒng)BDAS
4)Spark架構(gòu)分析
第二講 Spark安裝配置及監(jiān)控
1)Linux開發(fā)環(huán)境準(zhǔn)備
2)Hadoop2.X和Scala
3)搭建Spark開發(fā)環(huán)境
4)Idea及Eclipse編譯和運(yùn)行
5)Spark監(jiān)控管理
第三講 Scala編程語言使用概述
1) Scala編程語言
2) 基本數(shù)據(jù)類型
3) 操作基本數(shù)據(jù)類型
4) 類和對象
5) 組合和繼承
第四講 Spark分布式計(jì)算框架
1)Spark計(jì)算模型
2)彈性分布式數(shù)據(jù)集RDD
3)Spark的數(shù)據(jù)存儲
4)Transformation算子分類及功能
5)Actions算子分類及功能
第五講 Spark內(nèi)部工作機(jī)制詳解
1) Spark底層實(shí)現(xiàn)原理
2) Spark應(yīng)用執(zhí)行機(jī)制
3) Spark調(diào)度與任務(wù)分配模塊
4) FIFO和FAIR調(diào)度算法
5) 相關(guān)源碼分析
第六講 Spark數(shù)據(jù)讀取與存儲
1)Spark的I/O機(jī)制
2)Spark中的數(shù)據(jù)壓縮
3)Spark的數(shù)據(jù)讀取與存儲
4)Spark數(shù)據(jù)讀寫流程
5)相關(guān)源碼分析
第二天: 第七講 Spark通信模塊和容錯(cuò)機(jī)制
1)Spark通信模塊
2)通信框架AKKA
3)容錯(cuò)機(jī)制和Lineage依賴
4)檢查點(diǎn)機(jī)制進(jìn)行容錯(cuò)
5)Shuffle過程
6)相關(guān)源碼分析
第八講 SQL On Spark
1) BDAS數(shù)據(jù)分析軟件棧
2) SQL On Spark
3) Spark SQL工具使用
4) Shark工具使用
5) Hive on Spark工具
6) Spark操作HBase中的數(shù)據(jù)
7)相關(guān)源碼分析
第九講 Spark流數(shù)據(jù)處理工具Streaming
1)流數(shù)據(jù)處理工具Streaming
2)Spark Streaming架構(gòu)
3)Spark Streaming原理
4)Spark Streaming實(shí)例
5)相關(guān)源碼分析
第十講 Spark中的大數(shù)據(jù)挖掘工具M(jìn)Llib
1)大數(shù)據(jù)挖掘工具M(jìn)Llib
2)MLlib的數(shù)據(jù)存儲
3)MLlib中的聚類和分類
4)MLlib算法應(yīng)用實(shí)例
5)利用MLlib進(jìn)行推薦 5)相關(guān)源碼分析
第十一講 Spark大規(guī)模圖處理工具GraphX
1)大規(guī)模圖處理工具GraphX
2)GraphX的運(yùn)行架構(gòu)
3)GraphX操作使用
4)GraphX使用實(shí)例
5)相關(guān)源碼分析
第十二講 Spark與其他大數(shù)據(jù)技術(shù)的融合與應(yīng)用
1)與Hadoop/Yarn集群應(yīng)用的協(xié)作
2)與Docker等其它云工具配合
3)Spark在移動互聯(lián)網(wǎng)業(yè)務(wù)中的應(yīng)用
4)Spark綜合案例分析
如果您想學(xué)習(xí)本課程,請
預(yù)約報(bào)名
如果沒找到合適的課程或有特殊培訓(xùn)需求,請
訂制培訓(xùn)
除培訓(xùn)外,同時(shí)提供相關(guān)技術(shù)咨詢與技術(shù)支持服務(wù),有需求請發(fā)需求表到郵箱soft@info-soft.cn,或致電4007991916
技術(shù)服務(wù)需求表點(diǎn)擊在線申請
服務(wù)特點(diǎn):
海量專家資源,精準(zhǔn)匹配相關(guān)行業(yè),相關(guān)項(xiàng)目專家,針對實(shí)際需求,顧問式咨詢,互動式授課,案例教學(xué),小班授課,實(shí)際項(xiàng)目演示,快捷高效,省時(shí)省力省錢。
專家力量:
中國科學(xué)院軟件研究所,計(jì)算研究所高級研究人員
oracle,微軟,vmware,MSC,Ansys,candence,Altium,達(dá)索等大型公司高級工程師,項(xiàng)目經(jīng)理,技術(shù)支持專家
中科信軟培訓(xùn)中心,資深專家或講師
大多名牌大學(xué),碩士以上學(xué)歷,相關(guān)技術(shù)專業(yè),理論素養(yǎng)豐富
多年實(shí)際項(xiàng)目經(jīng)歷,大型項(xiàng)目實(shí)戰(zhàn)案例,熱情,樂于技術(shù)分享
針對客戶實(shí)際需求,案例教學(xué),互動式溝通,學(xué)有所獲