Flink流批一體計(jì)算:狀態(tài)管理與窗口函數(shù)培訓(xùn)課程
-
-
培訓(xùn)對(duì)象: 實(shí)時(shí)計(jì)算工程師、大數(shù)據(jù)開(kāi)發(fā)人員、流處理應(yīng)用開(kāi)發(fā)者、數(shù)據(jù)平臺(tái)架構(gòu)師。
-
-
培訓(xùn)目標(biāo):
-
理解Flink的流批一體架構(gòu)和運(yùn)行原理。
-
掌握DataStream API進(jìn)行流處理開(kāi)發(fā)。
-
熟練使用Flink的窗口函數(shù)和狀態(tài)管理。
-
具備Checkpoint配置和Exactly-Once語(yǔ)義保證能力。
-
-
培訓(xùn)內(nèi)容介紹:
-
一、 Flink架構(gòu)與流批一體: 了解Flink的發(fā)展歷程,對(duì)比與Spark Streaming的差異,理解其流批一體的設(shè)計(jì)理念。
二、 Flink部署與開(kāi)發(fā)環(huán)境: 搭建Flink本地集群,配置IDE開(kāi)發(fā)環(huán)境,熟悉Flink命令行操作。
三、 DataStream API基礎(chǔ): 創(chuàng)建執(zhí)行環(huán)境,定義Source(Socket、Kafka)、Transformation(map、filter)和Sink。
四、 時(shí)間語(yǔ)義與Watermark: 理解事件時(shí)間、攝入時(shí)間、處理時(shí)間的區(qū)別,設(shè)置Watermark處理亂序數(shù)據(jù)。
五、 窗口函數(shù)深度應(yīng)用: 實(shí)現(xiàn)滾動(dòng)窗口(Tumbling)、滑動(dòng)窗口(Sliding)和會(huì)話窗口(Session),使用ReduceFunction和ProcessWindowFunction。
六、 狀態(tài)管理與容錯(cuò): 理解Keyed State和Operator State,使用ValueState、ListState維護(hù)狀態(tài)數(shù)據(jù)。
七、 Checkpoint與Savepoint: 配置Checkpoint實(shí)現(xiàn)故障恢復(fù),使用Savepoint進(jìn)行作業(yè)升級(jí)和遷移。
八、 Exactly-Once語(yǔ)義保證: 理解端到端的Exactly-Once實(shí)現(xiàn),配置Kafka Source和Sink的Exactly-Once語(yǔ)義。
九、 Table API與SQL: 使用Table API和Flink SQL進(jìn)行流式查詢(xún),處理動(dòng)態(tài)表的變化。
十、 Flink與Kafka集成: 配置Kafka連接器,消費(fèi)和寫(xiě)入Kafka消息,處理JSON格式數(shù)據(jù)。
十一、 Flink性能優(yōu)化: 調(diào)整并行度、緩沖區(qū)大小、狀態(tài)后端(RocksDB),優(yōu)化大狀態(tài)作業(yè)性能。
十二、 實(shí)戰(zhàn)項(xiàng)目:實(shí)時(shí)風(fēng)控系統(tǒng): 開(kāi)發(fā)Flink實(shí)時(shí)風(fēng)控應(yīng)用,處理用戶(hù)行為流,結(jié)合狀態(tài)計(jì)算規(guī)則,實(shí)時(shí)識(shí)別風(fēng)險(xiǎn)交易。
如果您想學(xué)習(xí)本課程,請(qǐng)
預(yù)約報(bào)名
如果沒(méi)找到合適的課程或有特殊培訓(xùn)需求,請(qǐng)
訂制培訓(xùn)
除培訓(xùn)外,同時(shí)提供相關(guān)技術(shù)咨詢(xún)與技術(shù)支持服務(wù),有需求請(qǐng)發(fā)需求表到郵箱soft@info-soft.cn,或致電4007991916
技術(shù)服務(wù)需求表點(diǎn)擊在線申請(qǐng)
服務(wù)特點(diǎn):
海量專(zhuān)家資源,精準(zhǔn)匹配相關(guān)行業(yè),相關(guān)項(xiàng)目專(zhuān)家,針對(duì)實(shí)際需求,顧問(wèn)式咨詢(xún),互動(dòng)式授課,案例教學(xué),小班授課,實(shí)際項(xiàng)目演示,快捷高效,省時(shí)省力省錢(qián)。
專(zhuān)家力量:
中國(guó)科學(xué)院軟件研究所,計(jì)算研究所高級(jí)研究人員
oracle,微軟,vmware,MSC,Ansys,candence,Altium,達(dá)索等大型公司高級(jí)工程師,項(xiàng)目經(jīng)理,技術(shù)支持專(zhuān)家
中科信軟培訓(xùn)中心,資深專(zhuān)家或講師
大多名牌大學(xué),碩士以上學(xué)歷,相關(guān)技術(shù)專(zhuān)業(yè),理論素養(yǎng)豐富
多年實(shí)際項(xiàng)目經(jīng)歷,大型項(xiàng)目實(shí)戰(zhàn)案例,熱情,樂(lè)于技術(shù)分享
針對(duì)客戶(hù)實(shí)際需求,案例教學(xué),互動(dòng)式溝通,學(xué)有所獲