實時數(shù)據(jù)處理(Kafka+Flink)實戰(zhàn)培訓(xùn)課程
-
-
【培訓(xùn)對象】
大數(shù)據(jù)開發(fā)工程師、數(shù)據(jù)平臺工程師、實時計算開發(fā)人員,以及希望構(gòu)建實時數(shù)據(jù)處理管道的架構(gòu)師。
-
-
【培訓(xùn)目標(biāo)】
一、 深入理解Apache Kafka和Apache Flink的核心原理與架構(gòu)。
二、 熟練搭建和運維Kafka集群,掌握高性能生產(chǎn)者和消費者的開發(fā)。
三、 掌握Flink的DataStream API和SQL進(jìn)行復(fù)雜的流式數(shù)據(jù)處理(如窗口、狀態(tài)、Join等)。
四、 能夠設(shè)計并實現(xiàn)完整的實時數(shù)據(jù)管道,將Kafka和Flink無縫集成,解決實際業(yè)務(wù)問題(如實時大屏、實時風(fēng)控)。
-
-
【培訓(xùn)內(nèi)容介紹】
一、 實時數(shù)據(jù)處理概述:批處理與流處理的對比,Lambda架構(gòu)與Kappa架構(gòu),Kafka+Flink技術(shù)棧定位。
二、 Kafka核心原理與架構(gòu):Topic與Partition、Producer與Consumer、副本機制與ISR、消息存儲與清理。
三、 Kafka集群搭建與配置:ZooKeeper/KRaft模式、關(guān)鍵參數(shù)配置、監(jiān)控與管理工具(Kafka Manager, Burrow)。
四、 Kafka高級特性:消息可靠性保證、冪等性與事務(wù)、Exactly-Once語義。
五、 Kafka生產(chǎn)與消費實踐:Java API開發(fā)高性能生產(chǎn)者與消費者、消息序列化與反序列化。
六、 Flink架構(gòu)與運行模式:Flink組件棧(JobManager, TaskManager)、任務(wù)調(diào)度與容錯、部署模式(Session, Per-Job, Application)。
七、 Flink DataStream API開發(fā)基礎(chǔ):Source、Transformation(map, filter, keyBy, window)、Sink,連接器(Kafka Connector)。
八、 Flink時間語義與窗口:Event Time、Processing Time、Watermark機制、滾動窗口、滑動窗口、會話窗口。
九、 Flink狀態(tài)管理與容錯:Keyed State與Operator State、狀態(tài)后端、Checkpoint與Savepoint實現(xiàn)容錯。
十、 Flink SQL與Table API:使用SQL進(jìn)行流處理開發(fā),動態(tài)表概念,與DataStream API的集成。
十一、 Kafka與Flink集成深度實踐:端到端的Exactly-Once保證、動態(tài)分區(qū)發(fā)現(xiàn)、Source與Sink的調(diào)優(yōu)。
十二、 實戰(zhàn)演練:構(gòu)建一個完整的實時用戶行為分析系統(tǒng),從Kafka接入數(shù)據(jù),經(jīng)Flink實時處理,最后將結(jié)果輸出到數(shù)據(jù)庫/消息隊列。
如果您想學(xué)習(xí)本課程,請
預(yù)約報名
如果沒找到合適的課程或有特殊培訓(xùn)需求,請
訂制培訓(xùn)
除培訓(xùn)外,同時提供相關(guān)技術(shù)咨詢與技術(shù)支持服務(wù),有需求請發(fā)需求表到郵箱soft@info-soft.cn,或致電4007991916
技術(shù)服務(wù)需求表點擊在線申請
服務(wù)特點:
海量專家資源,精準(zhǔn)匹配相關(guān)行業(yè),相關(guān)項目專家,針對實際需求,顧問式咨詢,互動式授課,案例教學(xué),小班授課,實際項目演示,快捷高效,省時省力省錢。
專家力量:
中國科學(xué)院軟件研究所,計算研究所高級研究人員
oracle,微軟,vmware,MSC,Ansys,candence,Altium,達(dá)索等大型公司高級工程師,項目經(jīng)理,技術(shù)支持專家
中科信軟培訓(xùn)中心,資深專家或講師
大多名牌大學(xué),碩士以上學(xué)歷,相關(guān)技術(shù)專業(yè),理論素養(yǎng)豐富
多年實際項目經(jīng)歷,大型項目實戰(zhàn)案例,熱情,樂于技術(shù)分享
針對客戶實際需求,案例教學(xué),互動式溝通,學(xué)有所獲