主要內(nèi)容

· Linux操作系統(tǒng)· MySQL與SQL· Kettle與BI工具· 電商運(yùn)營指標(biāo)分析

可掌握的核心能力

1. 掌握MySQL數(shù)據(jù)庫的使用；
2. 掌握SQL語法；
3. 掌握Kettle數(shù)據(jù)遷移工具的使用；
4. 熟練使用BI可視化工具；
5. 對數(shù)據(jù)開發(fā)有一定認(rèn)知，掌握BI工程師所具備的基本技能。

主要內(nèi)容

· 大數(shù)據(jù)開發(fā)Hadoop基礎(chǔ)· Hive基礎(chǔ)· Hive進(jìn)階

可掌握的核心能力

1.掌握Linux常用命令，為數(shù)據(jù)開發(fā)后續(xù)學(xué)習(xí)打下的良好基礎(chǔ)；
2.掌握大數(shù)據(jù)的核心框架Hadoop以及其生態(tài)體系，完成HDFS、MapReduce及Yarn機(jī)制基本理解與使用；能顧搭建Hadoop高可用HA集群；
3.掌握Hive的使用和調(diào)優(yōu)；
4.具備Hadoop開發(fā)能力、離線數(shù)據(jù)倉庫開發(fā)能力；
5.能夠完成基本構(gòu)建企業(yè)級數(shù)倉。

主要內(nèi)容

· 大數(shù)據(jù)部署運(yùn)維：Cloudera Manager · 分析決策需求：數(shù)據(jù)倉庫 · 數(shù)據(jù)采集：DataX · 數(shù)據(jù)分析：Hive· 數(shù)據(jù)調(diào)度：Dolphinscheduler · OLAP系統(tǒng)存儲：PostgreSql · Fine Report數(shù)據(jù)報(bào)表與大屏· 數(shù)倉建模: 范式與維度建模
· 五大核心主題域開發(fā): 銷售域、供應(yīng)鏈域、會(huì)員域等

可掌握的核心能力

1.掌握泛電商行業(yè)離線數(shù)倉的分層與建模，從需求、設(shè)計(jì)、研發(fā)、測試到落地上線的完整項(xiàng)目流程；
2.行業(yè)內(nèi)首個(gè)深度講解數(shù)倉建模模型方案的主體項(xiàng)目；
3.包括海量數(shù)據(jù)場景下如何優(yōu)化配置；
4.掌握項(xiàng)目遷移能力，能夠?qū)㈨?xiàng)目遷移至泛電商的各個(gè)領(lǐng)域；
5.掌握在泛電商行業(yè)中關(guān)于全量與增量數(shù)據(jù)處理模式；
6.提供泛電商行業(yè)下的數(shù)據(jù)存儲分析以及服務(wù)監(jiān)控方案。

主要內(nèi)容

· 大數(shù)據(jù)部署運(yùn)維：Cloudera Manager· 分析決策需求：數(shù)據(jù)倉庫 · 數(shù)據(jù)采集：sqoop · 數(shù)據(jù)分析：Hive · 分組完成項(xiàng)目

可掌握的核心能力

1.掌握教育行業(yè)離線數(shù)倉的分層與建模，從需求、設(shè)計(jì)、研發(fā)、測試到落地上線的完整項(xiàng)目流程；
2.真實(shí)業(yè)務(wù)邏輯，共涉及20多個(gè)主題，100多個(gè)指標(biāo)，提升學(xué)員在教育行業(yè)中的核心競爭力；
3.包括海量數(shù)據(jù)場景下如何優(yōu)化配置；
4.拉鏈表的具體應(yīng)用；
5.新增數(shù)據(jù)和更新數(shù)據(jù)的抽取和分析；
6.Hive函數(shù)的具體應(yīng)用；
7.ClouderaManager可視化、自動(dòng)部署和配置、Git、CodeReview功能。

主要內(nèi)容

· Python基礎(chǔ)語法· Python面向?qū)ο?/span>· Python高級語法· Python多任務(wù)編程· Python網(wǎng)絡(luò)編程

可掌握的核心能力

1.掌握Python開發(fā)環(huán)境基本配置；
2.掌握運(yùn)算符、表達(dá)式、流程控制語句、數(shù)組等的使用；
3.掌握字符串的基本操作；
4.初步建立面向?qū)ο蟮木幊趟季S；
5.熟悉異常捕獲的基本流程及使用方式；
6.掌握類和對象的基本使用方式；
7.知道多進(jìn)程多線程的原理。

主要內(nèi)容

· ETL概念與工具· ETL項(xiàng)目需求分析· ETL項(xiàng)目架構(gòu)設(shè)計(jì)· Python ETL實(shí)戰(zhàn)

可掌握的核心能力

1. 掌握ETL的相關(guān)概念；
2. 掌握基于Python語言完成ETL任務(wù)開發(fā)實(shí)戰(zhàn)；
3. 基于ETL實(shí)戰(zhàn)鍛煉Python編程能力，包括（元數(shù)據(jù)管理、數(shù)據(jù)模型、項(xiàng)目配置、單元測試、工具方法抽取等）；
4. 掌握BI數(shù)據(jù)分析實(shí)戰(zhàn)。

主要內(nèi)容

· BI報(bào)表開發(fā)需求分析· BI報(bào)表工具· FineReport報(bào)表入門· 泛電商行業(yè)五大主題的實(shí)現(xiàn)

可掌握的核心能力

1.掌握BI報(bào)表開發(fā)需求分析；
2.掌握BI報(bào)表工具；
3.掌握FineReport報(bào)表。

主要內(nèi)容

· 大數(shù)據(jù)Spark技術(shù)棧· SparkSQL數(shù)據(jù)處理與統(tǒng)計(jì)分析· Spark案例實(shí)戰(zhàn)

可掌握的核心能力

1. 掌握Spark的RDD、DAG、CheckPoint等設(shè)計(jì)思想；
2. 掌握SparkSQL結(jié)構(gòu)化數(shù)據(jù)處理，Spark On Hive；
3. 掌握Structured Streaming整合多數(shù)據(jù)源完成實(shí)時(shí)數(shù)據(jù)處理；
4. 具備Spark全棧開發(fā)能力，滿足大數(shù)據(jù)行業(yè)多場景統(tǒng)一技術(shù)棧的數(shù)據(jù)開發(fā)，提供就業(yè)核心競爭力。

主要內(nèi)容

· SparkSQL整合ES自定義數(shù)據(jù)源· DS任務(wù)界面化調(diào)度· 用戶畫像標(biāo)簽構(gòu)建規(guī)則· 用戶畫像規(guī)則類標(biāo)簽構(gòu)建· 用戶畫像統(tǒng)計(jì)類標(biāo)簽構(gòu)建

可掌握的核心能力

1.掌握SparkSQL整合ES自定義數(shù)據(jù)源；
2.掌握用戶畫像構(gòu)建流程；
3.掌握用戶畫像標(biāo)簽構(gòu)建規(guī)則；
4.掌握用戶畫像規(guī)則類標(biāo)簽構(gòu)建；
5.掌握用戶畫像統(tǒng)計(jì)類標(biāo)簽構(gòu)建。

主要內(nèi)容

· 多場景畫像標(biāo)簽項(xiàng)目實(shí)戰(zhàn)· 基于Spark全棧技術(shù)構(gòu)建企業(yè)級大數(shù)據(jù)開發(fā)平臺

可掌握的核心能力

1.掌握保險(xiǎn)行業(yè)數(shù)據(jù)分析流程；
2.掌握保費(fèi)計(jì)算流程；
3.掌握DS調(diào)度流程。

主要內(nèi)容

· ChatGPT生成代碼· ChatGPT改Bug· 基于AI大模型的出行大數(shù)據(jù)平臺數(shù)倉搭建· 基于AI大模型指標(biāo)開發(fā)

可掌握的核心能力

1.完成ChatGPT基礎(chǔ)使用；
2.基于ChatGPT可以完成改Bug，寫注釋，生成代碼等常見編程任務(wù)；
3.能夠基于合理的Prompts提示詞進(jìn)行提問，助力提升編程效率。

主要內(nèi)容

· 核心技能知識點(diǎn)以及常見面試題強(qiáng)化學(xué)習(xí)

可掌握的核心能力

1.強(qiáng)化面試就業(yè)核心面試題；
2.梳理大數(shù)據(jù)架構(gòu)及解決方案；
3.剖析多行業(yè)大數(shù)據(jù)架構(gòu)。

主要內(nèi)容

· 阿里云Flink入門· Flink SQL· Flink作業(yè)開發(fā)· 阿里云FLink運(yùn)維

可掌握的核心能力

1.掌握基于阿里云Flink進(jìn)行實(shí)時(shí)和離線數(shù)據(jù)處理、分析；
2.掌握基于阿里云Flink的多流并行處理技術(shù)；
3.掌握FlinkCDC多數(shù)據(jù)源采集技術(shù)。

主要內(nèi)容

基于Flink + Kafka + Paimon 湖倉一體技術(shù)架構(gòu)，實(shí)現(xiàn)在線視頻行業(yè)大規(guī)模流數(shù)據(jù)處理和實(shí)時(shí)分析。本項(xiàng)目依托 阿里云 Flink 流處理計(jì)算引擎， 通過 FlinkCDC 實(shí)時(shí)采集 RDS MySQL 數(shù)據(jù)庫數(shù)據(jù)，實(shí)現(xiàn)數(shù)據(jù)采集的斷點(diǎn)續(xù)傳，使用Kafka 作為實(shí)時(shí)數(shù)倉，使用 Paimon 實(shí)現(xiàn)數(shù)據(jù)的持久化和Flink 批處理，實(shí)現(xiàn)計(jì)算的流批一體，數(shù)據(jù)存儲的湖倉一體，采用StarRocks對接DataV完成實(shí)時(shí)業(yè)務(wù)大屏展示。

可掌握的核心能力

1.湖倉一體化解決方案基于Flink+Paimon湖倉一體技術(shù)架構(gòu)；
2.基于FlinkCDC完成MySQL等數(shù)據(jù)源的數(shù)據(jù)采集；
3.FlinkSQL流批一體架構(gòu)實(shí)現(xiàn)實(shí)時(shí)數(shù)據(jù)計(jì)算；
4.使用StarRocks進(jìn)行海量多維分析；
5.掌握數(shù)據(jù)報(bào)表分析；
6.掌握業(yè)務(wù)數(shù)據(jù)實(shí)時(shí)大屏場景實(shí)現(xiàn)。