教育行業(yè)A股IPO第一股(股票代碼 003032)

全國咨詢/投訴熱線:400-618-4000

大數(shù)據(jù)Hive+Spark離線數(shù)倉工業(yè)項(xiàng)目實(shí)戰(zhàn)

更新時(shí)間:2023年03月14日16時(shí)26分 來源:傳智教育 瀏覽次數(shù):

  課程簡介:

  通過大數(shù)據(jù)技術(shù)架構(gòu),解決工業(yè)物聯(lián)網(wǎng)制造行業(yè)的數(shù)據(jù)存儲和分析、可視化、個(gè)性化推薦問題。一站制造項(xiàng)目主要基于Hive數(shù)倉分層來存儲各個(gè)業(yè)務(wù)指標(biāo)數(shù)據(jù),基于sparkSQL做數(shù)據(jù)分析。核心業(yè)務(wù)涉及運(yùn)營商、呼叫中心、工單、油站、倉儲物料。

  講解方式:

  真項(xiàng)目真實(shí)站。讓有經(jīng)驗(yàn)的工程師也能有所收獲

  本視頻主要面向的群體是:

  * 有Python基礎(chǔ)

  * 有Hadoop生態(tài)體系基礎(chǔ)

  * 有Spark基礎(chǔ)

  * 想要更加深入學(xué)習(xí)大數(shù)據(jù)內(nèi)存計(jì)算相關(guān)知識、并掌握實(shí)戰(zhàn)項(xiàng)目開發(fā)

  課程亮點(diǎn):

  一站制造項(xiàng)目基石與前瞻、數(shù)據(jù)倉庫建模方法 離線數(shù)倉分層、Sqoop數(shù)據(jù)存采集、數(shù)倉ODS&DWD層建設(shè)、數(shù)倉DWS維度層建設(shè)、數(shù)倉DWB指標(biāo)層建設(shè)、數(shù)倉ST主題層建設(shè)、一站制造任務(wù)調(diào)度、Prometheus概述 實(shí)現(xiàn)linux服務(wù)器監(jiān)控 實(shí)現(xiàn)MySQL服務(wù)監(jiān)控 實(shí)現(xiàn)Flink服務(wù)監(jiān)控 Grafana監(jiān)控看板。一站制造:運(yùn)營ciss系統(tǒng)、oa系統(tǒng)、erp系統(tǒng)一體化智能制造大數(shù)據(jù)分析系統(tǒng)

  課程內(nèi)容:

  1.使用主流的Hive+Spark構(gòu)建離線數(shù)倉

  2.基于完整的工業(yè)業(yè)務(wù)背景實(shí)現(xiàn)的離線和實(shí)時(shí)大數(shù)據(jù)業(yè)務(wù)豐富地地圖展示可視化開發(fā)

  3.基于Airflow完成大數(shù)據(jù)調(diào)度任務(wù)

  4.學(xué)會使用Spark SQL處理復(fù)雜業(yè)務(wù)完整的離線采集 + 實(shí)時(shí)采集方案

  5.掌握如何使用調(diào)度平臺調(diào)度T+1批處理任務(wù)Spark離線任務(wù)和實(shí)時(shí)任務(wù)整合,統(tǒng)一由YARN做資源管理

  Slogan:

  通過項(xiàng)目實(shí)戰(zhàn)強(qiáng)化Spark技術(shù)構(gòu)建企業(yè)級大數(shù)據(jù)平臺能力

  Hive+Spark離線數(shù)倉工業(yè)項(xiàng)目實(shí)戰(zhàn)(滑動查看)

  程目錄  

  大數(shù)據(jù)Hive+Spark離線數(shù)倉工業(yè)項(xiàng)目實(shí)戰(zhàn)(滑動查看)

  第1節(jié) - 知識點(diǎn)01:課程目標(biāo)

  第2節(jié) - 知識點(diǎn)02:項(xiàng)目背景

  第3節(jié) - 知識點(diǎn)03:項(xiàng)目需求

  第4節(jié) - 知識點(diǎn)04:業(yè)務(wù)流程

  第5節(jié) - 知識點(diǎn)05:技術(shù)選型

  第6節(jié) - 知識點(diǎn)06:Docker的介紹

  第7節(jié) - 知識點(diǎn)07:Docker的網(wǎng)絡(luò)

  第8節(jié) - 知識點(diǎn)08:Docker的使用

  第9節(jié) - 知識點(diǎn)09:Oracle的介紹

  第10節(jié) - 知識點(diǎn)10:集群軟件規(guī)劃

  第11節(jié) - 知識點(diǎn)11:項(xiàng)目環(huán)境導(dǎo)入

  第12節(jié) - 知識點(diǎn)12:項(xiàng)目環(huán)境配置

  第13節(jié) - 知識點(diǎn)13:項(xiàng)目環(huán)境測試:Oracle

  第14節(jié) - 知識點(diǎn)14:項(xiàng)目環(huán)境測試:MySQL

  第15節(jié) - 知識點(diǎn)15:項(xiàng)目環(huán)境測試:Hadoop

  第16節(jié) - 知識點(diǎn)16:項(xiàng)目環(huán)境測試:Hive

  第17節(jié) - 知識點(diǎn)17:項(xiàng)目環(huán)境測試:Spark

  第18節(jié) - 知識點(diǎn)18:項(xiàng)目環(huán)境測試:Sqoop

  第19節(jié) - 知識點(diǎn)01:課程回顧

  第20節(jié) - 知識點(diǎn)02:課程目標(biāo)

  第21節(jié) - 知識點(diǎn)03:數(shù)倉設(shè)計(jì)回顧

  第22節(jié) - 知識點(diǎn)04:分層整體設(shè)計(jì)

  第23節(jié) - 知識點(diǎn)05:分層具體功能

  第24節(jié) - 知識點(diǎn)06:業(yè)務(wù)系統(tǒng)結(jié)構(gòu)

  第25節(jié) - 知識點(diǎn)07:業(yè)務(wù)系統(tǒng)數(shù)據(jù)

  第26節(jié) - 知識點(diǎn)08:全量與增量分析

  第27節(jié) - 知識點(diǎn)09:Sqoop命令回顧

  第28節(jié) - 知識點(diǎn)10:YARN資源調(diào)度及配置

  第29節(jié) - 知識點(diǎn)11:MR的Uber模式

  第30節(jié) - 知識點(diǎn)12:Sqoop采集數(shù)據(jù)格式問題

  第31節(jié) - 知識點(diǎn)13:問題解決:Avro格式

  第32節(jié) - 知識點(diǎn)14:Sqoop增量采集方案回顧

  第33節(jié) - 知識點(diǎn)15:腳本開發(fā)思路

  第34節(jié) - 知識點(diǎn)16:全量及增量采集腳本運(yùn)行

  第35節(jié) - 知識點(diǎn)17:Schema備份及上傳

  第36節(jié) - 知識點(diǎn)18:Python腳本

  第37節(jié) - 知識點(diǎn)01:課程 回顧

  第38節(jié) - 知識點(diǎn)02:課程 目標(biāo)

  第39節(jié) - 知識點(diǎn)03:數(shù)倉分層回顧

  第40節(jié) - 知識點(diǎn)04:Hive建表語法

  第41節(jié) - 知識點(diǎn)05:Avro建表語法

  第42節(jié) - 知識點(diǎn)06:ODS層構(gòu)建:需求分析

  第43節(jié) - 知識點(diǎn)07:ODS層構(gòu)建:創(chuàng)建項(xiàng)目環(huán)境

  第44節(jié) - 知識點(diǎn)08:ODS層構(gòu)建:代碼導(dǎo)入

  第45節(jié) - 知識點(diǎn)09:ODS層構(gòu)建:代碼結(jié)構(gòu)及修改

  第46節(jié) - 知識點(diǎn)10:ODS層構(gòu)建:連接代碼及測試

  第47節(jié) - 知識點(diǎn)11:ODS層構(gòu)建:建庫代碼及測試

  第48節(jié) - 知識點(diǎn)12:ODS層構(gòu)建:建表代碼及測試

  第49節(jié) - 知識點(diǎn)13:ODS層構(gòu)建:申明分區(qū)代碼及測試

  第50節(jié) - 知識點(diǎn)14:ODS層與DWD層區(qū)別

  第51節(jié) - 知識點(diǎn)15:DWD層構(gòu)建:需求分析

  第52節(jié) - 知識點(diǎn)16:DWD層構(gòu)建:建庫實(shí)現(xiàn)測試

  第53節(jié) - 知識點(diǎn)17:DWD層構(gòu)建:建表實(shí)現(xiàn)測試

  第54節(jié) - 知識點(diǎn)18:DWD層構(gòu)建:數(shù)據(jù)抽取分析&知識點(diǎn)19:DWD層構(gòu)建:數(shù)據(jù)抽取測試

  第55節(jié) - 知識點(diǎn)20:整體代碼重難點(diǎn)回顧

  第56節(jié) - 知識點(diǎn)01: 課程回顧

  第57節(jié) - 知識點(diǎn)02: 課程目標(biāo)

  第58節(jié) - 知識點(diǎn)03:維度建模回顧:建模流程

  第59節(jié) - 知識點(diǎn)04:維度建?;仡櫍壕S度設(shè)計(jì)

  第60節(jié) - 知識點(diǎn)05:維度建?;仡櫍壕S度模型

  第61節(jié) - 知識點(diǎn)06:一站制造業(yè)務(wù)主題劃分

  第62節(jié) - 知識點(diǎn)07:一站制造業(yè)務(wù)維度設(shè)計(jì)

  第63節(jié) - 知識點(diǎn)08:一站制造業(yè)務(wù)主題維度矩陣

  第64節(jié) - 知識點(diǎn)09:行政地區(qū)維度設(shè)計(jì)

  第65節(jié) - 知識點(diǎn)10:行政地區(qū)維度構(gòu)建

  第66節(jié) - 知識點(diǎn)11:日期時(shí)間維度設(shè)計(jì)

  第67節(jié) - 知識點(diǎn)12:日期時(shí)間維度構(gòu)建

  第68節(jié) - 知識點(diǎn)13:服務(wù)網(wǎng)點(diǎn)維度設(shè)計(jì)

  第69節(jié) - 知識點(diǎn)14:服務(wù)網(wǎng)點(diǎn)維度構(gòu)建

  第70節(jié) - 知識點(diǎn)15:油站維度設(shè)計(jì)

  第71節(jié) - 知識點(diǎn)16:油站維度構(gòu)建

  第72節(jié) - 知識點(diǎn)17:其他維度:組織機(jī)構(gòu)

  第73節(jié) - 知識點(diǎn)18:其他維度:倉庫、物流

  第74節(jié) - 知識點(diǎn) 01:課程回顧

  第75節(jié) - 知識點(diǎn) 02:課程目標(biāo)

  第76節(jié) - 知識點(diǎn)03:分層回顧

  第77節(jié) - 知識點(diǎn)04:DWB層的設(shè)計(jì)

  第78節(jié) - 知識點(diǎn)05:事實(shí)主題指標(biāo)劃分

  第79節(jié) - 知識點(diǎn)06:呼叫中心事實(shí)指標(biāo)需求分析

  第80節(jié) - 知識點(diǎn)07:呼叫中心事實(shí)指標(biāo)構(gòu)建

  第81節(jié) - 知識點(diǎn)08:油站事實(shí)指標(biāo)需求分析

  第82節(jié) - 知識點(diǎn)09:油站事實(shí)指標(biāo)構(gòu)建

  第83節(jié) - 知識點(diǎn)10:工單事實(shí)指標(biāo)需求分析

  第84節(jié) - 知識點(diǎn)11:工單事實(shí)指標(biāo)構(gòu)建

  第85節(jié) - 知識點(diǎn)12:安裝事實(shí)指標(biāo)需求分析

  第86節(jié) - 知識點(diǎn)13:安裝事實(shí)指標(biāo)構(gòu)建

  第87節(jié) - 知識點(diǎn)14:維修事實(shí)指標(biāo)需求分析

  第88節(jié) - 知識點(diǎn)15:維修事實(shí)指標(biāo)構(gòu)建

  第89節(jié) - 知識點(diǎn)16:客戶回訪事實(shí)指標(biāo)需求分析

  第90節(jié) - 知識點(diǎn)17:客戶回訪事實(shí)指標(biāo)

  第91節(jié) - 知識點(diǎn)18:費(fèi)用事實(shí)指標(biāo)分析及實(shí)現(xiàn)(上)

  第92節(jié) - 知識點(diǎn)18:費(fèi)用事實(shí)指標(biāo)分析及實(shí)現(xiàn)(下)

  第93節(jié) - 知識點(diǎn)19:差旅事實(shí)指標(biāo)分析及實(shí)現(xiàn)

  第94節(jié) - 知識點(diǎn)20:網(wǎng)點(diǎn)物料事實(shí)指標(biāo)分析及實(shí)現(xiàn)

  第95節(jié) - 附錄一:在線教育項(xiàng)目回顧

  第96節(jié) - 附錄二:一站制造項(xiàng)目回顧

  第97節(jié) - 知識點(diǎn)01:課程回顧

  第98節(jié) - 知識點(diǎn)02:課程目標(biāo)

  第99節(jié) - 知識點(diǎn)03:數(shù)倉分層回顧

  第100節(jié) - 知識點(diǎn)04:ST層的設(shè)計(jì)

  第101節(jié) - 知識點(diǎn)05:服務(wù)域:工單主題分析

  第102節(jié) - 知識點(diǎn)06:服務(wù)域:工單主題實(shí)現(xiàn)

  第103節(jié) - 知識點(diǎn)07:服務(wù)域:油站主題分析

  第104節(jié) - 知識點(diǎn)08:服務(wù)域:油站主題實(shí)現(xiàn)

  第105節(jié) - 知識點(diǎn)09:服務(wù)域:安裝主題分析實(shí)現(xiàn)

  第106節(jié) - 知識點(diǎn)10:服務(wù)域:維修主題分析實(shí)現(xiàn)

  第107節(jié) - 知識點(diǎn)11:服務(wù)域:回訪主題分析

  第108節(jié) - 知識點(diǎn)12:服務(wù)域:回訪主題實(shí)現(xiàn)

  第109節(jié) - 知識點(diǎn)13:服務(wù)域:派單主題分析實(shí)現(xiàn)

  第110節(jié) - 知識點(diǎn)14:服務(wù)域:費(fèi)用主題分析

  第111節(jié) - 知識點(diǎn)15:服務(wù)域:費(fèi)用主題實(shí)現(xiàn)

  第112節(jié) - 知識點(diǎn)16:物料域:主題模型

  第113節(jié) - 知識點(diǎn)17:DM層:設(shè)計(jì)及運(yùn)營部門主題

  第114節(jié) - 知識點(diǎn)01:課程目標(biāo)

  第115節(jié) - 知識點(diǎn)02:任務(wù)流調(diào)度回顧

  第116節(jié) - 知識點(diǎn)03:AirFlow的介紹

  第117節(jié) - 知識點(diǎn)04:AirFlow的部署啟動

  第118節(jié) - 知識點(diǎn)05:AirFlow的架構(gòu)組件

  第119節(jié) - 知識點(diǎn)06:AirFlow的開發(fā)規(guī)則

  第120節(jié) - 知識點(diǎn)07:Shell調(diào)度測試

  第121節(jié) - 知識點(diǎn)08:依賴調(diào)度測試

  第122節(jié) - 知識點(diǎn)09:Python調(diào)度測試

  第123節(jié) - 知識點(diǎn)10:Oracle與MySQL調(diào)度方法

  第124節(jié) - 知識點(diǎn)11:大數(shù)據(jù)組件調(diào)度方法

  第125節(jié) - 知識點(diǎn)12:定時(shí)調(diào)度使用

  第126節(jié) - 知識點(diǎn)13:Airflow常用命令

  第127節(jié) - 知識點(diǎn)14:郵件告警使用

  第128節(jié) - 知識點(diǎn)15:一站制造中的調(diào)度

  第129節(jié) - 知識點(diǎn)16:回顧:Spark核心概念(上)

  第130節(jié) - 知識點(diǎn)16:回顧:Spark核心概念(下)

  第131節(jié) - 知識點(diǎn)01:課程目標(biāo)

  第132節(jié) - 知識點(diǎn)02:監(jiān)控需求及常見工具

  第133節(jié) - 知識點(diǎn)03:Prometheus的介紹

  第134節(jié) - 知識點(diǎn)04:Prometheus的架構(gòu)

  第135節(jié) - 知識點(diǎn)05:Prometheus的部署

  第136節(jié) - 知識點(diǎn)06:node_exporter插件

  第137節(jié) - 知識點(diǎn)07:mysqld_exportor插件

  第138節(jié) - 知識點(diǎn)08:可視化工具Grafana介紹

  第139節(jié) - 知識點(diǎn)09:可視化工具Grafana部署

  第140節(jié) - 知識點(diǎn)10:Grafana集成Prometheus

  第141節(jié) - 知識點(diǎn)11:Grafana集成MySQL監(jiān)控

  第142節(jié) - 知識點(diǎn)12:項(xiàng)目總結(jié):背景需求

  第143節(jié) - 知識點(diǎn)13:項(xiàng)目總結(jié):數(shù)據(jù)來源

  第144節(jié) - 知識點(diǎn)14:項(xiàng)目總結(jié):主題劃分

  第145節(jié) - 知識點(diǎn)15:項(xiàng)目總結(jié):技術(shù)架構(gòu)

  第146節(jié) - 知識點(diǎn)16:項(xiàng)目總結(jié):數(shù)倉設(shè)計(jì)

  第147節(jié) - 知識點(diǎn)17:項(xiàng)目總結(jié):優(yōu)化及新特性

  第148節(jié) - 知識點(diǎn)18:項(xiàng)目總結(jié):問題

  第149節(jié) - 知識點(diǎn)19:項(xiàng)目總結(jié):數(shù)據(jù)規(guī)模

  第150節(jié) - 知識點(diǎn)20:項(xiàng)目總結(jié):簡歷模板

  未完待續(xù),黑馬老師996更新中......


掌握行業(yè)熱門技術(shù)

是每個(gè)程序員都應(yīng)該重視的事情

Hive+Spark如此重要,你還沒學(xué)?

觀看全集視頻

- 完整配套資料領(lǐng)取方式 -

(視頻+講義+源碼+筆記+資料)

黑馬程序員視頻庫

搜索《大數(shù)據(jù)Hive+Spark離線數(shù)倉工業(yè)項(xiàng)目實(shí)戰(zhàn)

0 分享到:
和我們在線交談!