1、用户行为数据采集平台搭建
7 s; x. U; C: F9 |2、业务数据采集平台搭建4 }; a3 b9 e5 {$ H
3、数据仓库维度建模
: ]( o" b0 j+ a, Q4、分析,设备、会员、商品、地区、活动等电商核心主题
# @7 s2 U8 V- p/ d& d& ~% A5、采用即席查询工具,随时进行指标分析% P; D' n& Q) N
6、对集群性能进行监控,发生异常需要报警
' T% M5 @) f9 r; w& S' J! _" n1 a7、元数据管理
* p R7 ^8 N; D/ M# q8、质量监控
U' h$ j( j O
4 o$ y/ I" ^1 t3 r$ B数据采集传输: Flume,Kafka,Sqoop ,Logstash,DataX,- |$ H# d9 w5 }- a4 l
数据存储: MySql,HDFS,HBase,Redis,MongoDB- k- x: Q# m! i
数据计算: Hive,Tez,Spark,Flink,Storm
: z) O' W: e- y5 N3 O) F& v+ E数据查询: Presto,Kylin ,Impala,Druid
/ {! {( [- m- h! S/ m* R5 n数据可视化: Echarts、Superset、QuickBI、DataV
/ F Z3 o; @7 ?3 I: u任务调度: Azkaban、Oozie
; Q% @9 x( z( n) j0 c2 O9 D0 g集群监控: Zabbix
6 \4 u4 n4 w, L5 G, P) f( `9 X元数据管理: Atlas7 ~( `/ P+ c( U+ Z
8 b, ?$ s# D0 g" h
本论坛所有资源由10年架构精挑细选,告诉你该学什么,什么值得学,) \. Q, u s, g3 n' [$ z
跟着程序源码论坛的课程学就对了,不再迷茫,技能get999+
7 o' T- p2 i: g) c2 D5 x$ k3 I! V- l9 ], L; @" J7 A
7 m) ^/ y6 j9 a: E% _7 i
# r9 A7 ^! N! h- ~
& x0 ?8 L8 ]1 u
8 h; U/ B' I, y2 x4 Z; B& H1 w- W" y5 @: J4 L
|