1、用户行为数据采集平台搭建 }* _; P4 D1 d( W; |
2、业务数据采集平台搭建
3 |7 k Q! r+ Z) T! u3、数据仓库维度建模
& w' F5 c; W/ b- M5 { \6 G4、分析,设备、会员、商品、地区、活动等电商核心主题/ _! P% ` E0 U5 r, V5 f0 h# o
5、采用即席查询工具,随时进行指标分析2 B7 n; K/ w+ g9 ?" y. U9 n
6、对集群性能进行监控,发生异常需要报警: h c e' F5 p! T n N
7、元数据管理1 N" U1 ]8 s2 j, F
8、质量监控
: \0 N Z0 R, v I" t( j, w* l+ t' Z8 T; K* W. w* b n
数据采集传输: Flume,Kafka,Sqoop ,Logstash,DataX,& X% q) p1 w) q) m
数据存储: MySql,HDFS,HBase,Redis,MongoDB4 `. ?- S; h' V* O2 C
数据计算: Hive,Tez,Spark,Flink,Storm" g! N* v( Y/ P1 ~- K1 S
数据查询: Presto,Kylin ,Impala,Druid7 U* P, f2 w9 |& T. x% D! D
数据可视化: Echarts、Superset、QuickBI、DataV9 [) ^4 ~* N; @8 M
任务调度: Azkaban、Oozie+ }0 T( \+ S; D$ [' N1 `" T7 d
集群监控: Zabbix3 z8 [3 I; \' V7 {: J
元数据管理: Atlas
! k+ z0 @1 Q: D2 @" R
* o0 W& W- ]9 F* ?% a本论坛所有资源由10年架构精挑细选,告诉你该学什么,什么值得学,+ J1 |5 G4 b- O- J2 X3 ~
跟着程序源码论坛的课程学就对了,不再迷茫,技能get999+
. G8 b" I& J: `# @& [. N" W
6 @( O- @8 @9 E& Y d0 l6 Q. {" {& B5 D+ o8 a5 E
; y+ a# x* A d7 a$ a
`/ k- c0 ~2 R' i+ O( ]6 O) @3 E3 u) T( i( @, |
2 x* \" \. o6 t2 h& @. i |