1、用户行为数据采集平台搭建
{/ G! ]3 ]# d! c9 Q2、业务数据采集平台搭建
$ E: y4 b0 Q0 ]' R3、数据仓库维度建模
; b* Y- C" o0 z, U* ^* x4、分析,设备、会员、商品、地区、活动等电商核心主题) I1 `+ c D# S- T4 J
5、采用即席查询工具,随时进行指标分析) t }/ Z- Q' a( [' d5 R& x! p9 f
6、对集群性能进行监控,发生异常需要报警
. J9 [: e, R' m( Q/ r7、元数据管理
8 N/ u" v4 ?9 D/ Q+ p8、质量监控
* _, @6 Q/ a) }8 c2 |
2 D+ X7 u m, {$ }" U1 w! J, V数据采集传输: Flume,Kafka,Sqoop ,Logstash,DataX,
T0 @% h5 s7 O4 x+ }/ h数据存储: MySql,HDFS,HBase,Redis,MongoDB3 N: L; z' H1 Z, W+ ]0 I5 G
数据计算: Hive,Tez,Spark,Flink,Storm
4 w1 }- `, M' q数据查询: Presto,Kylin ,Impala,Druid! J: U' y7 x, ]9 l
数据可视化: Echarts、Superset、QuickBI、DataV& c. ^* ~8 T$ a/ n. n
任务调度: Azkaban、Oozie6 e% W, C. e* Z' p) A
集群监控: Zabbix( y }: F- W5 i6 D. T" b+ [7 [
元数据管理: Atlas
/ e, b* c% E* U% |. Y8 R8 k! {8 \( p; R7 X" `- q- L
本论坛所有资源由10年架构精挑细选,告诉你该学什么,什么值得学,( @8 ]. K) Z. U
跟着程序源码论坛的课程学就对了,不再迷茫,技能get999+
8 o, `, g& [% a% {& x: y( n
( `' Y% q3 I8 b9 h* |5 r" j7 t' P: D$ z' M5 s d
! X: c/ O" f9 B! C) _
, t' u) B" Z+ [9 z9 p( d8 e$ p. M& X" Y& |7 f" J8 b
% G+ A8 t' M; y% D3 v1 B8 K% A- J; l
|