1、用户行为数据采集平台搭建
" ]5 d# K% Y/ r8 H2、业务数据采集平台搭建
9 c3 @) z- N8 S' C* `6 f3、数据仓库维度建模
5 N3 n. z n S; f& D6 C4、分析,设备、会员、商品、地区、活动等电商核心主题
) X8 V$ r. }5 h4 P$ M6 O/ M2 ~5、采用即席查询工具,随时进行指标分析/ W/ B5 d L" A1 u
6、对集群性能进行监控,发生异常需要报警" ?1 r' K% [ ^7 V# @" g
7、元数据管理
/ X x. _/ m0 T$ P8、质量监控
5 Z1 _4 N l( Y; G: G
+ N+ X# k% Y* P2 v2 m& a7 s1 T数据采集传输: Flume,Kafka,Sqoop ,Logstash,DataX,% v4 J2 t: i6 u
数据存储: MySql,HDFS,HBase,Redis,MongoDB+ a; g+ ^- E; l
数据计算: Hive,Tez,Spark,Flink,Storm
, D! e5 N* h& ?数据查询: Presto,Kylin ,Impala,Druid
# E. o9 N0 Y: i: F& I z6 t数据可视化: Echarts、Superset、QuickBI、DataV
9 ^7 V" o6 P1 F K v) z8 k! D: ^; {) M任务调度: Azkaban、Oozie8 o: S7 t+ g: l& Z1 g" M' ]
集群监控: Zabbix1 K* j7 k/ J: w, F
元数据管理: Atlas
1 ]. P1 A' B9 Z) ^4 h8 e5 |2 A3 c1 ?# z
本论坛所有资源由10年架构精挑细选,告诉你该学什么,什么值得学,2 E' A! L! h& c! H2 R3 o( t
跟着程序源码论坛的课程学就对了,不再迷茫,技能get999+- i g. b6 U( ^! n$ O
( c- D+ N, X$ ]- C7 E% v0 h2 p! a
) H' e: m7 S+ K: e8 R9 r5 X0 X
# ^) F& r3 A* [; p9 o% u2 v; q: w# c3 E8 E) u6 N
' _7 a4 }% u( o6 |* g6 i' _
7 z: }' O2 @! f I; o5 p9 J |