1、用户行为数据采集平台搭建
. ?( U) r) u& F, c+ U; z2、业务数据采集平台搭建, u' Z# O2 l% ~, c! U9 B
3、数据仓库维度建模+ P4 } v$ @& O. D: \$ F% X* w
4、分析,设备、会员、商品、地区、活动等电商核心主题
& G( A5 d& L# d- R( R: ?/ B; i( Y5、采用即席查询工具,随时进行指标分析
$ b2 g) f X! d8 E6、对集群性能进行监控,发生异常需要报警# _# z: l1 _) L& z2 \4 U9 R1 n
7、元数据管理
* S2 Z( S: L3 D' ~8、质量监控. f7 m; B& ~; L5 Y" V- [6 w& u, F. L
9 S8 S5 D" f3 ?& G6 y* B9 N
数据采集传输: Flume,Kafka,Sqoop ,Logstash,DataX,
. Z# X! c! R4 s4 u数据存储: MySql,HDFS,HBase,Redis,MongoDB8 l4 M, R$ ~; i; y! _
数据计算: Hive,Tez,Spark,Flink,Storm& K% Q+ S) [) a: X1 ^9 H8 {
数据查询: Presto,Kylin ,Impala,Druid
% D) m) f* t& B) b1 j# f数据可视化: Echarts、Superset、QuickBI、DataV3 R8 E9 Y7 ^& a6 w& Z" Y
任务调度: Azkaban、Oozie
N- O* |7 \: l$ j集群监控: Zabbix$ E* A) u6 k6 q1 G$ I+ F
元数据管理: Atlas! B6 q8 i# G5 I% e5 N
. ]+ V- y! \" i本论坛所有资源由10年架构精挑细选,告诉你该学什么,什么值得学,
5 s+ `5 Z& s" B# a4 u$ x跟着程序源码论坛的课程学就对了,不再迷茫,技能get999+. V( X, c, W: C6 i" c
2 H1 U! Q% c q% |! U0 x. Q. `3 p
* ^( c6 g' W" ?! e( d1 X
9 d9 c( Y" Z2 O# J6 [) z# f) L* B; U
% S* X% v: {$ {
# W, c( R$ x6 ]- c: ~2 A! e! c4 g; e; V4 B
|