1.内存优化
1 x, P" a. f5 ~) y1 Y1 t2小文件过多问题
5 v x a* C5 E) F3 D3.spark sql合理利用cpu资源
. I% q- M$ o9 `4.spark sql广播join$ H5 K- p* l }% v0 K6 y& z
5.提高并行度解决数据倾斜错误演示
, ]' V6 o* q' r9 z6 N' v9 T6.解决数据倾斜打散大表扩容小表. p7 o$ g* L8 u; g2 ^" g* u) j
7.大表join大表优化SMBJoin
: h) y; T* i' o# k) H1 @8.使用堆外内存0 ^- `3 I0 U: W! V* f
9.spark 3.0AQE动态缩小分区
0 T) w: S0 B9 P! {' ~10.spark 3.0AQE动态选择join策略3 Y8 Z% _/ n5 G8 W
11 spark3.0AQE动态优化倾斜join9 b/ V, u9 \6 m
12 sparak3.0 dpp动态分区修剪' R% b/ M U! `
1 k/ |$ Y7 h- `% J! S
本站精挑细选,只分享优质精品资源,已泛滥、已过时、质量差的资源不录入!
' ~# T. Q4 Y9 y4 t' l; l. Q: s' G/ k( X( d# }' ~
( x y) @% d7 W O- l' u' I) Z
, [% t& p+ `9 U* V! \& i8 F9 R8 U$ @ J+ j
|