1.内存优化5 y& a$ @* K g# W ]
2小文件过多问题
- z) F8 t3 R' {4 _# ]! `2 q# j# J3.spark sql合理利用cpu资源9 K! ~4 I f- g) ~
4.spark sql广播join; M b+ I, e5 k# p( K, O* F
5.提高并行度解决数据倾斜错误演示
' Q' W# t0 T6 P3 Q. Y3 I: D) G6.解决数据倾斜打散大表扩容小表3 Q& d. k2 |6 C- @# E3 x9 {
7.大表join大表优化SMBJoin3 v) d. I, e; }3 O5 i7 O. U
8.使用堆外内存
. w% ^; E M* y9 b( }* j; a9.spark 3.0AQE动态缩小分区
( v" _8 q) ]6 h$ ?10.spark 3.0AQE动态选择join策略
- n& |. ~1 x/ [11 spark3.0AQE动态优化倾斜join
! Q8 C$ ?& U* ^' O' j8 B( g4 O12 sparak3.0 dpp动态分区修剪. V+ x% L' e" R' l+ m
5 R7 X" q; Q. Y) |本站精挑细选,只分享优质精品资源,已泛滥、已过时、质量差的资源不录入!2 e7 j, h& k/ `4 E! X
7 G% |8 ?) S: m& I
2 u. {* x% C' P1 ]! @! r
5 l: m' y4 y3 z$ A7 d/ \* R8 c/ ^& Y" S0 e+ S: Y( m: h
|