1.内存优化+ W4 y/ J/ E5 \8 S- D3 q4 H
2小文件过多问题. R; ~6 P* R6 V- m! `
3.spark sql合理利用cpu资源* V* `; P* Y X
4.spark sql广播join
1 c5 Y0 p1 v2 w7 X! {) ^9 S# G! \5.提高并行度解决数据倾斜错误演示
; k% U/ r; Z; K6 z4 V6.解决数据倾斜打散大表扩容小表
5 U- `, W, O( }7.大表join大表优化SMBJoin' F) @( H: ^3 C4 x
8.使用堆外内存
* S) H) P# [* D: ~( s ~: u7 M& |9.spark 3.0AQE动态缩小分区' x1 L5 H9 c! l6 T: s
10.spark 3.0AQE动态选择join策略2 X9 l! O- h+ E" ~5 H
11 spark3.0AQE动态优化倾斜join0 B; J6 { x ?* F+ m
12 sparak3.0 dpp动态分区修剪 W* Y# M/ Q" w/ c l7 ]0 f
7 k7 G- L6 w+ I; w
本站精挑细选,只分享优质精品资源,已泛滥、已过时、质量差的资源不录入!4 X- `/ o) T5 |0 m* U1 K
5 P8 N6 A4 o0 F- p+ |$ K
- B0 b! Q$ ? ?
0 u0 c, t( T0 u; L7 m0 O
4 `5 r5 d; D3 S7 M6 M |