1.内存优化6 o6 U4 k0 d' f$ Y m; k+ Z
2小文件过多问题) F" |4 s# Q; ?3 {
3.spark sql合理利用cpu资源9 e* ~0 F5 U! K6 `7 o% ~, v) b) n: B
4.spark sql广播join
9 S( G' j/ V' \! M6 i0 l" d, x5.提高并行度解决数据倾斜错误演示7 G4 h' G, \/ C
6.解决数据倾斜打散大表扩容小表' u7 w. f) y9 ^$ i6 T8 F$ i
7.大表join大表优化SMBJoin
% H3 }; m1 h2 l. I1 P9 H6 F1 w8.使用堆外内存
. ~& d+ t. M) v8 Z8 I9.spark 3.0AQE动态缩小分区8 p' r f& n0 ^, O8 |
10.spark 3.0AQE动态选择join策略
+ d" X' y/ Y2 S1 K11 spark3.0AQE动态优化倾斜join
/ w! ~& v$ e$ ]! c% u. N6 h12 sparak3.0 dpp动态分区修剪$ F0 S# ~( V4 t7 M
* ]$ ^* N! C" Q( l% C/ D9 M本站精挑细选,只分享优质精品资源,已泛滥、已过时、质量差的资源不录入!
$ Z/ P! g1 }( f$ J
) J7 J' Y6 m$ O0 Z, j
* z7 ]4 e1 X6 C$ k% P
4 L9 m4 @; u) R% A5 p3 C8 ^' r5 S3 [/ V: ~1 P* o
|