1.内存优化
$ d* ^6 V# I: N# F2小文件过多问题$ r# E* c, g8 R
3.spark sql合理利用cpu资源
; J; k6 h5 A' ?# \' i; R; q4.spark sql广播join! @% A8 I o( j0 l+ [
5.提高并行度解决数据倾斜错误演示+ q, Z: L& p1 c: @, ^
6.解决数据倾斜打散大表扩容小表
! N: u3 @( L# N3 m7.大表join大表优化SMBJoin! i% E% W( S7 o0 _, l3 P
8.使用堆外内存
4 u( e8 Z% l9 T9 @# r" y9.spark 3.0AQE动态缩小分区) h; s6 I- r2 G/ m. j. `
10.spark 3.0AQE动态选择join策略+ {; Y4 p/ y. L3 U
11 spark3.0AQE动态优化倾斜join7 i2 \ X2 c2 [$ A7 J/ ^
12 sparak3.0 dpp动态分区修剪
" Y2 f: d3 A% ^/ c& H5 w9 p( g) j* A
本站精挑细选,只分享优质精品资源,已泛滥、已过时、质量差的资源不录入!
9 V5 e. f. U" E; _/ n9 O
+ s( e* L7 f8 F, l. V4 M
; E3 N# r7 F6 t- E
' T% w1 S H, J p4 b
. H) J6 L0 }7 g' {/ J3 c% @ |