다이나믹 파티션 처리시 매퍼 only 잡으로 처리중
0 byte 파일이 생성되는 경우가 있다.
이럴 경우 다음의 설정을 false 로 설정하면 문제를 해결 할 수 있다.
set hive.optimize.sort.dynamic.partition=false;
반응형
'빅데이터 > hive' 카테고리의 다른 글
[hive] dynamic partition 에서 리듀서를 하나만 사용하는 오류 수정 (0) | 2017.11.15 |
---|---|
[Hive][Tez] TEZ에서 파일머지를 처리하는 중 App master already running a DAG 오류 처리 방법 (0) | 2017.11.10 |
[hive] tez로 처리중 File Merge 부분에서 오류 (0) | 2017.10.24 |
[hive][error] TEZ 사용시 Caused by: java.lang.ArrayIndexOutOfBoundsException: 1024 오류 (0) | 2017.08.24 |
[hive] 테이블 stat 갱신하기 (0) | 2017.06.26 |