hive 수행중 USING 문을 이용하여 스크립트 파일을 실행할 때
다음의 오류가 발생하는 경우가 있다.
Caused by: org.apache.hadoop.hive.ql.metadata.HiveException: [Error 20003]: An error occurred when trying to close the Operator running your custom script.
at org.apache.hadoop.hive.ql.exec.ScriptOperator.close(ScriptOperator.java:585)
at org.apache.hadoop.hive.ql.exec.Operator.close(Operator.java:696)
이럴경우 ADD FILE 구문을 이용해서 파일을 추가해주고 진행하면 된다.
<기존>
SELECT transform(col1, col2) using 'hdfs://location/script.py';
<변경>
ADD FILE 'hdfs://location/script.py';
SELECT transform(col1, col2) using 'script.py';
반응형
'빅데이터 > hive' 카테고리의 다른 글
[hive] 하이브에서 insert, delete, update 사용 (0) | 2018.03.30 |
---|---|
[hive] CBO처리중 힌트 사용시 오류 (0) | 2018.03.29 |
[hive] 메타스토어의 테이블로 파티션 위치 확인하는 방법 (0) | 2018.03.19 |
[hive] drop table 처리중 GC 또는 OutOfMemory 오류가 발생하는 경우 (0) | 2018.03.14 |
[hive] hive.exec.dynamic.partition.mode, hive.optimize.sort.dynamic.partiton 설정에 따른 성능 저하 확인 (0) | 2018.03.08 |