본문 바로가기
빅데이터/hive

[hive] An error occurred when trying to close the Operator running your custom script. 오류 해결방법

by hs_seo 2018. 3. 20.

hive 수행중 USING 문을 이용하여 스크립트 파일을 실행할 때 

다음의 오류가 발생하는 경우가 있다. 


Caused by: org.apache.hadoop.hive.ql.metadata.HiveException: [Error 20003]: An error occurred when trying to close the Operator running your custom script.

at org.apache.hadoop.hive.ql.exec.ScriptOperator.close(ScriptOperator.java:585)

at org.apache.hadoop.hive.ql.exec.Operator.close(Operator.java:696)



이럴경우 ADD FILE 구문을 이용해서 파일을 추가해주고 진행하면 된다. 


<기존>

SELECT transform(col1, col2) using 'hdfs://location/script.py';


<변경>

ADD FILE 'hdfs://location/script.py';

SELECT transform(col1, col2) using 'script.py';


반응형