티스토리 뷰
빅데이터/hive
[hive] An error occurred when trying to close the Operator running your custom script. 오류 해결방법
hs_seo 2018. 3. 20. 16:00hive 수행중 USING 문을 이용하여 스크립트 파일을 실행할 때
다음의 오류가 발생하는 경우가 있다.
Caused by: org.apache.hadoop.hive.ql.metadata.HiveException: [Error 20003]: An error occurred when trying to close the Operator running your custom script.
at org.apache.hadoop.hive.ql.exec.ScriptOperator.close(ScriptOperator.java:585)
at org.apache.hadoop.hive.ql.exec.Operator.close(Operator.java:696)
이럴경우 ADD FILE 구문을 이용해서 파일을 추가해주고 진행하면 된다.
<기존>
SELECT transform(col1, col2) using 'hdfs://location/script.py';
<변경>
ADD FILE 'hdfs://location/script.py';
SELECT transform(col1, col2) using 'script.py';
반응형
'빅데이터 > hive' 카테고리의 다른 글
[hive] 하이브에서 insert, delete, update 사용 (0) | 2018.03.30 |
---|---|
[hive] CBO처리중 힌트 사용시 오류 (0) | 2018.03.29 |
[hive] 메타스토어의 테이블로 파티션 위치 확인하는 방법 (0) | 2018.03.19 |
[hive] drop table 처리중 GC 또는 OutOfMemory 오류가 발생하는 경우 (0) | 2018.03.14 |
[hive] hive.exec.dynamic.partition.mode, hive.optimize.sort.dynamic.partiton 설정에 따른 성능 저하 확인 (0) | 2018.03.08 |
반응형
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
링크
TAG
- S3
- HIVE
- SPARK
- HDFS
- mysql
- Linux
- ubuntu
- nodejs
- AWS
- 정올
- oozie
- airflow
- 알고리즘
- 하이브
- SQL
- hbase
- 오류
- 하둡
- 파이썬
- error
- Tez
- Hadoop
- 다이나믹
- java
- bash
- build
- 백준
- emr
- Python
- yarn
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 |
글 보관함