티스토리 뷰
hadoop fs 명령에서 OutOfMemory 오류가 발생하는 경우가 있습니다. 아래와 같이 디렉토리의 정보를 가져올 때 오류가 발생합니다.
$ hadoop fs -ls /app/logs
#
# java.lang.OutOfMemoryError: GC overhead limit exceeded
# -XX:OnOutOfMemoryError="kill -9 %p"
# Executing /bin/sh c "kill -9 1234"...
KILLED원인 및 해결방법
주로 파일 개수가 많을 때 발생합니다. 이런 경우 하둡 클라이언트의 메모리를 늘려주면 됩니다. 아래와 같이 입력하여 메모리 설정을 늘려주고 fs 명령을 입력하면 됩니다.
export HADOOP_CLIENT_OPTS="-Xmx2048m"반응형
'빅데이터 > hadoop' 카테고리의 다른 글
| [hadoop] hadoop fs 명령에서 로그를 출력하는 방법 (0) | 2020.11.04 |
|---|---|
| [hadoop] [스크랩] Line에서 하둡 클러스터를 운영하면서 발생한 장애 상황 대응 방법 (0) | 2020.06.04 |
| [YARN] YARN Node Label (0) | 2019.11.08 |
| [hadoop] 하둡에서 S3를 파일시스템으로 이용하기 위한 방법 (0) | 2019.11.06 |
| [hadoop][yarn] Caused by: java.io.IOException: default cannot be found during refresh! 오류 수정 (0) | 2019.10.31 |
반응형
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
링크
TAG
- SPARK
- AWS
- java
- Python
- 하둡
- build
- HDFS
- 하이브
- 오류
- 알고리즘
- mysql
- airflow
- error
- 정올
- Hadoop
- nodejs
- SQL
- 백준
- S3
- Linux
- hbase
- ubuntu
- Tez
- emr
- yarn
- 파이썬
- 다이나믹
- oozie
- bash
- HIVE
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | ||||||
| 2 | 3 | 4 | 5 | 6 | 7 | 8 |
| 9 | 10 | 11 | 12 | 13 | 14 | 15 |
| 16 | 17 | 18 | 19 | 20 | 21 | 22 |
| 23 | 24 | 25 | 26 | 27 | 28 |
글 보관함