티스토리 뷰
EMR 하둡 클러스터에서 사용되는 포트와 기본적인 사용 방법은 다음과 같습니다.
타입 | 프로세스 | 포트 | 사용법 |
hdfs |
hdfs | 8020 | hadoop fs -ls hdfs://$(hostname -f):8020/ |
webhdfs | 50070 | curl -s http://$(hostname -f):50070/webhdfs/v1/?op=GETFILESTATUS | jq | |
webhdfs-proxy | 14000 | curl -s "http:///$(hostname -f):14000/webhdfs/v1?op=GETFILESTATUS&user.name=hadoop" | |
yarn |
resourcemanager | 8032 | |
resourcemanager web UI | 8088 | lynx http://$(hostname -f):8088 | |
timelineserver | 8188 | curl -s http://$(hostname -f):8188/ws/v1/timeline | |
yarn-proxy-server | 20888 | ||
Mapreduce | historyserver | 19888 | curl -s http://$(hostname -f):19888/ws/v1/history/info |
hive |
metastore | 9083 | thrift://$(hostname -f):9083 |
hive-server2 | 10000 | jdbc:hive2://localhost:10000 | |
hive-server2 web UI | 10002 | lynx http://$(hostname -f):10002 | |
spark |
spark-history-server | 18080 | curl http://$(hostname -f):18080/api/v1/applications |
livy-server | 8998 | lynx http://localhost:8998 | |
kms |
hadoop-kms | 9700 | curl http://$(hostname -f):9700/kms/v1/keys/names |
반응형
'AWS > EMR' 카테고리의 다른 글
[EMR] EMR 장기간 운영시 HDFS의 edits 파일 확인 및 삭제 (0) | 2020.05.22 |
---|---|
[EMR] EMR 하둡 클러스터에서 실행중인 세 가지 히스토리 서버 (0) | 2020.03.06 |
[EMR] AWS EMR의 클러스터 정보확인 위치 (0) | 2020.01.13 |
[EMR] S3 503 Slow Down 오류 발생시 해결방법 (0) | 2019.12.16 |
[EMR] CORE 노드 레이블에 맞는 클러스터 활용 설정 (0) | 2019.11.19 |
반응형
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
링크
TAG
- Linux
- ubuntu
- SPARK
- 알고리즘
- 정올
- 오류
- S3
- Hadoop
- Tez
- build
- mysql
- AWS
- HIVE
- yarn
- error
- nodejs
- 파이썬
- 다이나믹
- 하둡
- Python
- 백준
- emr
- bash
- oozie
- airflow
- hbase
- 하이브
- HDFS
- SQL
- java
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 |
글 보관함