티스토리 뷰
스파크의 클러스터 타입은 4가지가 있다.
- standalone
- 스파크에 포함된 클러스터 관리자
- YARN
- Mesos
- Hadoop MapReduce와 다른 응용 서비스를 실행할 수 있는 범용 클러스터 관리자
- http://mesos.apache.org/
- Kubernetes
- 컨테이너화된 응용프로그램의 배치, 실행을 관리하는 클러스터 관리자
- https://kubernetes.io/
그리고 이 클러스터에 대한 배포 모드(deploy mode)는 2가지가 있다.
- client
- 실행을 호출한 곳에서 드라이버가 생성
- cluster
- 클러스터 내부에서 드라이버가 생성
https://hxquangnhat.com/2015/04/03/overview-spark-deploy-modes/
http://c2fo.io/c2fo/spark/aws/emr/2016/09/01/apache-spark-config-cheatsheet-part2/
https://hxquangnhat.com/2015/04/03/overview-spark-deploy-modes/
반응형
'빅데이터 > spark' 카테고리의 다른 글
[spark] RDD, DataFrame, DataSet (0) | 2018.03.28 |
---|---|
[spark] RDD, Transformation, Action, Dependency 용어 (0) | 2018.03.28 |
[spark] 스파크 컨테이너 메모리 오류시 처리 방안 (0) | 2018.02.13 |
[spark] NoSuchElement 오류 해결 방법 (0) | 2018.01.08 |
스파크에서 문자열 utf-8 형식으로 처리하기 (0) | 2016.06.20 |
반응형
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
링크
TAG
- bash
- ubuntu
- java
- 정올
- 알고리즘
- SPARK
- HIVE
- 파이썬
- HDFS
- S3
- 오류
- nodejs
- airflow
- 하이브
- Python
- Hadoop
- emr
- oozie
- AWS
- build
- SQL
- Linux
- 다이나믹
- 백준
- hbase
- error
- 하둡
- Tez
- mysql
- yarn
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
글 보관함