[spark] 스파크 디플로이 모드(deploy mode)의 cluster, client 의 차이

2018. 3. 27. 16:50·빅데이터/spark

스파크의 클러스터 타입은 4가지가 있다. 

  • standalone
    • 스파크에 포함된 클러스터 관리자 
  • YARN
    • Hadoop2의 관리자 
    • https://hadoop.apache.org/docs/current/hadoop-yarn/hadoop-yarn-site/YARN.html
  • Mesos
    • Hadoop MapReduce와 다른 응용 서비스를 실행할 수 있는 범용 클러스터 관리자 
    • http://mesos.apache.org/
  • Kubernetes
    • 컨테이너화된 응용프로그램의 배치, 실행을 관리하는 클러스터 관리자 
    • https://kubernetes.io/


그리고 이 클러스터에 대한 배포 모드(deploy mode)는 2가지가 있다. 


  • client
    • 실행을 호출한 곳에서 드라이버가 생성
  • cluster
    • 클러스터 내부에서 드라이버가 생성 



https://hxquangnhat.com/2015/04/03/overview-spark-deploy-modes/

http://c2fo.io/c2fo/spark/aws/emr/2016/09/01/apache-spark-config-cheatsheet-part2/

https://hxquangnhat.com/2015/04/03/overview-spark-deploy-modes/


반응형
저작자표시 비영리 (새창열림)

'빅데이터 > spark' 카테고리의 다른 글

[spark] RDD, DataFrame, DataSet  (0) 2018.03.28
[spark] RDD, Transformation, Action, Dependency 용어  (1) 2018.03.28
[spark] 스파크 컨테이너 메모리 오류시 처리 방안  (0) 2018.02.13
[spark] NoSuchElement 오류 해결 방법  (0) 2018.01.08
스파크에서 문자열 utf-8 형식으로 처리하기  (0) 2016.06.20
'빅데이터/spark' 카테고리의 다른 글
  • [spark] RDD, DataFrame, DataSet
  • [spark] RDD, Transformation, Action, Dependency 용어
  • [spark] 스파크 컨테이너 메모리 오류시 처리 방안
  • [spark] NoSuchElement 오류 해결 방법
hs_seo
hs_seo
Hello World!
    반응형
  • hs_seo
    개발자로 살아남기
    hs_seo
  • 전체
    오늘
    어제
    • 전체 (1140)
      • 개발자 (21)
        • 개발에 유의할 점 (0)
        • 면접 (5)
      • IT 소식 (5)
        • 업계 (1)
      • java (51)
        • 디자인패턴 (3)
        • apache-common (1)
      • 개념 (47)
        • 자료구조 (4)
        • 함수형사고 (8)
        • 디자인패턴 (1)
      • 데이터분석 (1)
      • python (67)
        • 코드조각 (12)
        • 라이브러리 (2)
      • 빅데이터 (418)
        • zookeeper (5)
        • hadoop (78)
        • hdfs (12)
        • hive (127)
        • hbase (16)
        • spark (40)
        • scala (4)
        • trino (3)
        • oozie (41)
        • Hue (9)
        • R (5)
        • sqoop (6)
        • flume (3)
        • elasticsearch (2)
        • airflow (16)
        • kafka (3)
        • kubernetes (10)
        • openstack (3)
        • flink (2)
        • redis (2)
      • 빅데이터 강좌 (2)
      • 알고리즘 (131)
        • 알고리즘 (1)
        • 백준 (61)
        • 정올 (41)
        • 더블릿 (5)
        • 프로그래머스 (1)
      • 프로그래밍 언어 (30)
        • go (4)
        • js (9)
        • .Net (6)
        • Jsp (1)
        • ansible (3)
        • terraform (6)
      • Tools (56)
        • docker (2)
        • macbook (6)
        • maven (3)
        • sublime (1)
      • 프레임워크 (25)
        • [JS] angularjs (2)
        • [JS] node.js (19)
        • [Java] spring (2)
        • Android (2)
      • 데이타베이스 (43)
        • SQLD (5)
        • Oracle (1)
        • MySQL (8)
        • ADsP (2)
      • 리눅스 (25)
        • Bash (61)
      • GCP (5)
      • AWS (34)
        • EC2 (2)
        • EMR (14)
      • 정보보안기사 (4)
        • 네트워크 (1)
      • 개인 (80)
        • 업무실수 (0)
        • 책 (9)
        • 교육 (3)
        • 여행 (17)
        • 영화 (12)
        • 음악 (2)
        • 피규어 (4)
        • 게임 (3)
        • 생각 (7)
        • 기타 (10)
        • 좋은글 (5)
        • 좋은 사이트 (2)
  • 블로그 메뉴

    • 홈
    • 태그
    • 미디어로그
    • 위치로그
    • 방명록
  • 링크

    • 빅데이터-하둡,하이브로 시작하기
    • 빅데이터-스칼라, 스파크로 시작하기
    • Kaggle에서 파이썬으로 데이터 분석 시작하기
    • 쉘스크립트 개발 시작하기
    • 개발자가 데이터 분석 준전문가 되기
    • 데브쿠마
  • 공지사항

  • 인기 글

  • 태그

    ubuntu
    emr
    S3
    nodejs
    하이브
    파이썬
    백준
    SPARK
    error
    java
    오류
    build
    알고리즘
    Tez
    bash
    HDFS
    airflow
    정올
    HIVE
    하둡
    hbase
    yarn
    AWS
    oozie
    k8s
    mysql
    Hadoop
    Python
    다이나믹
    Linux
  • 최근 댓글

  • 최근 글

  • hELLO· Designed By정상우.v4.10.6
hs_seo
[spark] 스파크 디플로이 모드(deploy mode)의 cluster, client 의 차이
상단으로

티스토리툴바