[hadoop] hadoop1, 2, 3의 특징 및 장단점

2017. 12. 21. 10:47·빅데이터/hadoop

Haodoop 1

  • 클러스터당 최대 4000개의 노드를 등록 가능 
  • MR 잡을 수행할 수 있음
  • 작업 처리를 슬롯 단위로 수행 



Hadoop 2

  • 클러스터 당 10000개 이상의 노드가 가능
  • MR 잡외에 Spark, Hama, Giraph 등 다른 분산 처리 모델도 수행 가능
  • Hadoop1의 잡트래커가 리소스 관리, 잡 스케줄링을 동시에 처리하여 병목 지점이 되어 YARN 추가
  • YARN은 리소스매니저, 애플리케이션 마스터가 리소스 관리, 잡 스케줄링을 담당



Hadoop 3 

  • HDFS erasure coding 추가 
    • 기존의 Replication 을 대체하는 방식으로 복제를 하지 않고 오류에 대응
  • YARN 타임라인 서비스 v2 
    • 기존 타임라인 서비스보다 많은 정보 확인 가능
  • 쉘스크립트 재작성
    • 오래된 쉘스크립트를 재작성하여 버그 수정 
  • JAVA8 지원

하둡1에서 하둡2로 넘어갈때는 YARN 아키텍처의 등장으로 큰 변화가 있었고, 
하둡3로 넘어갈때는 HDFS의 효율화, 버그 수정, MR 성능 향상등의 변화가 있다. 



https://www.slideshare.net/RommelGarcia2/hadoop-1x-vs-2

https://acadgild.com/blog/10-big-differences-between-hadoop1-and-hadoop2/

https://acadgild.com/blog/top-10-differences-between-hadoop-2-x-and-3-x/

http://data-flair.training/blogs/hadoop-2-x-vs-hadoop-3-x-comparison/

하둡3 특징

https://www.edureka.co/blog/hadoop-3/


반응형
저작자표시 비영리 (새창열림)

'빅데이터 > hadoop' 카테고리의 다른 글

[hadoop] shuffle 단계 메모리 설정 정보  (0) 2018.03.26
[hadoop] yarn 아키텍처  (0) 2018.01.16
[개념] HCatalog, HCatalog Server  (0) 2017.11.28
[hadoop] MR과 TEZ의 차이  (0) 2017.10.24
[hadoop] 하둡 커패시티 스케줄러(capacity-scheduler)  (0) 2017.10.18
'빅데이터/hadoop' 카테고리의 다른 글
  • [hadoop] shuffle 단계 메모리 설정 정보
  • [hadoop] yarn 아키텍처
  • [개념] HCatalog, HCatalog Server
  • [hadoop] MR과 TEZ의 차이
hs_seo
hs_seo
Hello World!
    반응형
  • hs_seo
    개발자로 살아남기
    hs_seo
  • 전체
    오늘
    어제
    • 전체 (1140)
      • 개발자 (21)
        • 개발에 유의할 점 (0)
        • 면접 (5)
      • IT 소식 (5)
        • 업계 (1)
      • java (51)
        • 디자인패턴 (3)
        • apache-common (1)
      • 개념 (47)
        • 자료구조 (4)
        • 함수형사고 (8)
        • 디자인패턴 (1)
      • 데이터분석 (1)
      • python (67)
        • 코드조각 (12)
        • 라이브러리 (2)
      • 빅데이터 (418)
        • zookeeper (5)
        • hadoop (78)
        • hdfs (12)
        • hive (127)
        • hbase (16)
        • spark (40)
        • scala (4)
        • trino (3)
        • oozie (41)
        • Hue (9)
        • R (5)
        • sqoop (6)
        • flume (3)
        • elasticsearch (2)
        • airflow (16)
        • kafka (3)
        • kubernetes (10)
        • openstack (3)
        • flink (2)
        • redis (2)
      • 빅데이터 강좌 (2)
      • 알고리즘 (131)
        • 알고리즘 (1)
        • 백준 (61)
        • 정올 (41)
        • 더블릿 (5)
        • 프로그래머스 (1)
      • 프로그래밍 언어 (30)
        • go (4)
        • js (9)
        • .Net (6)
        • Jsp (1)
        • ansible (3)
        • terraform (6)
      • Tools (56)
        • docker (2)
        • macbook (6)
        • maven (3)
        • sublime (1)
      • 프레임워크 (25)
        • [JS] angularjs (2)
        • [JS] node.js (19)
        • [Java] spring (2)
        • Android (2)
      • 데이타베이스 (43)
        • SQLD (5)
        • Oracle (1)
        • MySQL (8)
        • ADsP (2)
      • 리눅스 (25)
        • Bash (61)
      • GCP (5)
      • AWS (34)
        • EC2 (2)
        • EMR (14)
      • 정보보안기사 (4)
        • 네트워크 (1)
      • 개인 (80)
        • 업무실수 (0)
        • 책 (9)
        • 교육 (3)
        • 여행 (17)
        • 영화 (12)
        • 음악 (2)
        • 피규어 (4)
        • 게임 (3)
        • 생각 (7)
        • 기타 (10)
        • 좋은글 (5)
        • 좋은 사이트 (2)
  • 블로그 메뉴

    • 홈
    • 태그
    • 미디어로그
    • 위치로그
    • 방명록
  • 링크

    • 빅데이터-하둡,하이브로 시작하기
    • 빅데이터-스칼라, 스파크로 시작하기
    • Kaggle에서 파이썬으로 데이터 분석 시작하기
    • 쉘스크립트 개발 시작하기
    • 개발자가 데이터 분석 준전문가 되기
    • 데브쿠마
  • 공지사항

  • 인기 글

  • 태그

    error
    SPARK
    오류
    bash
    ubuntu
    yarn
    HDFS
    oozie
    airflow
    알고리즘
    AWS
    S3
    HIVE
    k8s
    build
    hbase
    Tez
    하이브
    Hadoop
    백준
    하둡
    정올
    Linux
    java
    다이나믹
    파이썬
    emr
    nodejs
    mysql
    Python
  • 최근 댓글

  • 최근 글

  • hELLO· Designed By정상우.v4.10.6
hs_seo
[hadoop] hadoop1, 2, 3의 특징 및 장단점
상단으로

티스토리툴바