[hive] MSCK REPAIR 처리중 Caused by: MetaException(message:Expected 2 components, got 1) 처리

2019. 4. 1. 17:31·빅데이터/hive

MSCK REPAIR는 하이브에서 테이블의 파티션을 일괄 생성할 때 사용하는 명령어 입니다.

 

테이블의 로케이션의 하위 디렉토리를 검색하여 파티션 정보와 일치하는 디렉토리를 자동으로 파티션으로 추가해주는데

파티션 정보와 다른 디렉토리가 존재하면 아래의 오류가 발생합니다. 2개의 파티션 데이터가 있는 구조인데 한개만 있다고 오류가 발생하였습니다. 

Caused by: MetaException(message:Expected 2 components, got 1)

이 오류를 해결하는 방법은 두가지가 있습니다. 

 

첫번째는 디렉토리를 정리하여 파티션 구조에 맞는 디렉토리와 파일만 놓아두는 것입니다. 

두번째는 다음의 옵션값을 이용하는 방법이 있습니다.

set hive.msck.path.validation=ignore;

이 옵션은 msck를 사용할 때 파티션과 일치하지 않는 디렉토리는 무시하고 지나가게 하는 옵션입니다.

반응형

'빅데이터 > hive' 카테고리의 다른 글

[hive] Vertex's TaskResource is beyond the cluster container capability 오류 처리  (0) 2019.04.05
[hive] 하이브 처리 결과를 gzip으로 압축하는 방법  (0) 2019.04.03
[hive] 테이블의 파티션을 범위로 삭제(Drop)하는 방법  (0) 2019.04.01
[hive] 하이브의 LLAP(Live Long And Process) 구조  (0) 2019.02.26
[hive] 하이브 3의 특징  (0) 2019.02.25
'빅데이터/hive' 카테고리의 다른 글
  • [hive] Vertex's TaskResource is beyond the cluster container capability 오류 처리
  • [hive] 하이브 처리 결과를 gzip으로 압축하는 방법
  • [hive] 테이블의 파티션을 범위로 삭제(Drop)하는 방법
  • [hive] 하이브의 LLAP(Live Long And Process) 구조
hs_seo
hs_seo
Hello World!
    반응형
  • hs_seo
    개발자로 살아남기
    hs_seo
  • 전체
    오늘
    어제
    • 전체 (1140)
      • 개발자 (21)
        • 개발에 유의할 점 (0)
        • 면접 (5)
      • IT 소식 (5)
        • 업계 (1)
      • java (51)
        • 디자인패턴 (3)
        • apache-common (1)
      • 개념 (47)
        • 자료구조 (4)
        • 함수형사고 (8)
        • 디자인패턴 (1)
      • 데이터분석 (1)
      • python (67)
        • 코드조각 (12)
        • 라이브러리 (2)
      • 빅데이터 (418)
        • zookeeper (5)
        • hadoop (78)
        • hdfs (12)
        • hive (127)
        • hbase (16)
        • spark (40)
        • scala (4)
        • trino (3)
        • oozie (41)
        • Hue (9)
        • R (5)
        • sqoop (6)
        • flume (3)
        • elasticsearch (2)
        • airflow (16)
        • kafka (3)
        • kubernetes (10)
        • openstack (3)
        • flink (2)
        • redis (2)
      • 빅데이터 강좌 (2)
      • 알고리즘 (131)
        • 알고리즘 (1)
        • 백준 (61)
        • 정올 (41)
        • 더블릿 (5)
        • 프로그래머스 (1)
      • 프로그래밍 언어 (30)
        • go (4)
        • js (9)
        • .Net (6)
        • Jsp (1)
        • ansible (3)
        • terraform (6)
      • Tools (56)
        • docker (2)
        • macbook (6)
        • maven (3)
        • sublime (1)
      • 프레임워크 (25)
        • [JS] angularjs (2)
        • [JS] node.js (19)
        • [Java] spring (2)
        • Android (2)
      • 데이타베이스 (43)
        • SQLD (5)
        • Oracle (1)
        • MySQL (8)
        • ADsP (2)
      • 리눅스 (25)
        • Bash (61)
      • GCP (5)
      • AWS (34)
        • EC2 (2)
        • EMR (14)
      • 정보보안기사 (4)
        • 네트워크 (1)
      • 개인 (80)
        • 업무실수 (0)
        • 책 (9)
        • 교육 (3)
        • 여행 (17)
        • 영화 (12)
        • 음악 (2)
        • 피규어 (4)
        • 게임 (3)
        • 생각 (7)
        • 기타 (10)
        • 좋은글 (5)
        • 좋은 사이트 (2)
  • 블로그 메뉴

    • 홈
    • 태그
    • 미디어로그
    • 위치로그
    • 방명록
  • 링크

    • 빅데이터-하둡,하이브로 시작하기
    • 빅데이터-스칼라, 스파크로 시작하기
    • Kaggle에서 파이썬으로 데이터 분석 시작하기
    • 쉘스크립트 개발 시작하기
    • 개발자가 데이터 분석 준전문가 되기
    • 데브쿠마
  • 공지사항

  • 인기 글

  • 태그

    SPARK
    hbase
    k8s
    nodejs
    airflow
    다이나믹
    oozie
    java
    AWS
    HDFS
    ubuntu
    Hadoop
    yarn
    emr
    하이브
    mysql
    bash
    파이썬
    build
    정올
    하둡
    Tez
    Linux
    S3
    백준
    HIVE
    오류
    알고리즘
    Python
    error
  • 최근 댓글

  • 최근 글

  • hELLO· Designed By정상우.v4.10.6
hs_seo
[hive] MSCK REPAIR 처리중 Caused by: MetaException(message:Expected 2 components, got 1) 처리
상단으로

티스토리툴바