[hive] 테이블 stat 갱신하기

2017. 6. 26. 15:16·빅데이터/hive

하이브 테이블의 열 개수(count 정보), 파일개수, 사이즈 등이 메타스토어에 저장된다. 

이를 이용하여 count 명령의 실행 속도를 높일 수 있다. 


그런데 파일 정보가 갱신 된 것을 하이브가 확인하지 못할 때도 있다. 

이럴때는 다음의 명령으로 테이블 정보를 갱신해 준다. 


ANALYZE TABLE 테이블명 COMPUTE STATISTICS;


The first milestone in supporting statistics was to support table and partition level statistics. Table and partition statistics are now stored in the Hive Metastore for either newly created or existing tables. The following statistics are currently supported for partitions:

  • Number of rows
  • Number of files
  • Size in Bytes

For tables, the same statistics are supported with the addition of the number of partitions of the table.



https://cwiki.apache.org/confluence/display/Hive/StatsDev#StatsDev-StatisticsinHive


반응형
저작자표시 비영리 (새창열림)

'빅데이터 > hive' 카테고리의 다른 글

[hive] tez로 처리중 File Merge 부분에서 오류  (0) 2017.10.24
[hive][error] TEZ 사용시 Caused by: java.lang.ArrayIndexOutOfBoundsException: 1024 오류  (0) 2017.08.24
[hive] 하이브 테이블에 struct 같은 복합 데이터 load 하는 법  (0) 2017.04.12
[hive] UDTF 예제  (0) 2017.04.12
[hive][error] hive로 MR 작업중 Illegal mix of collations A and B for operation '=' ... 오류  (0) 2017.04.11
'빅데이터/hive' 카테고리의 다른 글
  • [hive] tez로 처리중 File Merge 부분에서 오류
  • [hive][error] TEZ 사용시 Caused by: java.lang.ArrayIndexOutOfBoundsException: 1024 오류
  • [hive] 하이브 테이블에 struct 같은 복합 데이터 load 하는 법
  • [hive] UDTF 예제
hs_seo
hs_seo
Hello World!
    반응형
  • hs_seo
    개발자로 살아남기
    hs_seo
  • 전체
    오늘
    어제
    • 전체 (1140)
      • 개발자 (21)
        • 개발에 유의할 점 (0)
        • 면접 (5)
      • IT 소식 (5)
        • 업계 (1)
      • java (51)
        • 디자인패턴 (3)
        • apache-common (1)
      • 개념 (47)
        • 자료구조 (4)
        • 함수형사고 (8)
        • 디자인패턴 (1)
      • 데이터분석 (1)
      • python (67)
        • 코드조각 (12)
        • 라이브러리 (2)
      • 빅데이터 (418)
        • zookeeper (5)
        • hadoop (78)
        • hdfs (12)
        • hive (127)
        • hbase (16)
        • spark (40)
        • scala (4)
        • trino (3)
        • oozie (41)
        • Hue (9)
        • R (5)
        • sqoop (6)
        • flume (3)
        • elasticsearch (2)
        • airflow (16)
        • kafka (3)
        • kubernetes (10)
        • openstack (3)
        • flink (2)
        • redis (2)
      • 빅데이터 강좌 (2)
      • 알고리즘 (131)
        • 알고리즘 (1)
        • 백준 (61)
        • 정올 (41)
        • 더블릿 (5)
        • 프로그래머스 (1)
      • 프로그래밍 언어 (30)
        • go (4)
        • js (9)
        • .Net (6)
        • Jsp (1)
        • ansible (3)
        • terraform (6)
      • Tools (56)
        • docker (2)
        • macbook (6)
        • maven (3)
        • sublime (1)
      • 프레임워크 (25)
        • [JS] angularjs (2)
        • [JS] node.js (19)
        • [Java] spring (2)
        • Android (2)
      • 데이타베이스 (43)
        • SQLD (5)
        • Oracle (1)
        • MySQL (8)
        • ADsP (2)
      • 리눅스 (25)
        • Bash (61)
      • GCP (5)
      • AWS (34)
        • EC2 (2)
        • EMR (14)
      • 정보보안기사 (4)
        • 네트워크 (1)
      • 개인 (80)
        • 업무실수 (0)
        • 책 (9)
        • 교육 (3)
        • 여행 (17)
        • 영화 (12)
        • 음악 (2)
        • 피규어 (4)
        • 게임 (3)
        • 생각 (7)
        • 기타 (10)
        • 좋은글 (5)
        • 좋은 사이트 (2)
  • 블로그 메뉴

    • 홈
    • 태그
    • 미디어로그
    • 위치로그
    • 방명록
  • 링크

    • 빅데이터-하둡,하이브로 시작하기
    • 빅데이터-스칼라, 스파크로 시작하기
    • Kaggle에서 파이썬으로 데이터 분석 시작하기
    • 쉘스크립트 개발 시작하기
    • 개발자가 데이터 분석 준전문가 되기
    • 데브쿠마
  • 공지사항

  • 인기 글

  • 태그

    Hadoop
    hbase
    하이브
    airflow
    백준
    다이나믹
    build
    emr
    오류
    error
    AWS
    SPARK
    bash
    S3
    mysql
    Tez
    하둡
    알고리즘
    정올
    Python
    ubuntu
    yarn
    oozie
    nodejs
    Linux
    k8s
    파이썬
    HDFS
    java
    HIVE
  • 최근 댓글

  • 최근 글

  • hELLO· Designed By정상우.v4.10.6
hs_seo
[hive] 테이블 stat 갱신하기
상단으로

티스토리툴바