[hive] UDTF 예제

2017. 4. 12. 16:13·빅데이터/hive

UDTF는 한행을 입력받아서 여러 행을 반환하는 함수이다. 

  • take in a single input row and output a single output row


크게 4가지 종류가 있다. 

  • explode, inline, posexplode
    • array, map, struct 형식의 데이터를 테이블 
  • json_tuple
    • json 문자열을 파싱하여 반환
    • get_json_object() 와 비슷한데 속도가 빠르다. 대신 xpath를 이용한 처리는 안됨
  • url_tuple
    • url 문자를 파싱
    • HOST, PATH, QUERY, REF, PROTOCOL, AUTHORITY, FILE 를 반환
  • stack
    • 전달한 데이터를 여러개의 행으로 반환


> select * from employee;

OK

id-1 john ["a","b","c","d"] {"k1":"v1","k2":"v2"} 100

id-2 sam ["e","f","g","h"] {"k3":"v3","k4":"v4"} 300

id-3 tim ["i","j","k","l"] {"k5":"v5","k6":"v6"} 1000

id-4 paul ["z","c","v","b"] {"k7":"v7","k8":"v8"} 800

id-5 kill ["q","w","e","r"] {"k9":"v9","k0":"v0"} 600



> select explode(lists) as col1

>   from employee;

OK

a

b

c

d

e

f

g

h

i

j

k

l

z

c

v

b

q

w

e

r

Time taken: 0.054 seconds, Fetched: 20 row(s)



> select explode(maps) as (key, value) 

>   from employee;

OK

k1 v1

k2 v2

k3 v3

k4 v4

k5 v5

k6 v6

k7 v7

k8 v8

k9 v9

k0 v0

Time taken: 0.052 seconds, Fetched: 10 row(s)



> select posexplode(lists) as (pos, col1)

>   from employee;

OK

0 a

1 b

2 c

3 d

0 e

1 f

2 g

3 h

0 i

1 j

2 k

3 l

0 z

1 c

2 v

3 b

0 q

1 w

2 e

3 r

Time taken: 0.059 seconds, Fetched: 20 row(s)




반응형
저작자표시 비영리 (새창열림)

'빅데이터 > hive' 카테고리의 다른 글

[hive] 테이블 stat 갱신하기  (0) 2017.06.26
[hive] 하이브 테이블에 struct 같은 복합 데이터 load 하는 법  (0) 2017.04.12
[hive][error] hive로 MR 작업중 Illegal mix of collations A and B for operation '=' ... 오류  (0) 2017.04.11
[hive] 하이브의 처리 결과에 칼럼정보 출력 or 추가  (0) 2017.04.06
[hive] 쿼리를 이용하여 파일시스템에 데이터를 쓰기(INSERT OVERWRITE DIRECTORY)  (0) 2017.04.06
'빅데이터/hive' 카테고리의 다른 글
  • [hive] 테이블 stat 갱신하기
  • [hive] 하이브 테이블에 struct 같은 복합 데이터 load 하는 법
  • [hive][error] hive로 MR 작업중 Illegal mix of collations A and B for operation '=' ... 오류
  • [hive] 하이브의 처리 결과에 칼럼정보 출력 or 추가
hs_seo
hs_seo
Hello World!
    반응형
  • hs_seo
    개발자로 살아남기
    hs_seo
  • 전체
    오늘
    어제
    • 전체 (1140)
      • 개발자 (21)
        • 개발에 유의할 점 (0)
        • 면접 (5)
      • IT 소식 (5)
        • 업계 (1)
      • java (51)
        • 디자인패턴 (3)
        • apache-common (1)
      • 개념 (47)
        • 자료구조 (4)
        • 함수형사고 (8)
        • 디자인패턴 (1)
      • 데이터분석 (1)
      • python (67)
        • 코드조각 (12)
        • 라이브러리 (2)
      • 빅데이터 (418)
        • zookeeper (5)
        • hadoop (78)
        • hdfs (12)
        • hive (127)
        • hbase (16)
        • spark (40)
        • scala (4)
        • trino (3)
        • oozie (41)
        • Hue (9)
        • R (5)
        • sqoop (6)
        • flume (3)
        • elasticsearch (2)
        • airflow (16)
        • kafka (3)
        • kubernetes (10)
        • openstack (3)
        • flink (2)
        • redis (2)
      • 빅데이터 강좌 (2)
      • 알고리즘 (131)
        • 알고리즘 (1)
        • 백준 (61)
        • 정올 (41)
        • 더블릿 (5)
        • 프로그래머스 (1)
      • 프로그래밍 언어 (30)
        • go (4)
        • js (9)
        • .Net (6)
        • Jsp (1)
        • ansible (3)
        • terraform (6)
      • Tools (56)
        • docker (2)
        • macbook (6)
        • maven (3)
        • sublime (1)
      • 프레임워크 (25)
        • [JS] angularjs (2)
        • [JS] node.js (19)
        • [Java] spring (2)
        • Android (2)
      • 데이타베이스 (43)
        • SQLD (5)
        • Oracle (1)
        • MySQL (8)
        • ADsP (2)
      • 리눅스 (25)
        • Bash (61)
      • GCP (5)
      • AWS (34)
        • EC2 (2)
        • EMR (14)
      • 정보보안기사 (4)
        • 네트워크 (1)
      • 개인 (80)
        • 업무실수 (0)
        • 책 (9)
        • 교육 (3)
        • 여행 (17)
        • 영화 (12)
        • 음악 (2)
        • 피규어 (4)
        • 게임 (3)
        • 생각 (7)
        • 기타 (10)
        • 좋은글 (5)
        • 좋은 사이트 (2)
  • 블로그 메뉴

    • 홈
    • 태그
    • 미디어로그
    • 위치로그
    • 방명록
  • 링크

    • 빅데이터-하둡,하이브로 시작하기
    • 빅데이터-스칼라, 스파크로 시작하기
    • Kaggle에서 파이썬으로 데이터 분석 시작하기
    • 쉘스크립트 개발 시작하기
    • 개발자가 데이터 분석 준전문가 되기
    • 데브쿠마
  • 공지사항

  • 인기 글

  • 태그

    Tez
    Linux
    airflow
    알고리즘
    S3
    하이브
    bash
    oozie
    java
    hbase
    HDFS
    k8s
    emr
    SPARK
    Python
    오류
    파이썬
    nodejs
    AWS
    Hadoop
    백준
    mysql
    ubuntu
    HIVE
    yarn
    다이나믹
    build
    정올
    error
    하둡
  • 최근 댓글

  • 최근 글

  • hELLO· Designed By정상우.v4.10.6
hs_seo
[hive] UDTF 예제
상단으로

티스토리툴바