티스토리 뷰
Order by
- 전체 데이터를 정렬
- 하나의 리듀서로 진행
- 용량이 커지면 문제가 발생할 가능성이 높음
- 용량이 많을 경우 limit 를 이용하여 데이터를 제한해야 함
sort by
- 리듀서별로 데이터를 정렬
- 즉, 파일별로 정렬되어 생성됨
- 보통 distribute by 와 함께 사용하여 처리,
- distribute by는 리듀서로 보내는 데이터의 분류 기준
cluster by
- distributed by, sort by를 동시에 사용한 것
http://saurzcode.in/2015/01/hive-sort-vs-order-vs-distribute-vs-cluster/
https://cwiki.apache.org/confluence/display/Hive/LanguageManual+SortBy#LanguageManualSortBy-SyntaxofOrderBy
반응형
'빅데이터 > hive' 카테고리의 다른 글
| [hive] 하이브 테이블에 데이터 입력 방법 (0) | 2017.02.21 |
|---|---|
| [hive] 하이브 테이블 생성하기 (0) | 2017.02.21 |
| [hive][tez] tez 처리중 tez.lib.uris is not defined in the configuration 오류 수정 (0) | 2017.02.07 |
| [hive] 다이나믹 파티션의 __HIVE_DEFAULT_PARTITION__ (0) | 2017.02.02 |
| [Hive] transform 으로 파이썬을 이용할 때 exception 출력하기 (0) | 2017.01.23 |
반응형
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
링크
TAG
- build
- airflow
- error
- S3
- oozie
- nodejs
- HIVE
- 정올
- 하이브
- java
- mysql
- 다이나믹
- SPARK
- HDFS
- 하둡
- 파이썬
- 알고리즘
- SQL
- Hadoop
- 오류
- Linux
- ubuntu
- bash
- yarn
- Python
- 백준
- emr
- Tez
- AWS
- hbase
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | ||
| 6 | 7 | 8 | 9 | 10 | 11 | 12 |
| 13 | 14 | 15 | 16 | 17 | 18 | 19 |
| 20 | 21 | 22 | 23 | 24 | 25 | 26 |
| 27 | 28 | 29 | 30 |
글 보관함