티스토리 뷰

빅데이터/hdfs

[hdfs] java.io.IOException: Got error, status=ERROR, status message , ack with firstBadLink as 192.168.0.103:50010 오류

hs_seo 2023. 12. 26. 12:03

HDFS 운영 중 다음과 같은 오류가 발생하였습니다.

 

23/12/18 15:22:43 INFO hdfs.DataStreamer: Exception in createBlockOutputStream
java.io.IOException: Got error, status=ERROR, status message , ack with firstBadLink as 192.168.0.103:50010
        at org.apache.hadoop.hdfs.protocol.datatransfer.DataTransferProtoUtil.checkBlockOpStatus(DataTransferProtoUtil.java:118)
        at org.apache.hadoop.hdfs.DataStreamer.createBlockOutputStream(DataStreamer.java:1751)
        at org.apache.hadoop.hdfs.DataStreamer.nextBlockOutputStream(DataStreamer.java:1655)
        at org.apache.hadoop.hdfs.DataStreamer.run(DataStreamer.java:710)
23/12/18 15:22:43 WARN hdfs.DataStreamer: Abandoning BP-306586558-192.168.0.100-1656332592858:blk_1953323125_879667572
23/12/18 15:22:43 WARN hdfs.DataStreamer: Excluding datanode DatanodeInfoWithStorage[192.168.0.103:50010,DS-1b4d82c2-d480-44c7-97db-1f2d36fe5944,DISK]
23/12/18 15:23:48 INFO hdfs.DataStreamer: Exception in createBlockOutputStream

 

  • 오류 원인은 네트워크 연결이 안되는 것이었습니다.
  • 처음에는 연결이 되다가, 일정 시간이 지나면 발생하였기 때문에 정확한 원인을 파악하기 어려웠습니다.
  • 노드에 설치된 cilium 의 문제였습니다.
  • 버전 업그레이드후 오류를 해결할 수 있었습니다.
  • 이런 오류가 발생하였을 때는 방화벽과 현재 HDFS가 설치된 노드의 프로그램을 확인하면 좋을 것 같습니다.
반응형
저작자표시 비영리 동일조건

'빅데이터 > hdfs' 카테고리의 다른 글

[hdfs] Datanode 실행 중 You cannot have a rack and a non-rack node at the same level of the network topology. 오류  (2) 2023.06.09
[hdfs] yarn 작업 중 s3a 연결 오류 처리: com.amazonaws.AmazonClientException: No AWS Credentials provided by BasicAWSCredentialsProvider EnvironmentVariableCredentialsProvider InstanceProfileCredentialsProvider : com.amazonaws.SdkClientException..  (0) 2022.12.03
[hdfs] 하둡 2.10.0 버전에서 데이터 노드를 재시작할 때 발생하는 java.io.IOException: Failed to start sub tasks to add replica in replica map :java.lang.ArithmeticException 오류 해결 방법  (0) 2022.07.06
[hdfs] Access denied for user root. Superuser privilege is required 오류 해결 방법  (0) 2022.05.17
[hdfs] HDFS 메타 데이터 백업 및 복구  (0) 2022.02.22
반응형
공지사항
최근에 올라온 글
최근에 달린 댓글
Total
Today
Yesterday
링크
TAG more
«   2025/01   »
일 월 화 수 목 금 토
1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31
글 보관함