하둡(Hadoop) 데이터노드(data node)가 갑자기 dead node로 변경되는 현상(DataNode failed volumes)

experience

  • dfshealth.jsp 접근해보니, 특정 데이터 노드가 dead node로 들어가 있는 것 확인.
 
 해당 서버 로그확인해보니, 아래와 같은 로그와 함께 data node가  shutdown 되어 있음.
 
 >>>>>>>>>>>>Removed 80795 out of 418745(took 524 millisecs)
WARN org.apache.hadoop.hdfs.server.datanode.DataNode: DataNode.handleDiskError: Keep Running: false
INFO org.apache.hadoop.hdfs.server.datanode.DataNode: DatanodeCommand action: DNA_REGISTER
WARN org.apache.hadoop.hdfs.server.datanode.DataNode: DataNode is shutting down. 
 
DataNode failed volumes: 타겟 dfs 경로... 
 
 
 
- 확인해보니, disk 이슈가 있는 경우, 자동으로 shutting down 된다는...


hdfs-site.xml의 dfs.datanode.failed.volumes.tolerated
설정 값에 따라 몇개의 volume 이 잘못될 때까지 shutdown을 연기할지 설정도 가능한 듯...

댓글

댓글 쓰기

이 블로그의 인기 게시물

엑셀(excel) 비쥬얼 베이직(visual basic, vba) 심플 실비(실손보험, 실손의료비) 계산식

  experience 실손보험 몇건 몰아서 등록할 일이 있어, 간단히 계산식(자기부담율, 최소공제금액에 따른 보상금액) 엑셀로 정리하려고 했으나, 검색이 잘 되지 않기에 간단하게 만듬.. Public Function fn보상금(본인부담, 자기부담율, 최소공제금액) As Double     Dim 공제금액 As Double     공제금액 = 본인부담 * (자기부담율 / 100)          Dim 공제금액제외_보상금 As Double              Select Case (공제금액 - 최소공제금액)         Case Is > 0             공제금액제외_보상금 = 본인부담 - 공제금액                      Case Else             공제금액제외_보상금 = 본인부담 - 최소공제금액              End Select          If 공제금액제외_보상금 < 0 Then         fn보상금 = 0     Else         fn보상금 = 공제금액제외_보상금     End If End Function  
자세한 내용 보기

아트월에 날짜, 시간 나오는 LED 벽시계 설치시 케이블(전선)이 두꺼워서 틈새(홈)에 매립이 안되는 경우 랜선(lan cable, lan선) 이용시 주의사항

experience LED 벽시계 구매후, 설치하려는데 예상과 다르게 전선 두께가 두꺼워서 아트월 틈새에 매립이 불가한 상황.. 검색해보니, 랜선으로 가능하다는 글이 있어 시도해봄.. 시계가 5V 2A라 랜선으로도 크게 문제없다는 글이 있어 시도 해봤지만.. 시계가 계속 빠르게 깜박임.ㅠ 케이블 단락이 있어서 그런가 해서 연결부위 다 꼼꼼히 다시 연결해도 동일.ㅠ 그냥 다시 구매할때 제공된 케이블로 다시 연결해서 사용할까 하다가 나무위키(이더넷 케이블 부분 - https://namu.wiki/w/%EC%9D%B4%EB%8D%94%EB%84%B7%20%EC%BC%80%EC%9D%B4%EB%B8%94 ) 이더넷 케이블 (Ethernet Cable)은 원래 전화선 용도로 쓰이다가 현대에서는 주로 근거리 통신망 (Loc namu.wiki 보다보니, 핫신호, 콜드 신호가 있다는 내용을 확인. 위상 180도, pair 등등 내용이 있길래, 혹시나 싶어 lan선의 두가닥 꼬여있던 set를 각 한쪽에 연결함.. ( lan선 pair 쌍(2개)과 기존 소켓 한곳에 연결 ) 최종으로 랜선 내부가닥 4개로 연결해보니 정상동작 확인. 랜선 연결시 안에 가닥순서를 바꿔야 한다거나 등만 들어보고, 실제로는 케이블을 각 포트에 연결만 해봐서 잘 몰랐던 내용인데... 신기... 검색으로 나오는 단순 시계만 나오는 LED벽시계들은 2가닥만으로도 문제없이 동작하는것으로 보이는데.... 이번에 새로 구매한 제품은 안되는듯.ㅠ
자세한 내용 보기

신한투자증권(주) 님이 세금계산서를 발행하였습니다. TaxBill365 관련 안전한 메일인지 여부?

experience 위와 같은 내용으로 메일이 왔는데, 스팸인지 피싱인지 확실치 않아 검색해봤지만, 별다른 내용이 없음.. ​ 아래와 같은 내용으로 전달됨. 신한투자증권(주) 님께서 세금계산서를 발행하였습니다. 본 세금계산서는 발행자의 보안 정책상 이메일에서 세금계산서를 확인하실 수 없으며, 귀사가 반드시 사용자 확인을 하셔야 확인이 가능합니다. 내용을 확인하시기 위해 아래의 [사용자확인 바로가기] 버튼을 누르시면 해당 사이트로 이동합니다. ​ 메일 내용 ...    보낸 사람은 TaxBill365<taxbill365@taxbill365.com> 로 되어 있고, 사용자확인 바로가기 버튼이 있음.. ​ 사이트도 좀 부실한것 같지만, 혹시나 해서 열어봤는데, 주민번호만 입력하면 되는 것 같아서 접속해보니, 실제 세금계산서가 맞음확인... ​ 현재는 해당 사이트가 정상적인 사이트이지만, 추후에는 또 팔려서 어뷰징에 쓰일수도 있으니 항상 확인이 필요할 듯.
자세한 내용 보기