HDFS - YARN NodeManager unhealthy 오류

Posted 12 21, 2015 18:45, Filed under: BigData/HDP_for_HDFS



# YARN 오류
nodemanager returned an unexpected status of "False"

# 원인
디스크 사용량 증가로 Yarn 설정값(yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage)에 가까워지면,
YARN Health 체커가 경고를 보내고 NodeManager를 중지(unhealthy) 상태로 변경함.
이때, Ambari 대시보드의 'NodeManagers Live' 란에 7/10 과 같이 중지(unhealthy)된 노드를 제외하고 표시됨.
노드별 골고루 분산되지 않고, 특정 노드에 파일이 증가될때 Balancer 실행 필요.



yarn-site.xml 에서 해당 파라메터 제한값을 100으로 늘려주거나, 파일 정리및 로드밸런싱

yarn-site.xml 설정값 변경
<property>
  <name>yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage</name>
  <value>90</value>
</property>

Ambari의 yarn-site.xml 설정값 변경
사용자 삽입 이미지


사용자 삽입 이미지







# Hadoop Balancer 진행(데이터 분산 처리)

> Balancer 대역폭 설정
-setBalancerBandwidth : 대역폭 값 (104857600 = 100MB)
[root@localhost]# $HADOOP_HOME/bin/hdfs dfsadmin -setBalancerBandwidth 104857600

> Balancer 실행
-threshold : 각 노드별 사이즈 비율(10 = 10% 비율로 정리)
[root@localhost]#  $HADOOP_HOME/bin/hdfs balancer  -threshold 10



참고 내용
http://stackoverflow.com/questions/29010039/yarn-unhealthy-nodes

try adding the property yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage to yarn-site.xml. This property specifies the maximum percentage of disk space utilization allowed after which a disk is marked as bad. Values can range from 0.0 to 100.0.

※ 위 내용은, 여러 자료를 참고하거나 제가 주관적으로 정리한 것입니다.
   잘못된 정보나 보완이 필요한 부분을, 댓글 또는 메일로 보내주시면 많은 도움이 되겠습니다.
12 21, 2015 18:45 12 21, 2015 18:45


Trackback URL : http://develop.sunshiny.co.kr/trackback/1049

Leave a comment

« Previous : 1 : ... 6 : 7 : 8 : 9 : 10 : 11 : 12 : 13 : 14 : ... 648 : Next »

Recent Posts

  1. HDFS - Python Encoding 오류 처리
  2. HP - Vertica ROS Container 관련 오류...
  3. HDFS - Hive 실행시 System Time 오류
  4. HP - Vertica 사용자 쿼리 이력 테이블...
  5. Client에서 HDFS 환경의 데이터 처리시...

Recent Comments

  1. 안녕하세요^^ 배그핵
  2. 안녕하세요^^ 도움이 되셨다니, 저... sunshiny
  3. 정말 큰 도움이 되었습니다.. 감사합... 사랑은
  4. 네, 안녕하세요. 댓글 남겨 주셔서... sunshiny
  5. 감사합니다 많은 도움 되었습니다!ㅎㅎ 프리시퀸스

Recent Trackbacks

  1. Mysql - mysql 설치후 Character set... 멀고 가까움이 다르기 때문 %M

Calendar

«   12 2019   »
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28
29 30 31        

Bookmarks

  1. 위키피디아
  2. MysqlKorea
  3. 오라클 클럽
  4. API - Java
  5. Apache Hadoop API
  6. Apache Software Foundation
  7. HDFS 생태계 솔루션
  8. DNSBL - Spam Database Lookup
  9. Ready System
  10. Solaris Freeware
  11. Linux-Site
  12. 윈디하나의 솔라나라

Site Stats

TOTAL 2777702 HIT
TODAY 427 HIT
YESTERDAY 468 HIT