HDFS - YARN NodeManager unhealthy 오류

Posted 12 21, 2015 18:45, Filed under: BigData/HDP_for_HDFS



# YARN 오류
nodemanager returned an unexpected status of "False"

# 원인
디스크 사용량 증가로 Yarn 설정값(yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage)에 가까워지면,
YARN Health 체커가 경고를 보내고 NodeManager를 중지(unhealthy) 상태로 변경함.
이때, Ambari 대시보드의 'NodeManagers Live' 란에 7/10 과 같이 중지(unhealthy)된 노드를 제외하고 표시됨.
노드별 골고루 분산되지 않고, 특정 노드에 파일이 증가될때 Balancer 실행 필요.



yarn-site.xml 에서 해당 파라메터 제한값을 100으로 늘려주거나, 파일 정리및 로드밸런싱

yarn-site.xml 설정값 변경
<property>
  <name>yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage</name>
  <value>90</value>
</property>

Ambari의 yarn-site.xml 설정값 변경
사용자 삽입 이미지


사용자 삽입 이미지







# Hadoop Balancer 진행(데이터 분산 처리)

> Balancer 대역폭 설정
-setBalancerBandwidth : 대역폭 값 (104857600 = 100MB)
[root@localhost]# $HADOOP_HOME/bin/hdfs dfsadmin -setBalancerBandwidth 104857600

> Balancer 실행
-threshold : 각 노드별 사이즈 비율(10 = 10% 비율로 정리)
[root@localhost]#  $HADOOP_HOME/bin/hdfs balancer  -threshold 10



참고 내용
http://stackoverflow.com/questions/29010039/yarn-unhealthy-nodes

try adding the property yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage to yarn-site.xml. This property specifies the maximum percentage of disk space utilization allowed after which a disk is marked as bad. Values can range from 0.0 to 100.0.

※ 위 내용은, 여러 자료를 참고하거나 제가 주관적으로 정리한 것입니다.
   잘못된 정보나 보완이 필요한 부분을, 댓글 또는 메일로 보내주시면 많은 도움이 되겠습니다.
12 21, 2015 18:45 12 21, 2015 18:45


Trackback URL : http://develop.sunshiny.co.kr/trackback/1049

Leave a comment

« Previous : 1 : ... 6 : 7 : 8 : 9 : 10 : 11 : 12 : 13 : 14 : ... 648 : Next »

Recent Posts

  1. HDFS - Python Encoding 오류 처리
  2. HP - Vertica ROS Container 관련 오류...
  3. HDFS - Hive 실행시 System Time 오류
  4. HP - Vertica 사용자 쿼리 이력 테이블...
  5. Client에서 HDFS 환경의 데이터 처리시...

Recent Comments

  1. Hi, I do think this is a great blo... 룸싸롱 01시 43분
  2. Thanks in favor of sharing such a... 리니지 프리서버 01 20,
  3. 안녕하세요^^ 배그핵
  4. 안녕하세요^^ 도움이 되셨다니, 저... sunshiny
  5. 정말 큰 도움이 되었습니다.. 감사합... 사랑은

Recent Trackbacks

  1. invoice printing and mailing invoice printing and mailing 20 01
  2. cabo san lucas packages cabo san lucas packages 20 01
  3. london relocation services fees london relocation services fees 20 01
  4. printing and mailing companies printing and mailing companies 20 01
  5. Web Site Web Site 19 01

Calendar

«   01 2020   »
      1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31  

Bookmarks

  1. 위키피디아
  2. MysqlKorea
  3. 오라클 클럽
  4. API - Java
  5. Apache Hadoop API
  6. Apache Software Foundation
  7. HDFS 생태계 솔루션
  8. DNSBL - Spam Database Lookup
  9. Ready System
  10. Solaris Freeware
  11. Linux-Site
  12. 윈디하나의 솔라나라

Site Stats

TOTAL 2819303 HIT
TODAY 94 HIT
YESTERDAY 1318 HIT