HDFS - YARN NodeManager unhealthy 오류
Posted 12 21, 2015 18:45, Filed under: BigData/HDP_for_HDFS
Print 
PDF# YARN 오류
nodemanager returned an unexpected status of "False"
# 원인
디스크 사용량 증가로 Yarn 설정값(yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage)에 가까워지면,
YARN Health 체커가 경고를 보내고 NodeManager를 중지(unhealthy) 상태로 변경함.
이때, Ambari 대시보드의 'NodeManagers Live' 란에 7/10 과 같이 중지(unhealthy)된 노드를 제외하고 표시됨.
노드별 골고루 분산되지 않고, 특정 노드에 파일이 증가될때 Balancer 실행 필요.
yarn-site.xml 에서 해당 파라메터 제한값을 100으로 늘려주거나, 파일 정리및 로드밸런싱
yarn-site.xml 설정값 변경
<property>
<name>yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage</name>
<value>90</value>
</property>
<name>yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage</name>
<value>90</value>
</property>
Ambari의 yarn-site.xml 설정값 변경
# Hadoop Balancer 진행(데이터 분산 처리)
> Balancer 대역폭 설정
-setBalancerBandwidth : 대역폭 값 (104857600 = 100MB)
[root@localhost]# $HADOOP_HOME/bin/hdfs dfsadmin -setBalancerBandwidth 104857600
> Balancer 실행
-threshold : 각 노드별 사이즈 비율(10 = 10% 비율로 정리)
[root@localhost]# $HADOOP_HOME/bin/hdfs balancer -threshold 10
참고 내용
http://stackoverflow.com/questions/29010039/yarn-unhealthy-nodes
try adding the property yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage to yarn-site.xml. This property specifies the maximum percentage of disk space utilization allowed after which a disk is marked as bad. Values can range from 0.0 to 100.0.
※ 위 내용은, 여러 자료를 참고하거나 제가 주관적으로 정리한 것입니다.
잘못된 정보나 보완이 필요한 부분을, 댓글 또는 메일로 보내주시면 많은 도움이 되겠습니다.
잘못된 정보나 보완이 필요한 부분을, 댓글 또는 메일로 보내주시면 많은 도움이 되겠습니다.
"BigData / HDP_for_HDFS" 분류의 다른 글
| HDFS - Python Encoding 오류 처리 (0) | 2016/08/26 |
| HDFS - Yarn ResourceManager, Illegal capacity 오류 (0) | 2015/12/21 |
| HDFS - HDP, Ambari autoinstall 구성 모두 삭제 (0) | 2015/09/06 |
Response :
0 Trackback
,
0 Comment
Trackback URL : http://develop.sunshiny.co.kr/trackback/1049
