我在HDP-3.1.0.0环境中工作,我使用的HDFS版本是3.1.1.3.1,群集由2个Namenode和4个Datanode组成。
该集群自2020年1月启动并开始运行,未进行任何更改。但是突然之间,在7月底,Datanodes开始达到最大堆大小(1G),并变成了失效的datanodes。
我试图将最大堆大小增加到2G,现在群集可以了,但是我想了解这种现象的根本原因,因为我不想在下一次再次增加堆大小几个月。我需要了解为什么Datanodes达到最大数量。
我该怎么办?
是否可以由Hive托管表中的行数增加引起?