hbase/hadoop異常:No lease on /hbase/archive/data/... File is not open for writing

./hbase org.apache.hadoop.hbase.snapshot.ExportSnapshot -snapshot "MODEL.THIRD_PARTY_KV-11211752-snapshot" -copy-from hdfs://fromIP:9000/hbase -copy-to hdfs://toIP:9000/hbase -mappers 40 -bandwidth 300
錯誤日誌;

org.apache.hadoop.hdfs.server.namenode.LeaseExpiredException:No lease on /hbase/archive/data/... File is not open for writing
 

原因及解決方法
調整HDFS中配置參數dfs.datanode.max.transfer.threads,默認爲4096過小。
最大傳輸線程數:參數是一起配置的爲: dfs.datanode.max.transfer.threads對於datanode來說,就如同linux上的文件句柄的限制,當datanode 上面的連接數操作配置中的設置時,datanode就會拒絕連接。 一般都會將此參數調的很大,40000+左右。確保Linux配置正確

減小mapper的數量,以減少hadoop打開文件數

./hbase org.apache.hadoop.hbase.snapshot.ExportSnapshot -snapshot "MODEL.THIRD_PARTY_KV-11211752-snapshot" -copy-from hdfs://fromIP:9000/hbase -copy-to hdfs://toIP:9000/hbase -mappers 15 -bandwidth 300

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章