这篇文章主要为大家展示了“hadoop如何解决discp不同版本间拷贝数据的问题”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“hadoop如何解决discp不同版本间拷贝数据的问题”这篇文章吧。
hadoop discp 的时候遇到的checksum mismatch问题
网上普遍解决方法
在hdfs-site.xml
将dfs.checksum.type属性设置为CRC32
使用过程中仍然有报上述错误
经检验 参照 http://blog.sina.com.cn/s/blog_7ed002b30101kk08.html
使用 -update -skipcrccheck 选项即可。
hadoop distcp -update -skipcrccheck hftp://host:50070/文件 /路径
以上是“hadoop如何解决discp不同版本间拷贝数据的问题”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注编程之家行业资讯频道!
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。