微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

怎么在windows下开发mapreduce

这篇文章主要介绍“怎么在windows下开发mapreduce”,在日常操作中,相信很多人在怎么在windows下开发mapreduce问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”怎么在windows下开发mapreduce”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

    1、首先在map/reduce locations 中右键new一个hadoop location,如下图是创建好了的,如果是第一次,不会有myhadoop。

怎么在windows下开发mapreduce

    2、配置

    

怎么在windows下开发mapreduce


    这里面的location name 是随便起的名字,host 是hadoop配置文件core-site.xml中的fs.defaultFS的url的主机ip,右边的port,是fs.defaultFS的url的端口号,user name 是linux系统使用hadoop的用户名

    3、如果成功,则可以展开左边的目录,能够看到hdfs上的文件,如果看不到目录,第一时间看看你的hadoop集群启动了么,别犯这种低级的错误
    

怎么在windows下开发mapreduce


 

    4、试一试能不能删除里面文件,如果不能,可能会涉及到权限的问题,修改集群配置文件hdfs-site.xml

<property>
 <name>dfs.permissions</name>
 <value>false</value>
</property>

    5、新建一个mapreduce工程,会自动把需要的jar包都引进来,然后写个wordcount小程序吧,这里就不写了,右键这个类,选择run as configration 
    

怎么在windows下开发mapreduce


    配置好mainclass 点选项卡Arguments 
    

怎么在windows下开发mapreduce


 

    填写好运行的参数,第一个为输入目录,第二个为输出目录,配置好后run as hadoop 就可以在左侧目录树下看到ouput文件

到此,关于“怎么在windows下开发mapreduce”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注编程之家网站,小编会继续努力为大家带来更多实用的文章

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐