zoukankan      html  css  js  c++  java
  • windows下eclipse 做hadoop开发

    1、先安装好hadoop 集群 参考文档http://www.cnblogs.com/bornteam/p/6517960.html

    2、首先安装好集群,再把去下载hadoop-eclipse-plugin-2.6.0.jar
    放在eclipse安装文件夹的插件中   下载链接https://github.com/winghc/hadoop2x-eclipse-plugin/blob/master/release/hadoop-eclipse-plugin-2.6.0.jar
     
    3、重启eclipse,出现如图:多出现了Hadoop Map/Reduce

    4、填写本地hadoop解压的路径,这个hadoop版本是linux的,只需要解压就可以了

    下载http://pan.baidu.com/s/1qWG7XxU下载Hadoop2.6.0-eclipse插件.zip,然后解压后,把Hadoop2.6.0-eclipse插件.zipeclipse插件2.4以后的目录中的winutils.exe复制Hadoop2/bin目录下。
     
      由于  C:WindowsSystem32下缺少hadoop.dll,把这个文件拷贝到C:WindowsSystem32下面即可。
     解决:
       将压缩包中的hadoop.dll放到C:WindowsSystem32下,要与hadoop对应的版本
     
    如图所示:
    5、配置Map/ReduceLocations
       1)点击Window-->Show View -->MapReduce Tools  点击Map/ReduceLocation,右键新建NEW Hadoop Location
       2)点击Map/ReduceLocation选项卡,点击右边小象图标,打开Hadoop Location配置窗口: 输入Location Name,任意名称即可.配置Map/Reduce Master和DFS Mastrer,Host和Port配置成hdfs-site.xml与core-site.xml中的 fs.defaultFS的设置一致即可

    6、新建系统用户hadoop 密码和分布式集群一样,切换hadoop用户做操作

    配置环境变量

    配置好环境,重启Eclipse

     验证是否成功:

    新建MapReduce项目,选择DFSLocation->master 上传一个文件到NDFS上,如果成功,说明配置可以

    接下来做项目实战开发。

  • 相关阅读:
    移动网络介绍
    统一导航路由方案
    负载均衡汇总
    Openfire部署和配置说明
    CDN技术介绍
    流媒体
    WebSocket和HTTP的区别与联系
    zabbix 邮件报警
    Linux系统故障-Repair filesystem
    redhat 6.8 配置yum源
  • 原文地址:https://www.cnblogs.com/bornteam/p/6518480.html
Copyright © 2011-2022 走看看