作家
登录

编译Hadoop2.9源码并搭建环境

作者: 来源: 2017-12-22 11:33:01 阅读 我要评论

  • export YARN_CONF_DIR=$HADOOP_HOME/etc/hadoop 
  • export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native 
  • export HADOOP_OPTS="$HADOOP_OPTS -Djava.net.preferIPv4Stack=true -Djava.security.krb5.realm= -Djava.security.krb5.kdc= -Djava.library.path=$HADOOP_HOME/lib" export LD_LIBRARY_PATH=$HADOOP_HOME/lib/native/ 
  • export JAVA_LIBRARY_PATH=$HADOOP_HOME/lib/native:$JAVA_LIBRARY_PATH 
  • export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH 
  • export CLASSPATH=.$HADOOP_CONF_DIR:$CLASSPATH 
    1. hdfs namenode -format 
    \

    9.1 core-site.xml

    \

    9.2 hdfs-site.xml

    \

    9.4 yarn-site.xml

    \

    3. 安装protobuf

    1. vi /etc/profile 

    设备完成之后格局化namenode

    碰到的一个问题

    1. WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 

    解决办法

    添加情况变量

    1. export HADOOP_OPTS="$HADOOP_OPTS -Djava.net.preferIPv4Stack=true -Djava.security.krb5.realm= -Djava.security.krb5.kdc= -Djava.library.path=$HADOOP_HOME/lib" export LD_LIBRARY_PATH=$HADOOP_HOME/lib/native/export JAVA_LIBRARY_PATH=$HADOOP_HOME/lib/native:$JAVA_LIBRARY_PATH 

    10.启动验证

    启动hdfs

    sbin/start-dfs.sh

    启动完之后查看过程

    jps

    \

    9.3 mapred-site.xml

    \

    用浏览器可以看到运行状况

    http://localhost:50070/

    启动yarn

    sbin/start-yarn.sh

    查看过程

    \

    在浏览器查看yarn的运行状况

    搭建分布式情况和伪分布式情况类似,只不过是将各个功能分派到不合的节点之上,大年夜部分的设备一样,具体可以参考官方文档。

    【编辑推荐】

    1. 你须要懂得关于Hadoop与大年夜数据的12个事实
    2. Hadoop面试,有它就够了
    3. 大年夜数据架构师必看:常见的七种Hadoop和Spark项目案例
    4. 教你玩转Hadoop分布式集群搭建,进击大年夜数据
    5. Apache Hadoop 3.0.0 GA版正式宣布,可以安排到线上
    【义务编辑:未丽燕 TEL:(010)68476606】

      推荐阅读

      邮件服务器-PTR反向域名解析

    【限时免费】岁尾最强一次云计算大年夜会,看传统、社区、互联网企业若何碰撞?2、必定要有固定公网IP地址以及真实可用域名。同时要留意反向解析的域名的A记录必定要指向该IP! >>>详细阅读


    本文标题:编译Hadoop2.9源码并搭建环境

    地址:http://www.17bianji.com/lsqh/40092.html

    关键词: 探索发现

    乐购科技部分新闻及文章转载自互联网,供读者交流和学习,若有涉及作者版权等问题请及时与我们联系,以便更正、删除或按规定办理。感谢所有提供资讯的网站,欢迎各类媒体与乐购科技进行文章共享合作。

    网友点评
    自媒体专栏

    评论

    热度

    精彩导读
    栏目ID=71的表不存在(操作类型=0)