作家
登录

Hadoop伪分布式搭建操作步骤指南

作者: 来源: 2017-10-26 06:19:42 阅读 我要评论


Hadoop伪分布式搭建操作步调指南

一、预备工作

  • 在 /opt/目次下创建文件夹modules,和softwares
    • 修改操作权限(切换至root用户下)
  1. chown -R wxt:wxt /opt/ 
  • 然后切换至通俗用户
  1. mkdir softwares 
  2.  
  3. mkdir modules  
  • 安装lrzsz (在linux里可代替ftp上传和下载。)
  1. yum -y install lrzsz 
  • 上传文件,履行敕令rz,会彪炳文件选择窗口,选择好文件,点击确认即可。
  1. rz 
  • 下载文件,履行敕令sz

二、Hadoop情况安排-JDK部分

1.

  • 上传jdk 至softwares

2.

  • 解压jdk 至modules

    6.

    • 留意:
      • /tmp表示临时存储目次,体系每次重启会按照脚本预先设置好的删 除 琅绫擎的文件从新自定尸体系生成的文件路径,/tmp会被清空,无法包管数据文件安然性。

    • tar -zxvf jdk-7u67-linux-x64.tar.gz -C /opt/modules/

3.

  • 修改情况变量
    1. sz 

    • 切换至 root 用户修改 vi /etc/profile 文件,设备jdk情况变量
  1. #JAVA_HOME 
  2. export JAVA_HOME=/opt/modules/jdk1.7.0_67 
  3. export PATH=$PATH:$JAVA_HOME/bin  

起首安装lrzsz

4.

  •  source /etc/profile 使文件生效
  • 验证是否设备成功
    • java -version
  1. java version "1.7.0_09-icedtea" 
  2. OpenJDK Runtime Environment (rhel-2.3.4.1.el6_3-x86_64) 
  3. OpenJDK 64-Bit Server VM (build 23.2-b09, mixed mode)  
  • jps敕令可以查看java 过程
  • echo $JAVA_HOME

三、Hadoop伪分布式情况安排-Hadoop部分

1.

  • 上传文件hadoop-2.5.0.tar.gz,至softwares
  • 解压文件至modules
    • tar -zxvf hadoop-2.5.0.tar.gz -C /opt/modules/

2.

  • 清理Hadoop的目次,将hadoop/share/doc目次删除,节俭磁盘空间, 经由过程这个敕令查看df -h

3.

  • 修改hadoop/etc/hadoop/hadoop-env.sh文件
  • 修改hadoop/etc/hadoop/mapred-env.sh文件
  • 修改hadoop/etc/hadoop/yarn-env.sh文件
  • 指定Java安装路径
    • export JAVA_HOME=/opt/modules/jdk1.7.0_67

4.

  • 留意:
    • Hadoop中的四个核心模块对应四个默认设备文件
    • HDFS,Hadoop默惹9依υ?件体系,是文件体系的拜访人口
    • Namenode,地点的机械9000端口是早期Hadoop 1.x应用的,如今 Hadoop 2.x应用的是8020端标语用于节点直接内部通信,应用RPC通信机制

5.

  • 修改hadoop/etc/hadoop/core-site.xml文件
  1. <property> 
  2.     <name>fs.defaultFS</name
  3.     <!--bigdata-4 为我的localhost 名字--> 
  4.     <value>hdfs://bigdata-4:8020</value> 
  5. </property> 
  6. <property> 
  7.     <name>hadoop.tmp.dir</name
  8.     <value>/opt/modules/hadoop-2.5.0/data/tmp</value> 
  9. </property>  

7.

关键词: 探索发现

乐购科技部分新闻及文章转载自互联网,供读者交流和学习,若有涉及作者版权等问题请及时与我们联系,以便更正、删除或按规定办理。感谢所有提供资讯的网站,欢迎各类媒体与乐购科技进行文章共享合作。

网友点评
自媒体专栏

评论

热度

精彩导读
栏目ID=71的表不存在(操作类型=0)