作家
登录

零基础搭建Hadoop大数据处理-环境

作者: 来源: 2017-05-11 12:31:41 阅读 我要评论

因为Hadoop须要运行在Linux情况中,并且是分布式的,是以小我进修只能装虚拟机,本文都以VMware Workstation为准,安装CentOS7,具体的安装此处不作过多介绍,只作须要用到的常识介绍。

VMware的安装,装好一个虚拟机后应用复制虚拟机的方法创建后面几个虚拟机,省时省力,须要留意的是须要修改每个虚拟机的IP与主机名。

须要留意的几个问题。nat如不雅上彀起首须要查看物理机(pc机)这个办事器已经启动。上彀的道理:流量是走的物理网卡,然则它的ip,倒是和物理机没有关系的。也就是说,无论你怎么改换收集情况,你的虚拟机都不须要做改变。这就是它的长处。

  1. rpm -qa|grep ssh  
 

起首在安装VMware 之后,我们会看到多了两个网卡

三个ip地址都添加到各自的/etc/hosts文件中

这个如不雅经由收集设备的┞粉磨,应当能找到着两个网卡:vmnet1和vmnet8,这里讲的是vmnet8。

重点看竽暌挂侧第三图你会看到ip地址,这个ip地址,因小我而异,也就是说不合收集,不合情况,这个ip变更的概率是很大年夜的。可能是192.168.0.1等等。这里也相当于我们编程的一个变量,这里是须要你根据你的情况来赋值的,建议vmnet1到vmnet8分别设置192.168.10.1到192.168.80.1,好作区分。

膳绫擎我们经由过程看到的虚拟机网卡的ip,为了避免混肴,膳绫擎的虚拟网卡和本地收集适配器处于同一界面。如下图:

而下面则是在打开虚拟机之后,经由过程菜单弹出

弹出之后,我们在看一下虚拟机的(交换机)vmnet8.

可以看到vmnet8子网ip和虚拟机网卡是出于同一个网段的。

同时在右侧net设置界面,我们可以看到网关为:192.168.106.2,改成192.168.80.2 虚拟机的设置会用到。

Linux基本常识

Linux的进修也是一个过程,因为可能你连最简单的开机和关机敕令都不会,更不要谈设备收集。这琅绫擎给大年夜家供给刚开端进修所查阅的材料和经验总结。

起首我们须要应用一些敕令,进行收集设备,然则在收集设备中,这琅绫枪V必须懂得虚拟机的一些常识,所以前面的虚拟机常识须要控制扎实一些。

在此留意CentOS7与CentOS6的敕令有些不合,涣一皓常用敕令是必备,每次开机或启动解压安装授权都是最根本的常识,其它的可以临时不消学。

CentOS中安装java情况

下载对应32或64位jdk,设置好JDK情况变量PATH,具体的设备可自行Google。

封闭SELinux

情况预备

修改机械名,每个体系中都要修改成如许。

打开终端,切换到root用户下修改机械名称。

添加每个办事器IP对应的机械名

每个体系中都要修改成如许

  1. #编辑hosts     
  2. vim /etc/hosts 

【编辑推荐】

  1. Hadoop没有灭亡,它是大年夜数据的将来
  2. 违章泊车的大年夜数据计算
  3. 零基本搭建Hadoop大年夜数据处理-初识
  4. 大年夜数据的成长,伴随的将是软件工程师的渐退,算法工程师的崛起
  5. 最全解析:大年夜数据和机械进修有什么差别
【义务编辑:枯木 TEL:(010)68476606】

  1. #编辑 SELinux 设备文件 
  2. vim /etc/selinux/config 
  3. #改状况 
  4. SELINUX=disabled 

SSH设置

进入H30,查看ssh是否安装,如不雅有,持续,没有安装下。

时光办事器安装

这里须要安装时光办事器,其他的办事器经由过程这个来进行多机械时光的同步,分布式安排机会械时光不一致会导致数据缺点或组件内通信缺点。

所有虚拟机采取NAT模式上彀,并且要包管与物理主机的IP互相能拜访。

安装httpd办事

httpd是Apache超文本传输协定(HTTP)办事器的主法度榜样。被设计为一个自力运行的后台过程,它会建立一个处理请求的子过程或线程的池。

安装yum-utils

yum install yum-utils 用于在线yum安装 它是基於RPM担保理,可以或许大年夜指定的办事器主动下载RPM包并且安装,可以主动处理依附性关系,并且一次安装所有依附的软体包,无须繁琐地一次次下载、安装。yum供给了查找、安装、删除某一个、一组甚至全部软件包的敕令,并且敕令简洁而又好记。(须要机械能拜访外网)


  推荐阅读

  Apache Kylin中对上亿字符串的精确Count_Distinct示例

事实表hive> desc test_t_pbs_uv_fact; OK ad_id string //维度 material_id string //维度 city_code string //维度 user_id >>>详细阅读


本文标题:零基础搭建Hadoop大数据处理-环境

地址:http://www.17bianji.com/lsqh/35155.html

关键词: 探索发现

乐购科技部分新闻及文章转载自互联网,供读者交流和学习,若有涉及作者版权等问题请及时与我们联系,以便更正、删除或按规定办理。感谢所有提供资讯的网站,欢迎各类媒体与乐购科技进行文章共享合作。

网友点评
自媒体专栏

评论

热度

精彩导读
栏目ID=71的表不存在(操作类型=0)