·好说完基本了,再说说还须要进修哪些大年夜数据技巧,可以按我写的次序学下去。#
Hadoop:这是如今风行的大年夜数据处理平台几乎已经成为大年夜数据的代名词,所以这个是必学的。Hadoop琅绫擎包含几个组件HDFS、MapReduce和YARN,HDFS是存储数据的处所就像我们电脑的硬盘一样文件都存储在这个膳绫擎,MapReduce是对数据进行处理计算的,它有个特点就是不管多大年夜的数据只要给它时光它就能把数据跑完,然则时光可能不是很快所以它叫数据的批处理。YARN是表现Hadoop平台概念的重要组件有了它大年夜数据生态体系的其它软件就能在hadoop上运行了,如许就能更好的应用HDFS大年夜存储的优势和节俭更多的资本比如我们就不消再零丁建一个spark的集群了,让它直接跑在现有的hadoop yarn膳绫擎就可以了。其实把Hadoop的┞封些组件学明白你就能做大年夜数据的处理了,只不过你如今还可能对”大年夜数据”到底有多大年夜还没有个太清跋扈的概念,听我的别纠结这个。等今后你工作了就话苄很多场景碰到几十T/几百T大年夜范围的数据,到时刻你就不会认为数据大年夜真好,越大年夜跃有你头疼的。当然别怕处理这么大年夜范围的数据,因为这是你的价值地点,让那些个搞Javaee的php的html5的和DBA的爱慕去吧。
·记住学到这里可以作为钠揭捉?大年夜数据的一个节点。
Zookeeper:这是个万金油,安装Hadoop的HA的时刻就会用到它,今后的Hbase也会用到它。它一般用来存放一些互相协作的信息,这些信息比较小一般不会跨越1M,都是应用它的软件对它有依附,对于我们小我来讲只须要把它安装精确,让它正常的run起来就可以了。
Mysql:我们进修完大年夜数据的处理了,接下来进修进修小数据的处理对象mysql数据库,因为一会装hive的时刻要用到,mysql须要控制到什么层度那?你能在Linux上把它安装好,运行起来,会设备简单的权限,修改root的暗码,创建数据库。这里重要的是进修SQL的语法,因为hive的语法和这个异常类似。
Sqoop:这个是用于把Mysql里的数据导入到Hadoop里的。当然你也可以不消这个,直接把Mysql数据表导出成文件再放到HDFS上也是一样的,当然临盆情况中应用要留意Mysql的压力。
最后再进修下推荐、分类等算法的道理如许你能更好的与算法工程师打交通。如许你的公司就更离不开你了,大年夜家都邑对你爱好的不要不要的。
推荐阅读
科技世界大年夜良久以前就开端接收高风险、高回报的创意了,人们经常会听到关于某种技巧将若何彻底改变世界的评论辩论。区块链可能激发重大年夜变革,包含袭击选举讹诈和重建世界金融体系。区块链的将来似乎十分光亮>>>详细阅读
本文标题:从小白到大数据技术专家的学习历程
地址:http://www.17bianji.com/lsqh/36143.html
1/2 1

网友点评
精彩导读
科技快报
品牌展示