1 / 39
文档名称:

hadoop云计算平台搭建方案2.doc

格式:doc   大小:699KB   页数:39页
下载后只包含 1 个 DOC 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

hadoop云计算平台搭建方案2.doc

上传人:小屁孩 2020/7/22 文件大小:699 KB

下载得到文件列表

hadoop云计算平台搭建方案2.doc

文档介绍

文档介绍:Hadoop云计算平台搭建方案一、,搭建Hadoop云计算平台进行海量数据存储,并作深层次加工、处理,挖掘出无法简单直观便可得到的新的模式,为电力企业的决策提供指导。平台采用Hadoop-,将其部署在4个物理计算机节点上,搭建Hadoop集群,其中1个节点作为master节点,其余3个作为slave节点。为了获取更好的稳定性,平台搭建在Linux系统(ubuntu--desktop-i386)环境下。--desktop-----,给出实现的总流程图和节点信息一览表,从而对平台搭建过程和各节点信息有一个全局的认识,平台搭建总流程如下图所示。创建虚拟机master,完成JDK、Hadoop等应用的安装和配置对虚拟机master进行克隆,得到的虚拟机分别作为slave1、slave2和slave3完成Zookeeper、HBase等其它分布式服务的部署,搭建Hadoop集群运行并测试Hadoop集群系统各节点信息如下表所示:、、、、Datanode二、基础平台的搭建步骤此次大数据存储和处理平台的搭建,需要4台物理节点来部署Hadoop平台环境。我们使用虚拟机软件VMwareWorkstation创建4台虚拟机,承载平台搭建工作。另外,由于对4台虚拟机的配置大部分是相同的,所以利用VMwareWorkstation的克隆功能,可以减少部署的工作量。,并输入相应的序列号。(版本为ubuntu--desktop-i386),在安装过程中为提高后期安装软件的兼容性和稳定性,在系统语言上选择英语。创建用户名为“hadoop”的普通用户,设置统一的密码。安装完成后将系统的terminal命令窗口调出来,以便使用。同时,为实现虚拟机的Ubuntu系统与本机的Windows系统之间方便快捷的文字复制粘贴以及物理主机系统与虚拟机系统相互拖放文件进行共享,需要安装VMareTools工具,具体操作如下:启动虚拟机,进入Ubuntu系统,在VM菜单栏“虚拟机(M)”的下拉菜单点击“安装VMareTools(T)”后,会弹出一个“VMareTools”文件夹,里面包含VMareTools的安装包VMwareTools--,将该安装包拷贝到/home/hadoop目录下,输入命令进行解压安装:tarxzvfVMwareTools---tools-distrib文件夹,进入该目录,通过在terminal终端输入相应命令,运行vmware-:cd/home/hadoop/vmware-tools-distrib//进入目录sudo./vmware-//执行vmware-“回车”直至显示安装成功的信息,再重启系统即可。在完成上述操作后,为保障Hadoop集群各节点之间的无障碍通信,需关闭系统防火墙。在重启系统后,在terminal终端输入命令:sudoufwdisable当显示“Firewallstoppedanddisableonsystemstartup”时表示防火墙已关闭,若后续服务部署过程中机器重启无法实现节点之间的相互通信,可尝试检查防火墙是否