1 / 20
文档名称:

Hadoop云计算平台搭建方案2.1.doc

格式:doc   大小:995KB   页数:20页
下载后只包含 1 个 DOC 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

Hadoop云计算平台搭建方案2.1.doc

上传人:wcs1911 2021/9/12 文件大小:995 KB

下载得到文件列表

Hadoop云计算平台搭建方案2.1.doc

相关文档

文档介绍

文档介绍:Hadoop 云计算平台搭建方案
一、平台搭建概述
总体思路
针对于电网企业在营销服务领域展开的大数据分析处理, 搭建 Hadoop 云计算平台进行海量
数据存储, 并作深层次加工、处理, 挖掘出无法简单直观便可得到的新的模式,为电力企业
的决策提供指导。 平台采用 Hadoop- 作为海量数据存储和分析工具, 将其部署在 4 个物
理计算机节点上,搭建 Hadoop 集群,其中 1 个节点作为 master 节点,其余 3 个作为 slave
节点。为了获取更好的稳定性, 平台搭建在 Linux 系统( ubuntu--desktop-i386 )环境下。
软件列表
软件
描述
VMware Workstation
虚拟化软件
Ubuntu
Linux 操作系统
JDK
Java 的软件开发工具包
Hadoop
开源的云计算基础框架
HBase
分布式数据存储系统
Zookeeper
Hadoop 可靠协调系统
Sqoop
数据迁移工具
平台搭建总流程和节点信息一览表

版本
VMware Workstation ubuntu--desktop-i386
Hadoop-
Hbase-
Zookeeper-
Sqoop-
在平台搭建前, 给出实现的总流程图和节点信息一览表, 从而对平台搭建过程和各节点信息有一个全局的认识,平台搭建总流程如下图所示。
创建虚拟机 master,完成 JDK 、
Hadoop 等应用的安装和配置
对虚拟机 master 进行克隆,得到的虚
拟机分别作为 slave1、slave2 和 slave3
完成 Zookeeper、 HBase 等其它分布
式服务的部署,搭建 Hadoop 集群
运行并测试 Hadoop 集群系统
精选文库
各节点信息如下表所示:
机器名
IP 地址
用户名
充当角色
master

hadoop
JobTracker、Namenode
slave1

hadoop
TaskTracker、 Datanode
slave2

hadoop
TaskTracker、 Datanode
slave3

hadoop
TaskTracker、 Datanode
二、基础平台的搭建步骤
此次大数据存储和处理平台的搭建,需要 4 台物理节点来部署 Hadoop 平台环境。我们使用
虚拟机软件 VMware Workstation 创建 4 台虚拟机,承载平台搭建工作。另外,由于对 4 台
虚拟机的配置大部分是相同的,所以利用 VMware Workstation 的克隆功能,可以减少部署
的工作量。
安装虚拟机软件 VMware Workstation
首先在 4 台 PC 机器上均安装虚拟化软件 VMware Workstation ,并输入相应的序列号。
在 master 节点上安装 Linux 系统 Ubuntu
在设定为 master PC 节点上首先安装 Linux 系统(版本为 ubuntu--desktop-i386 ),在安
装过程中为提高后期安装软件的兼容性和稳定性,在系统语言上选择英语。创建用户名为
“hadoop”的普通用户,设置统一的密码。安装完成后将系统的
terminal 命令窗口调出来,
以便使用。
同时,为实现虚拟机的 Ubuntu 系统与本机的 Windows 系统之间方便快捷的文字复制粘贴以
及物理主机系统与虚拟机系统相互拖放文件进行共享,需要安装
VMare Tools 工具, 具体操
作如下:
启动虚拟机, 进入 Ubuntu 系统, 在 VM 菜单栏 “虚拟机 (M) ”的下拉菜单点击 “安装 VMare
Tools(T) ”后,会弹出一个“ VMare Tools ”文件夹,里面包含 VMare Tools 的安装包
VMwareTools-- ,将该