1 / 53
文档名称:

大数据技术实践试验报告.docx

格式:docx   大小:1,300KB   页数:53页
下载后只包含 1 个 DOCX 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

大数据技术实践试验报告.docx

上传人:565369829 2022/7/22 文件大小:1.27 MB

下载得到文件列表

大数据技术实践试验报告.docx

文档介绍

文档介绍:实验报告
课程名称: 大数据技术实践
实验项目:大数据平台
实验仪器: PC 机
学 院: 计算机学院
专 业:计算机科学与技术
班级姓名:;
学 号: *
日 期: 2019-5-9
指导教师: *
成 Namenode Datanode、 secondarynamenode,贝^ 需要先切换到HADOOP_HOME sbin目录,启动hadoop。
view plain copy
cd /apps/hadoop/sbin
./start-
,可以看到 HDFS目录结构。
■ L
Ej %J Java q Map/Reduce R
住 Project Explor S3)™nJ
g % I - d]
▼ W DFS Locations
p 痴 myhadoop
,没有存放任何目录。那下面来创建一个目录,检测插件是 否可用。
▼二 DFS Locations
"fl* myhadoop

“ Download tram DFS…
Upload files to DFS...
Upload directory to
* Refresh
X Delete
右键myhadoop下的文件夹,在弹出的菜单中,点击 Create new directory 。
Create subfolder
Enter the name of the 5ubfQlde「
plugirtest|
Cantel
0<
输入目录名称,点击OK则创建目录成功。
■ DFS Locations
由 myhadoop
Download from DFS…
冷 plugin
Disconnect
右键文件夹,点击Refresh ,可用刷新HDFSB录。
到此Hadoop开发插件已经安装完毕!
9 OiMh
■T
Z 2 n nn rrji ・“1•
MapReduce代码实现
实验步骤:
.切换 目录至U/apps/hadoop/sbin 下,启动 hadoop。
| view plain copy
cd /apps/hadoop/sbin
./start-
.在 linux 上,创建一个目录 /data/mapreduce1 。
| view plain copy
mkdir -p /data/mapreduce1
.切换至1J/data/mapreduce1目录下,使用 wget命令从网址
http:〃:60000/allfiles/mapreduce1/buyer_favohte1 ,下载文本
文件 buyer_favorite1 。
| view plain copy
cd /data/mapreduce1
wget :60000/allfiles/mapreduce1/buyer_favor
ite1
依然在/data/mapreduce1目录下,使用 wget命令,从
http:〃:60000/allfiles/mapreduce1/ ,下载项
目用到的依赖包。
| view plain copy
1. wget :60000/allfiles/mapreduce1/hadoop2lib.

解压到当前目录下。
| view plain copy
tar -xzvf
.将 linux 本地/data/mapreduce1/buyer_favohte1 ,上传至U HDFSlt的
/mymapreduce1/in目录下。若HDFSB录不存在,需提前创建。
| view plain copy
hadoop fs -mkdir -p /mymapreduce1/in
hadoop fs -put /data/mapreduce1/buyer_favorite1 /mymapreduce
1/ in
.打开 Eclipse , 新建 Java Project 项目。
并将项目名设置为 mapreduce1
mapreducel下,新建 package 包。
并将包命名为mapreduce 。
mapreduce下,新建类
并将类命名为WordCount