1 / 130
文档名称:

大数据面试题.doc

格式:doc   大小:297KB   页数:130页
下载后只包含 1 个 DOC 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

大数据面试题.doc

上传人:fyyouxi23 2022/1/10 文件大小:297 KB

下载得到文件列表

大数据面试题.doc

文档介绍

文档介绍:. .
优选
Hive部表与外部表的区别.
先来说下Hive中部表与外部表的区别:Hive 创立部表时,会将数据移动到数据仓库指向的路径;假设创立外部表,仅记录数据所在的路径,不对数据的位置做任何改变。在删除表的时候,部表的元数据和数据会被一起删除,而外部表只删除元数据,不删除数据。这样外部表相对来说更加平安些,数据组织也更加灵活,方便共享源数据。需要注意的是传统数据库对表数据验证是 schema on write〔写时模式〕,而 Hive 在load时是不检查数据是否符合schema的,hive 遵循的是 schema on read〔读时模式〕,只有在读的时候hive才检查、解析具体的数据字段、schema。读时模式的优势是load data 非常迅速,因为它不需要读取数据进展解析,仅仅进展文件的复制或者移动。写时模式的优势是提升了查询性能,因为预先解析之后可以对列建立索引,并压缩,但这样也会花费要多的加载时间。下面来看下 Hive 如何创立部表:
1
create table test(userid string);
2
LOAD DATA INPATH '/tmp/result/20211213' INTO TABLE test partition(ptDate='20211213');
这个很简单,不多说了,下面看下外部表:
01
hadoop fs -ls /tmp/result/20211214
02
Found 2 items
03
-rw-r--r--   3 june supergroup       1240 2021-12-26 17:15 /tmp/result/20211214/part-00000
. .
优选
04
-rw-r--r--   1 june supergroup       1240 2021-12-26 17:58 /tmp/result/20211214/part-00001
05
-- 建表
06
create EXTERNAL table IF NOT EXISTS test (userid string) partitioned by (ptDate string) ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t';
07
-- 建立分区表,利用分区表的特性加载多个目录下的文件,并且分区字段可以作为where条件,更为重要的是
08
-- 这种加载数据的方式是不会移动数据文件的,这点和 load data 不同,后者会移动数据文件至数据仓库目录。
09
alter table test add partition (ptDate='20211214') location '/tmp/result/20211214';
. .
优选
-- 注意目录20211214最后不要画蛇添足加 /*,我就是linux shell用多了,加了这玩意,调试了一下午。。。
注意:location后面跟的是目录,不是文件,hive会把整个目录下的文件都加载到表中:
1
create EXTERNAL table IF NOT EXISTS userInfo (id int,sex string, age int, name string, email string,sd string, ed string)  ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' location '/hive/dw';
否那么,会报错误:
FAILED: Error in metadata: MetaException(message:Got exception: : Parent path is not a directory: /hive/dw/record_2021-04-
最后提下还有一种方式是建表的时候就指定外部表的数据源路径,
但这样的害处是只能加载一个数据源了:
CREATE EXTERNAL TABLE sunwg_test09(id INT, name string)ROW FORMAT DELIMITEDFIELDS TERMINATED BY ‘\t’LOCATION ‘/sunwg/test08′;上面的语句创立了一名字为sunwg_test0

最近更新

2025年度建筑个人安全责任管理协议 9页

2025年度应届生就业协议模板:智慧城市人才合.. 9页

2025年度幼儿园教师师徒结对帮扶与发展规划合.. 9页

2025年度幼儿园保安服务与校园安全文化建设协.. 9页

2025年度市政管道施工与城市排水系统优化合同.. 9页

2025年度工程挂靠知识产权保护合同 8页

2025年度工地施工人员工伤及意外伤害保险合同.. 7页

2025年度工信部工业互联网安全评估咨询合同 8页

2025年度工业自动化设备委托生产与安全生产保.. 9页

2025年度岁以上老人临时用工劳动保障合同 8页

实用的高考话题作文3篇 5页

2025年度展览展示场地使用租赁协议 9页

2025年度居民房屋出租合同,附带租客房屋使用.. 8页

2025年度小学艺术教室租赁合同 9页

小学生建议书作文 16页

2025年度小产权房使用权抵押贷款合同 7页

2025年度宾馆客房客房服务满意度调查承包合同.. 8页

2025年度家庭财产分割与子女婚嫁基金协议 8页

2025年度家庭情感忠诚保障执行合同 9页

2025年度家庭分家产协议书(资产分割与执行).. 9页

教学工作心得体会 (合集15篇) 42页

2025年度家具行业环保材料研发与应用合同 8页

新人音版三年级下册音乐教学计划范文(11篇).. 40页

2025年度客户协议书封面图片设计定制合同 9页

2025年度实验室装修工程安全防护及应急预案合.. 9页

艺术舞蹈老师简历模板 1页

服装设计合作协议书 5页

煤炭资源地质勘查设计编写提纲 14页

硫酸铵生产硫酸钾的可行性方案 31页

2022年首都经济贸易大学工商管理专业《管理学.. 22页