文档介绍:Cloudera Search使用手册
Cloudera Search简介
什么是Cloudera Search
Cloudera Search作为Cloudera CDH(Cloudera's Distribution, including Apache Hadoop)产品的一个重要组成部分,基于Apache Solr开源项目进行构建,其使用了Lucene、SolrCloud、Apache Tika、Solr Cell等相关技术。Cloudera Search提供近实时(Near-Real-Time)数据访问服务,允许非技术人员通过简单的全文搜索接口,实现快速查询、浏览存储在Hadoop和Hase上的数据,而不需要掌握SQL、编程技能就可以使用。
Solr Cloud的基础概念
Collection
在SolrCloud集群中逻辑意义上的完整的索引。它常常被划分为一个或多个Shard,它们使用相同的Config Set。如果Shard数超过一个,它就是分布式索引,SolrCloud让你通过Collection名称引用它,而不需要关心分布式检索时需要使用的和Shard相关参数。
Config Set
Solr Core提供服务必须的一组配置文件。每个config set有一个名字。 (SolrConfigXml) (SchemaXml),除此之外,依据这两个文件的配置内容,可能还需要包含其它文件。它存储在Zookeeper中。Config sets可以重新上传或者使用upconfig命令更新,使用Solr的启动参数bootstrap_confdir指定可以初始化或更新它。
Core
Core也就是Solr Core,一个Solr中包含一个或者多个Solr Core,每个Solr Core可以独立提供索引和查询功能,每个Solr Core对应一个索引或者Collection的Shard,Solr Core的提出是为了增加管理灵活性和共用资源。在SolrCloud中有个不同点是它使用的配置是在Zookeeper中的,传统的Solr core的配置文件是在磁盘上的配置目录中。
Leader
赢得选举的Shard replicas。每个Shard有多个Replicas,这几个Replicas需要选举来确定一个Leader。选举可以发生在任何时间,但是通常他们仅在某个Solr实例发生故障时才会触发。当索引documents时,SolrCloud会传递它们到此Shard对应的leader,leader再分发它们到全部Shard的replicas。
Replica
Shard的一个拷贝。每个Replica存在于Solr的一个Core中。一个命名为“test”的collection以numShards=1创建,并且指定replicationFactor设置为2,这会产生2个replicas,也就是对应会有2个Core,每个在不同的机器或者Solr实例。一个会被命名为test_shard1_replica1,另一个命名为test_shard1_replica2。它们中的一个会被选举为Leader。
Shard
Collection的逻辑分片。每个Shard被化成一个或者多个replicas,通过选举确定哪个是Leader。
Cloudera Search安装
Cloudera Search作为CDH的一个组件,统一采用Cloudera Manager进行安装及配置,具体内容参加CDH的安装说明文档,本文以具体配置使用为主。
Solr配置使用
. 简单示例
远程连接到服务器上,在控制台依次执行下来命令,完成Solr的集合创建以及数据加入处理。
创建solr配置目录(执行后会在当前目录生产oa_solr目录)
#solrctl instancedir --generate oa_solr
基于solr配置,创建Core
#solrctl instancedir --create oa oa_solr
创建集合
#solrctl collection --create article -s 2 -c oa
向集合中加入测试数据
#cd /opt/cloudera/parcels/CDH/share/doc/solr-doc*/example/exampledocs
#java -Durl=http://localhost:8983/solr/article/update -jar *.xml
在浏览器中输入:8983/solr/进入Solr配置管理界面。
在