ElasticSearch

Elasticsearch 是一个分布式、RESTful 风格的搜索和数据分析引擎

安装环境

1
2
3
4
ElasticSearch: https://mirrors.huaweicloud.com/elasticsearch/?C=N&O=D
logstash: https://mirrors.huaweicloud.com/logstash/?C=N&O=D
kibana: https://mirrors.huaweicloud.com/kibana/?C=N&O=D
ik分词器:https://github.com/medcl/elasticsearch-analysis-ik/releases

跨域

在elasticsearch.yml文件下添加

1
2
http.cors.enabled: true
http.cors.allow-origin: "*"

IK分词器

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
GET _analyze
{
  "analyzer": "ik_smart",
  "text": "贺凯恒"
}

GET _analyze
{
  "analyzer": "ik_max_word",
  "text": "贺凯恒"
}

ik_smart 最少切分

ik_max_word 最细粒度划分!穷尽词库的可能

*配置自己的分词器

IKAnalyzer.cfg.xml dic文档

ES核心概念

(1):Near Relatime: 近实时,两个意思:从写入数据到可以被搜索有一个小延迟(大概一秒);基于es搜索和分析可以达到秒级。

(2):Cluster: 集群,包含多个节点,每个节点属于哪一个集群是通过配置(集群名称,默认是elasticsearch)来决定的。对于小型应用来说,刚开始一个集群就一个节点很正常。

(3): Node:节点。集群当中的一个节点,节点也有一个名称,默认是随机分配的,节点名称很重要(在执行运维管理操作的时候),默认节点会加入到一个名为“elasticsearch”的集群。如果直接启动一堆节点,默认会加入名为elasticsearch的集群。

(4): Document&field: 文档:es当中的最小单元,一个document可以是一条商品数据,也可以是一条订单数据,通常用JSON数据结构表示,每个index下的type当中,都可以去存储多个document,一个document中可以有多个field,field就是一个数据字段。

(5):index: 索引,包含一堆有相似结构的文档数据,比如可以有一个客户索引,商品分类索引,订单索引,索引有一个名称。一个index包含很多document,一个index就代表了一类类似的或者相同的document,比如说一个product index,商品索引,里面可能就存放了所有的商品数据,所有的商品的document。

(6):type:类型:每个索引当中都可以有一个type或者多个type,type是index的一个逻辑数据分类。一个type下的document,都有相同的field,比如博客系统,有一个索引,可以定义用户type,博客type,评论type等等。

(7):shard: 单台机器无法存储大量的数据,es可以将一个索引当中的数据切分为多个shard,分布在多台机器上存储,有了shard就可以横向扩展,存储更多的数据,让搜索和分析等操作分布在多台机器上去执行,提升吞吐量和性能,每个shard都是一个Lucene index。

(8):replica: 任何一个服务器随时都有可能宕机或者故障,此时shard就有可能丢失,因此可以为每个shard创建多个replica副本,replica可以在shard故障时提供备用服务,以保证数据不会丢失,多个replica可以提升搜索操作的吞吐量和性能。primary shard(建立索引时一次设置,不能修改,默认5个),replica shard(随时修改数量,每个shard默认一个)。默认每个索引10个shard,5个primary shard,5个replica shard,最小的高可用配置,是2台机器。

ES与数据库对比

Elasticsearch 数据库
Document
Type
Index

精髓

反向索引又叫倒排索引,是根据文章内容中的关键字建立索引。 搜索引擎原理就是建立反向索引。 Elasticsearch 在 Lucene 的基础上进行封装,实现了分布式搜索引擎。 Elasticsearch 中的索引、类型和文档的概念比较重要,类似于 MySQL 中的数据库、表和行。 Elasticsearch 也是 Master-slave 架构,也实现了数据的分片和备份。 Elasticsearch 一个典型应用就是 ELK 日志分析系统。