什么是ElasticSearch?

image.png
Elasticsearch是一个开源的分布式、RESTful 风格的搜索和数据分析引擎,它的底层是开源库Apache Lucene。

Lucene 可以说是当下最先进、高性能、全功能的搜索引擎库——无论是开源还是私有,但它也仅仅只是一个库。为了充分发挥其功能,你需要使用 Java 并将 Lucene 直接集成到应用程序中。 更糟糕的是,您可能需要获得信息检索学位才能了解其工作原理,因为Lucene 非常复杂。

为了解决Lucene使用时的繁复性,于是Elasticsearch便应运而生。它使用 Java 编写,内部采用 Lucene 做索引与搜索,但是它的目标是使全文检索变得更简单,简单来说,就是对Lucene 做了一层封装,它提供了一套简单一致的 RESTful API 来帮助我们实现存储和检索。

当然,Elasticsearch 不仅仅是 Lucene,并且也不仅仅只是一个全文搜索引擎。 它可以被下面这样准确地形容:

  • 一个分布式的实时文档存储,每个字段可以被索引与搜索;
  • 一个分布式实时分析搜索引擎;
  • 能胜任上百个服务节点的扩展,并支持 PB 级别的结构化或者非结构化数据。

由于Elasticsearch的功能强大和使用简单,维基百科、卫报、Stack Overflow、GitHub等都纷纷采用它来做搜索。现在,Elasticsearch已成为全文搜索领域的主流软件之一。

下面将介绍Elasticsearch的安装与简单使用。

在 Linux、macOS 或 Windows 上本地运行ElasticSearch

1、下载适合自己操作系统的ElasticSearch

Linux: elasticsearch-7.6.2-linux-x86_64.tar.gz

curl -L -O https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.6.2-linux-x86_64.tar.gz

macOS: elasticsearch-7.6.2-darwin-x86_64.tar.gz

curl -L -O https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.6.2-darwin-x86_64.tar.gz

Windows: elasticsearch-7.6.2-windows-x86_64.zip

curl -L -O https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.6.2-windows-x86_64.zip

2、解压
Linux:

tar -xvf elasticsearch-7.6.2-linux-x86_64.tar.gz

macOS:

tar -xvf elasticsearch-7.6.2-darwin-x86_64.tar.gz

Windows PowerShell:

Expand-Archive elasticsearch-7.6.2-windows-x86_64.zip

3、启动ElasticSearch
Linux and macOS:

cd elasticsearch-7.6.2/bin
./elasticsearch

Windows:

cd elasticsearch-7.6.2\bin
.\elasticsearch.bat

此时,Elasticsearch运行在本地的9200端口,在浏览器中输入网址“http://localhost:9200/” ,如果看到以下信息就说明你的电脑已成功安装Elasticsearch:

{
  "name" : "chengjiajundeMacBook-Pro.local",
  "cluster_name" : "elasticsearch",
  "cluster_uuid" : "_DJTDbGbTo6vB-zkRnDi5g",
  "version" : {
    "number" : "7.6.2",
    "build_flavor" : "default",
    "build_type" : "tar",
    "build_hash" : "ef48eb35cf30adf4db14086e8aabd07ef6fb113f",
    "build_date" : "2020-03-26T06:34:37.794943Z",
    "build_snapshot" : false,
    "lucene_version" : "8.4.0",
    "minimum_wire_compatibility_version" : "6.8.0",
    "minimum_index_compatibility_version" : "6.0.0-beta1"
  },
  "tagline" : "You Know, for Search"
}

软件安装完成之后,让我们来了解Elasticsearch的一些基本概念,这有助于我们更好地理解和使用Elasticsearch。

Elasticsearch基本概念

全文检索是指计算机索引程序通过扫描文章中的每一个词,对每一个词建立一个索引,指明该词在文章中出现的次数和位置,当用户查询时,检索程序就根据事先建立的索引进行查找,并将查找的结果反馈给用户的检索方式。

在全文搜索的世界中,存在着几个庞大的帝国,也就是主流工具,主要有:

  • Apache Lucene
  • Elasticsearch
  • Solr
  • Ferret

倒排索引(Inverted Index)

该索引表中的每一项都包括一个属性值和具有该属性值的各记录的地址。由于不是由记录来确定属性值,而是由属性值来确定记录的位置,因而称为倒排索引(inverted index)。Elasticsearch能够实现快速、高效的搜索功能,正是基于倒排索引原理。

节点 & 集群(Node & Cluster)

Elasticsearch 本质上是一个分布式数据库,允许多台服务器协同工作,每台服务器可以运行多个Elasticsearch实例。单个Elasticsearch实例称为一个节点(Node),一组节点构成一个集群(Cluster)。

索引(Index)

Elasticsearch 数据管理的顶层单位就叫做 Index(索引),相当于关系型数据库里的数据库的概念。另外,每个Index的名字必须是小写。

文档(Document)

Index里面单条的记录称为 Document(文档)。许多条 Document 构成了一个 Index。Document 使用 JSON 格式表示。同一个 Index 里面的 Document,不要求有相同的结构(scheme),但是最好保持相同,这样有利于提高搜索效率。

类型(Type)

Document 可以分组,比如employee这个 Index 里面,可以按部门分组,也可以按职级分组。这种分组就叫做 Type,它是虚拟的逻辑分组,用来过滤 Document,类似关系型数据库中的数据表。

不同的 Type 应该有相似的结构(Schema),性质完全不同的数据(比如 products 和 logs)应该存成两个 Index,而不是一个 Index 里面的两个 Type(虽然可以做到)。
Elasticsearch 7 开始去Type化,在Elasticsearch 7 中type默认为"_doc",在Elasticsearch 8 中将会完全删除Type

文档元数据(Document metadata)

文档元数据为_index, _type, _id, 这三者可以唯一表示一个文档,_index表示文档在哪存放,_type表示文档的对象类别,_id为文档的唯一标识。

字段(Fields)

每个Document都类似一个JSON结构,它包含了许多字段,每个字段都有其对应的值,多个字段组成了一个 Document,可以类比关系型数据库数据表中的字段。

在 Elasticsearch 中,文档(Document)归属于一种类型(Type),而这些类型存在于索引(Index)中,下图展示了Elasticsearch与传统关系型数据库的类比:
image.png

Elasticsearch入门

Elasticsearch提供了多种交互使用方式,包括Java API和RESTful API ,本文主要介绍RESTful API 。所有其他语言可以使用RESTful API 通过端口 9200 和 Elasticsearch 进行通信,你可以用你最喜爱的 web 客户端访问 Elasticsearch 。甚至,你还可以使用curl命令来和 Elasticsearch 交互。

一个Elasticsearch请求和任何 HTTP 请求一样,都由若干相同的部件组成:

curl -X<VERB> '<PROTOCOL>://<HOST>:<PORT>/<PATH>?<QUERY_STRING>' -d '<BODY>'

返回的数据格式为JSON,因为Elasticsearch中的文档以JSON格式储存。其中,被< >标记的部件:

部件说明
<VERB>适当的 HTTP 方法 或 谓词 :GETPOSTPUTHEAD或者DELETE
<PROTOCOL>http或者https如果你在Elasticsearch前面有一个https代理)
<HOST>Elasticsearch 集群中任意节点的主机名,或者用localhost代表本地机器上的节点。
<PORT>运行 Elasticsearch HTTP 服务的端口号,默认是9200
<PATH>API 的终端路径(例如_count将返回集群中文档数量)。Path 可能包含多个组件,例如_cluster/stats_nodes/stats/jvm
<QUERY_STRING>任意可选的查询字符串参数 (例如?pretty将格式化地输出 JSON 返回值,使其更容易阅读)
<BODY>一个 JSON 格式的请求体 (如果请求需要的话)

对于HTTP方法,它们的具体作用为:

HTTP方法说明
GET获取请求对象的当前状态
POST改变对象的当前状态
PUT创建一个对象
DELETE删除对象
HEAD请求获取对象的基础信息

插入数据

首先创建index为customer,插入id为1的第一条数据,只需运行下面命令就行:

url -X PUT "localhost:9200/customer/_doc/1?pretty" -H 'Content-Type: application/json' -d'
{
  "name": "Juning"
}
'

响应如下:
由于这是一个新文档,因此响应显示操作的结果是创建了文档的版本 1

{
  "_index" : "customer",
  "_type" : "_doc",
  "_id" : "1",
  "_version" : 1,
  "result" : "created",
  "_shards" : {
    "total" : 2,
    "successful" : 1,
    "failed" : 0
  },
  "_seq_no" : 0,
  "_primary_term" : 1
}

删除数据

我们想要删除customer里面id为2的数据,只需运行下面命令即可:

curl -X DELETE "localhost:9200/customer/_doc/2"

响应如下:

{
	"_index": "customer",
	"_type": "_doc",
	"_id": "2",
	"_version": 2,
	"result": "deleted",
	"_shards": {
		"total": 2,
		"successful": 1,
		"failed": 0
	},
	"_seq_no": 2,
	"_primary_term": 1
}

如果想删除整个customer类型,可输入命令:

curl -X DELETE "localhost:9200/customer"

响应:

{"acknowledged":true}

也可根据/_cat/indices?v来查看所有索引:

curl -X GET "localhost:9200/_cat/indices?v"

修改数据

修改数据的命令为POST, 比如我们想要将customer里面id为1的文档的name改为Juning1,那么需要运行命令如下:

curl -X POST "localhost:9200/customer/_doc/1?pretty" -H 'Content-Type: application/json' -d' 
{
  "name": "Juning1"
}
'

响应如下数据表示成功:

{
  "_index" : "customer",
  "_type" : "_doc",
  "_id" : "1",
  "_version" : 2,
  "result" : "updated",
  "_shards" : {
    "total" : 2,
    "successful" : 1,
    "failed" : 0
  },
  "_seq_no" : 1,
  "_primary_term" : 1
}

查询数据

查询数据的命令为GET,查询命令也是Elasticsearch最为重要的功能之一。比如我们想查询customer里面id为1的数据,运行命令如下:

curl -X GET "localhost:9200/customer/_doc/1" 

响应如下:

{
	"_index": "customer",
	"_type": "_doc",
	"_id": "1",
	"_version": 2,
	"_seq_no": 1,
	"_primary_term": 1,
	"found": true,
	"_source": {
		"name": "Juning1"
	}
}

在_source 属性中,内容是原始的 JSON 文档,还包含有其它属性,比如_index, _type, _id, _found等。

如果想要搜索customer里面所有的文档,运行命令如下:

curl -X GET "localhost:9200/customer/_doc/_search" -H 'Content-Type: application/json'

响应如下:

{
	"took": 567,
	"timed_out": false,
	"_shards": {
		"total": 1,
		"successful": 1,
		"skipped": 0,
		"failed": 0
	},
	"hits": {
		"total": {
			"value": 4,
			"relation": "eq"
		},
		"max_score": 1.0,
		"hits": [{
			"_index": "customer",
			"_type": "_doc",
			"_id": "1",
			"_score": 1.0,
			"_source": {
				"name": "Juning"
			}
		}, {
			"_index": "customer",
			"_type": "_doc",
			"_id": "2",
			"_score": 1.0,
			"_source": {
				"name": "Yuning"
			}
		}, {
			"_index": "customer",
			"_type": "_doc",
			"_id": "3",
			"_score": 1.0,
			"_source": {
				"name": "Yuning1"
			}
		}, {
			"_index": "customer",
			"_type": "_doc",
			"_id": "4",
			"_score": 1.0,
			"_source": {
				"name": "Juning1"
			}
		}]
	}
}

当然,Elasticsearch 提供更加丰富灵活的查询语言叫做查询表达式, 它支持构建更加复杂和健壮的查询。利用查询表达式,我们可以检索出customer里面所有name为Juning的文档,命令如下:

curl -X POST "localhost:9200/customer/_doc/_search?pretty" -H 'Content-Type: application/json' -d'
{
  "query" : {
        "match" : {
            "name" : "Juning"
        }
    }
}
'

响应如下:

{
  "took" : 0,
  "timed_out" : false,
  "_shards" : {
    "total" : 1,
    "successful" : 1,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : {
      "value" : 1,
      "relation" : "eq"
    },
    "max_score" : 1.2039728,
    "hits" : [
      {
        "_index" : "customer",
        "_type" : "_doc",
        "_id" : "1",
        "_score" : 1.2039728,
        "_source" : {
          "name" : "Juning"
        }
      }
    ]
  }
}

总结

总体来说Elasticsearch最基本的使用还是比较简单、好理解的,有传统关系型数据库经验的人理解起来也更快

上一篇 下一篇