C01.什么是Elasticsearch
1.什么是搜索
垂直搜索(站内搜索)
- 互联网的搜索:电商网站，招聘网站，各种app
- IT系统的搜索:OA软件，办公自动化软件，会议管理，员工管理，后台管理系
2.如果用数据库做搜索会怎么样
数据库在做某些搜索(模糊搜索)时，效率会很差，是不太靠谱的。
3. 什么是全文检索?
数据库搜索的弊端:数据库里有100万条数据，模糊匹配要扫描100万次，每次扫描都要匹配文本所有字符，还无法拆解开来检索。
全文检索:会将100万条数据拆分开来，建立倒排索引，搜索的时也许第一次就可以搜素到对应的数据，可能是100次，1000次，上述过程就叫全文检索。
Lucene:就是一个jar包，里面包含各种建立倒排索引，以及搜索的代码，包括各种算法。我们Java开发时，引入lucene的jar进行开发就可以了。使用lucene，我们可以去将已有的数据建立索引，lucene会在本地磁盘上面给我们组织索引的数据结构。
lucene的弊端:数据量大，一台机器难以放下，需要多台机器，可用性，可维护性差。
4.什么是Elasticsearch
- 自动维护数据的分布到多个节点的索引的建立，还有搜索请求分不到多个节点执行
- 自动维护数据的冗余副本，保证说一些机器宕机了，不会丢失任何的数据
- 分装了更多的高级功能，以给我们提供更多高级的支持，让我们快速地开发应用，开发更复杂的应用，复杂的搜素功能，聚合分析的功能。
C02.Elasticsearch的功能、适用场景
1.Elasticsearch的功能
- 分布式搜索引擎和数据分析引擎
搜索:百度，网站站内搜索，It系统检索
数据分析: 电商网站，最近7天牙膏销量排行较前有哪些；新闻网站，最近一个月访问量排行前十的有哪些 - 全文检索:结构化检索，数据分析
结构化检索:我想搜索的商品分类为日化用品的有哪些: select* from prod where cate_id = '日化用品'
全文检索:想搜索商品名称包含牙膏的商品: select * from prod where prod_name like "%牙膏%"
数据分析: 分析一下每一个商品分类有多少商品，select cate_id,count(*) from prod group by cate_id - 对海量数据近实时处理
分布式: ES可以自动将海量数据分散到多台服务器上存储和检索
海量数据的处理:分布式以后，就可以采用大量服务器去检索和存储数据。
近实时:在秒级别对数据进行搜索和分析。
与海量数据/分布式相反:lucene，单机应用，只能在单台服务器上用，最多只能处理单台服务器的数据
2.ES的适用场景
- 维基百科,全文检索，高亮，搜索推荐
- 电商网站，检索商品
- 新闻网站，用户行为日志(点赞，评论)，数据分析
- 论坛网站，全文检索，搜索问题和答案
- Github，搜索代码和项目
- 日志数据分析，logstash采集日志，ES进行复杂的数据分析(ELK技术，elasticsearch+logstash+kibana)
- 商品价格监控网站，用户设定某商品的价格阈值，低于阈值时，发送通知给用户。
- BI系统，商业智能，ES执行数据分析和挖掘
- 站内搜索(电商，招聘，门户)，IT搜索(OA,CRM,ERP)等
3.ES的特点
- 可以作为大型分布式集群的技术，处理PB级的数据，服务大公司，也可以运行在单机上
- ES不是什么新技术，主要是将全文检索，数据分析以及分布式技术合并在了一起
- 对用户而言，开箱即用，较为简单
- 数据库的功能面对很多领域是不够用的，比如全文检索，同义词处理，相关度排名，复杂数据分析，海量数据近实时处理。ES可以作为传统数据库的不错，提供数据库不足的功能。
C03.Elasticsearch的核心概念
1.lucene和ES
lucene，最先进，最强大的搜索库，基于lucene开发，非常复杂，api复杂，需要深入原理。
ES基于lucene，隐藏其复杂性，提供简单易用的restful接口，java api接口。
- 分布式的文档存储引擎
- 分布式的搜索引擎和分析引擎
- 分布式，支持PB级数据
2.ES的核心概念
- 1.Near Realtime(NRT): 近实时，从写入数据到ES到可以被搜索到大概有1秒延迟，基于ES执行搜索和分析可以达到秒级
- 2.Cluster: 集群，包含多个节点，每个节点属于哪个集群是通过一个配置(集群名称，默认是elasticsearch)来决定的，对于中小型应用来说，刚开始一个集群就一个节点很正常。
- 3.Node: 节点，集群中的一个节点，节点也有一个名称(默认是随机)，节点名称很重要(在执行运维管理操作的时候)，默认节点会去加入一个名称为"elasticsearch"的集群，如果直接启动一堆节点，那么他们会自动组成一个elasticsearch集群，当然一个节点也可以组成一个es集群
- 4.Document: 文档。es中的最小单元，一个document可以是客户的一条数据，一条商品数据，订单数据，通常用JSON数据结构表示，每个index下的type中，都可以存储多个doucument，一个document里面有多个field，每个field就是一个数据字段
- Index: 索引,包含一堆有相似结构的文档数据，比如一个商品索引，订单索引，索引有一个名称。一个index包含多个document,比如建立了一个商品索引，product index，里面可能就存放了所有商品的数据。
- Type:类型，每个索引里面都可以有一个或多个type，type是index的一个逻辑数据分类，一个type下的document，都有相同的field(有例外),比如博客系统，有一个索引，可以定义用户数据的type，博客数据的type
- shard: 单台机器无法存储大量数据，es可以将一个索引中的数据切分为多个shard，分布在多台服务器上存储。有了shard就可以横向扩展，存储更多数据，让数据搜索和分析等操作分布到多台服务器上执行，提高吞吐量和性能。
PS:index会被拆分为多个shard，每个shard会存放这个index的部分数据，这些shard分布在多台服务器上分布执行，提升吞吐量与性能。 - replica: 任何一个服务器随时可能故障或宕机，此时shard可能就会丢失，因此可以为每个shard创建多个replica，replica可以在shard故障时随时提供服务，保证数据不丢失，多个replica还可以提高吞吐量和性能。primary shard(建索引是一次设置，不能修改，默认5个)，replica shard(随时修改，默认1个)，默认每个索引10个shard，5个primary shard，5个replica shard，最小高可用配置，是两台服务器。
PS: shard其实叫primary shard，replica叫replica shard，其实都shard
replica的好处:
1).提升了高可用性，一个shard宕机，数据不丢，服务继续提供
2).提升了搜索这类请求的吞吐量和性能
C04.ES与Kibana的安装与使用
- 安装JDK，至少Java1.8以上
- 下载解压ES安装包
- 启动ES(使用终端命令行工具启动，bin目录下的elasticsearch)
- 检查ES是否启动成功(默认是localhost 9200端口)
- 修改集群名称：elasticsearch.yml
- 下载和解压缩Kibana安装包，使用里面的开发界面，操作es，是学习es的主要界面入口
- 启动kibana(默认localhost:5601)
C05.电商网站商品管理(一):CRUD基础操作
1.document数据格式
- 应用系统的数据结构都是面向对象的，复杂的
- 对象数据存储到数据库中，只能拆解开来，变为扁平的多张表，每次查询返回原对象的格式，相当麻烦
- ES是面向文档的，文档中存储的数据结构，与面向对象的数据结构是一样的，基于这种文档数据结构，es可以提供复杂的索引，全文检索，分析聚合等功能
- ES的document用json数据格式来表达
2.电商网站商品管理案例背景介绍
有一个电商网站，需要为其基于ES构建一个后台系统，提供以下功能：
- 对商品信息进行CRUD（增删改查）操作
- 执行简单的结构化查询
- 可以执行简单的全文检索，以及复杂的phrase（短语）检索
- 对于全文检索的结果，可以进行高亮显示
- 对数据进行简单的聚合分析
3.简单的集群管理
- 1、快速检查集群的健康状况
es提供了一套api，叫做cat api，可以查看es中各种各样的数据
GET /_cat/health?v
如何快速了解集群的健康状况？green、yellow、red？
green：每个索引的primary shard和replica shard都是active状态的yellow：每个索引的primary shard都是active状态的，但是部分replica shard不是active状态，处于不可用的状态red：不是所有索引的primary shard都是active状态的，部分索引有数据丢失了
为什么现在会处于一个yellow状态？
我们现在就一个笔记本电脑，就启动了一个es进程，相当于就只有一个node。现在es中有一个index，就是kibana自己内置建立的index。由于默认的配置是给每个index分配5个primary shard和5个replica shard，而且primary shard和replica shard不能在同一台机器上（为了容错）。现在kibana自己建立的index是1个primary shard和1个replica shard。当前就一个node，所以只有1个primary shard被分配了和启动了，但是一个replica shard没有第二台机器去启动。
做一个小实验：此时只要启动第二个es进程，就会在es集群中有2个node，然后那1个replica shard就会自动分配过去，然后cluster status就会变成green状态。 - 2、快速查看集群中有哪些索引
GET /_cat/indices?v - 3、简单的索引操作
创建索引：PUT /test_index?pretty
删除索引：DELETE /test_index?pretty
4.商品的CRUD操作
1.新增商品：新增文档，建立索引
语法: PUT /index/type/id
{
"json数据"
}
示例:
PUT /ecommerce/product/1
{
"name" : "gaolujie yagao",
"desc" : "gaoxiao meibai",
"price" : 30,
"producer" : "gaolujie producer",
"tags": [ "meibai", "fangzhu" ]
}
Return:
{
"_index": "ecommerce",
"_type": "product",
"_id": "1",
"_version": 1,
"result": "created",
"_shards": {
"total": 2,
"successful": 1,
"failed": 0
},
"created": true
}
PS:ES会自动建立index和type，不需要提前创建，而且es默认会对document每个field都建立倒排索引，让其可以被搜索
2.查询商品：检索文档
语法: GET /index/type/id
GET /ecommerce/product/1
3.修改商品：替换文档
PUT /ecommerce/product/1
{
"name" : "jiaqiangban gaolujie yagao",
"desc" : "gaoxiao meibai",
"price" : 30,
"producer" : "gaolujie producer",
"tags": [ "meibai", "fangzhu" ]
}
PS:替换方式有一个不好，即使必须带上所有的field，才能去进行信息的修改
4.修改商品：更新文档
POST /ecommerce/product/1/_update
{
"doc": {
"name": "jiaqiangban gaolujie yagao"
}
}
5.删除商品：删除文档
DELETE /ecommerce/product/1
C06.电商网站商品管理(二):多种搜索方式
*搜索全部商品: GET /ecommerce/product/search
took: timed_out: shards: hits.total: hits.max_score: hits.hits: 包含了匹配搜索的document的详细数据
1. query string search
query string search的由来，因为search参数都是以http请求的query string来附带的
搜索商品名称中包含yagao的商品，而且按照售价降序排序：GET /ecommerce/product/_search?q=name:yagao&sort=price:desc
PS: 适用于临时的在命令行使用一些工具，比如curl，快速的发出请求，来检索想要的信息；但是如果查询请求很复杂，是很难去构建的,在生产环境中，几乎很少使用query string search
2. query DSL
DSL: Domain Specified Language，特定领域的语言 http request body: 请求体，可以用json的格式来构建查询语法，比较方便，可以构建各种复杂的语法，比query string search肯定强大多了
查询所有的商品
GET /ecommerce/product/_search
{
"query": { "match_all": {} }
}
查询名称包含yagao的商品，同时按照价格降序排序
GET /ecommerce/product/_search
{
"query" : {
"match" : {
"name" : "yagao"
}
},
"sort": [
{ "price": "desc" }
]
}
分页查询商品，总共3条商品，假设每页就显示1条商品，现在显示第2页，所以就查出来第2个商品
GET /ecommerce/product/_search
{
"query": { "match_all": {} },
"from": 1,
"size": 1
}
指定要查询出来商品的名称和价格就可以
GET /ecommerce/product/search
{
"query": { "match_all": {} },
"source": ["name", "price"]
}
PS: 更加适合生产环境的使用，可以构建复杂的查询
3. query filter
搜索商品名称包含yagao，而且售价大于25元的商品
GET /ecommerce/product/_search
{
"query" : {
"bool" : {
"must" : {
"match" : {
"name" : "yagao"
}
},
"filter" : {
"range" : {
"price" : { "gt" : 25 }
}
}
}
}
}
4. full-text search（全文检索）
全文检索会将输入的搜索串拆解开来，去倒排索引里面去一一匹配，只要能匹配上任意一个拆解后的单词，就可以作为结果返回。
GET /ecommerce/product/_search
{
"query" : {
"match" : {
"producer" : "yagao producer"
}
}
}
Result:
{
"took": 4,
"timed_out": false,
"_shards": {
"total": 5,
"successful": 5,
"failed": 0
},
"hits": {
"total": 4,
"max_score": 0.70293105, //最高分,匹配度最高的那个
"hits": [
{
"_index": "ecommerce",
"_type": "product",
"_id": "4",
"_score": 0.70293105,
"_source": {
"name": "special yagao",
"desc": "special meibai",
"price": 50,
"producer": "special yagao producer",
"tags": [
"meibai"
]
}
},
{
"_index": "ecommerce",
"_type": "product",
"_id": "1",
"_score": 0.25811607,
"_source": {
"name": "gaolujie yagao",
"desc": "gaoxiao meibai",
"price": 30,
"producer": "gaolujie producer",
"tags": [
"meibai",
"fangzhu"
]
}
},
{
"_index": "ecommerce",
"_type": "product",
"_id": "3",
"_score": 0.25811607,
"_source": {
"name": "zhonghua yagao",
"desc": "caoben zhiwu",
"price": 40,
"producer": "zhonghua producer",
"tags": [
"qingxin"
]
}
},
{
"_index": "ecommerce",
"_type": "product",
"_id": "2",
"_score": 0.1805489,
"_source": {
"name": "jiajieshi yagao",
"desc": "youxiao fangzhu",
"price": 25,
"producer": "jiajieshi producer",
"tags": [
"fangzhu"
]
}
}
]
}
}
5. phrase search (短语搜索)
跟全文检索相对应，相反，phrase search，要求输入的搜索串，必须在指定的字段文本中，完全包含一模一样的，才可以算匹配，才能作为结果返回。
GET /ecommerce/product/_search
{
"query" : {
"match_phrase" : {
"producer" : "yagao producer"
}
}
}
Return:
{
"took": 11,
"timed_out": false,
"_shards": {
"total": 5,
"successful": 5,
"failed": 0
},
"hits": {
"total": 1,
"max_score": 0.70293105,
"hits": [
{
"_index": "ecommerce",
"_type": "product",
"_id": "4",
"_score": 0.70293105,
"_source": {
"name": "special yagao",
"desc": "special meibai",
"price": 50,
"producer": "special yagao producer",
"tags": [
"meibai"
]
}
}
]
}
}
6.highlight search（高亮搜索结果）
GET /ecommerce/product/_search
{
"query" : {
"match" : {
"producer" : "producer"
}
},
"highlight": {
"fields" : {
"producer" : {}
}
}
}
C07. 电商网站商品管理(三): 聚合分析
1.计算每个tag下的商品数量:
GET /ecommerce/product/_search
{
"aggs": {
"group_by_tags": {
"terms": { "field": "tags" }
}
}
}
将文本field的fielddata属性设置为true:
PUT /ecommerce/_mapping/product
{
"properties": {
"tags": {
"type": "text",
"fielddata": true
}
}
}
GET /ecommerce/product/_search
{
"size": 0,
"aggs": {
"all_tags": {
"terms": { "field": "tags" }
}
}
}
{
"took": 20,
"timed_out": false,
"_shards": {
"total": 5,
"successful": 5,
"failed": 0
},
"hits": {
"total": 4,
"max_score": 0,
"hits": []
},
"aggregations": {
"group_by_tags": {
"doc_count_error_upper_bound": 0,
"sum_other_doc_count": 0,
"buckets": [
{
"key": "fangzhu",
"doc_count": 2
},
{
"key": "meibai",
"doc_count": 2
},
{
"key": "qingxin",
"doc_count": 1
}
]
}
}
}
2.对名称中包含yagao的商品，计算每个tag下的商品数量
GET /ecommerce/product/_search
{
"size": 0,
"query": {
"match": {
"name": "yagao"
}
},
"aggs": {
"all_tags": {
"terms": {
"field": "tags"
}
}
}
}
3.计算每个tag下的商品的平均价格，并且按照平均价格降序排序
GET /ecommerce/product/_search
{
"size": 0,
"aggs" : {
"group_by_tags" : {
"terms" : { "field" : "tags" },
"aggs" : {
"avg_price" : {
"avg" : { "field" : "price" }
}
}
}
}
}
Result:
{
"took": 8,
"timed_out": false,
"_shards": {
"total": 5,
"successful": 5,
"failed": 0
},
"hits": {
"total": 4,
"max_score": 0,
"hits": []
},
"aggregations": {
"group_by_tags": {
"doc_count_error_upper_bound": 0,
"sum_other_doc_count": 0,
"buckets": [
{
"key": "fangzhu",
"doc_count": 2,
"avg_price": {
"value": 27.5
}
},
{
"key": "meibai",
"doc_count": 2,
"avg_price": {
"value": 40
}
},
{
"key": "qingxin",
"doc_count": 1,
"avg_price": {
"value": 40
}
}
]
}
}
}
4.计算每个tag下的商品的平均价格，并且按照平均价格降序排序
GET /ecommerce/product/_search
{
"size": 0,
"aggs" : {
"all_tags" : {
"terms" : { "field" : "tags", "order": { "avg_price": "desc" } },
"aggs" : {
"avg_price" : {
"avg" : { "field" : "price" }
}
}
}
}
}
5.按照指定的价格范围区间进行分组，然后在每组内再按照tag进行分组，最后再计算每组的平均价格
GET /ecommerce/product/_search
{
"size": 0,
"aggs": {
"group_by_price": {
"range": {
"field": "price",
"ranges": [
{
"from": 0,
"to": 20
},
{
"from": 20,
"to": 40
},
{
"from": 40,
"to": 50
}
]
},
"aggs": {
"group_by_tags": {
"terms": {
"field": "tags"
},
"aggs": {
"average_price": {
"avg": {
"field": "price"
}
}
}
}
}
}
}
}
本文章为转载内容，我们尊重原作者对文章享有的著作权。如有内容错误或侵权问题，欢迎原作者联系我们进行内容更正或删除文章。
