elasticsearch入门

MicahScott 发布于1年前

这篇教程主要是对在入门的elasticsearch的一个记录。

ES 集群安装

安装环境

基于 Dokcer ,单机安装 Docker 版集群。使用版本如下:

  • Elasticsearch 5.3.2
  • Kibana 5.3.2
  • JDK 8

整个安装步骤分成三部分:

  1. 安装 ES 集群实例 elasticsearch001
  2. 安装 ES 集群实例 elasticsearch002
  3. 安装 Kibana 监控

安装 ES 集群实例

安装过程中镜像拉取事件过长,这里笔者将docker镜像上传到阿里的docker仓库中。

安装 ES 集群实例 elasticsearch001:

docker run -d -p 9200:9200 \
    -p 9300:9300 \
    --name elasticsearch001 -h elasticsearch001 \
    -e cluster.name=lookout-es \
    -e ES_JAVA_OPTS="-Xms512m -Xmx512m" \
    -e xpack.security.enabled=false \
    registry.cn-hangzhou.aliyuncs.com/dingwenjiang/elasticsearch:5.3.2

命令解释如下:

  • docker run: 会启动一个容器实例,如果本地没有对应的镜像会去远程registry上先下载镜像。
  • -d: 表示容器运行在后台
  • -p [宿主机端口]:[容器内端口]: 比如-p 9200:9200 表示把宿主机的9200端口映射到容器的9200端口
  • --name : 设置容器别名
  • -h : 指定容器的hostname
  • -e: 设置环境变量。这里关闭 x-pack 的安全校验功能,防止访问认证。

通过curl http://localhost:9200/_cat/health?v=pretty来验证elasticsearch001是否启动成功,如下:
image
设置环境变量的时候,我们指定了-e cluster.name=lookout-es,用于后续关联集群用。node为1 表示只有一个实例。默认 shards 分片为主备两个。status 状态是我们要关心的,状态可能是下列三个值之一:

  • green:所有的主分片和副本分片都已分配,集群是 100% 可用的。
  • yellow:所有的主分片已经分片了,但至少还有一个副本是缺失的。不会有数据丢失,所以搜索结果依然是完整的。高可用会弱化把 yellow 想象成一个需要及时调查的警告。
  • red:至少一个主分片(以及它的全部副本)都在缺失中。这意味着你在缺少数据:搜索只能返回部分数据,而分配到这个分片上的写入请求会返回一个异常。

也可以访问 http://localhost:9200/ ,可以看到成功运行的案例,返回的 JSON 页面。如图:

clipboard.png

继续搭建elasticsearch002:

docker run -d -p 9211:9200 \
       -p 9311:9300 --link elasticsearch001 \
       --name elasticsearch002 \
       -e cluster.name=lookout-es \
       -e ES_JAVA_OPTS="-Xms512m -Xmx512m" \
       -e xpack.security.enabled=false \
       -e discovery.zen.ping.unicast.hosts=elasticsearch001 \
       registry.cn-hangzhou.aliyuncs.com/dingwenjiang/elasticsearch:5.3.2

启动elasticsearch002的时候增加了几个参数,

  • --link [其他容器名]:[在该容器中的别名]: 添加链接到另一个容器, 在本容器 hosts 文件中加入关联容器的记录。
  • -e: 设置环境变量。这里额外指定了 ES 集群的 cluster.name、ES 集群节点淡泊配置 discovery.zen.ping.unicast.hosts 设置为实例 elasticsearch001。

再次执行curl http://localhost:9200/_cat/health?v=pretty,结果如图:
clipboard.png

对比上面检查数值可以看出,首先集群状态为 green , 所有的主分片和副本分片都已分配。你的集群是 100% 可用的。相应的 node 、shards 都增加。

安装 Kibana 监控

接着安装Kibana,对elasticsearch进行监控,安装命令如下:

# 启动kibana
docker run -d --name kibana001 \
       --link elasticsearch001 \
       -e ELASTICSEARCH_URL=http://elasticsearch001:9200 \
       -p 5601:5601\
         registry.cn-hangzhou.aliyuncs.com/dingwenjiang/kibana:5.3.2

其中-e 设置环境变量。这里额外指定了 ELASTICSEARCH_URL 为搜索实例地址。打开网页访问 127.0.0.1:5601,默认账号为 elasti,密码为 changeme。会出现如下的截图:

clipboard.png

Spring Boot 整合 Elasticsearch

这里只是简单整合下,开发一个web接口,实现数据存储以及查询功能。开发的思路还是传统的三层架构,controller、service、dao,这里利用spring data来简化对es的curd操作。
项目的repo地址:https://github.com/warjiang/d...

整个项目的结构如下所示:
clipboard.png

入口文件为:Application类,其中也是大家熟悉的spring-boot的用法。
controller主要在api包下,这里会暴露出两个API接口,分别是/api/contents用于写入内容、/api/content/search用于查询
service主要在service包下,与controller对应,需要实现写入和查询两个方法
dao主要在repository包下,继承ElasticsearchRepository,实现curd。
这里需要注意的时候,读写的bean用的是entity包下的ContentEntity,实际上services中操作的的bean是bean包下的ContentBean。
后续具体的实现在这里不再赘述。

项目运行起来后,可以发送写入和查询的请求来测试功能的正确性。
写入请求:可以通过curl 或者postman构造一个请求如下:

POST /api/contents HTTP/1.1
Host: 127.0.0.1:8080
Content-Type: application/json
Cache-Control: no-cache

[
    {
        "id":1,
        "title":"《见识》",
        "content":"摩根说:任意让小钱从身边溜走的人,一定留不住大钱",
        "type":1,
        "category":"文学",
        "read":999,
        "support":100
    },
    {
        "id":2,
        "title":"《态度》",
        "content":"人类的幸福不是来自偶然的幸运,而是来自每天的小恩惠",
        "type":2,
        "category":"文学",
        "read":888,
        "support":88
    },
    {
        "id":3,
        "title":"《Java 编程思想》",
        "content":"Java 是世界上最diao的语言",
        "type":2,
        "category":"计算",
        "read":999,
        "support":100
    }
]

请求成功会返回如下所示:

{
    "code": 0,
    "message": "success",
    "data": true
}

写入成功后可以到kibana中查看写入结果,打开网页访问 localhost:5601,在 Kibana 监控中输入需要监控的 index name 为 content。如下图,取消打钩,然后进入:
clipboard.png

进入后,会得到如图所示的界面,里面罗列了该索引 content 下面所有字段:
图片描述

打开左侧 Discover 栏目,即可看到可视化的搜索界面及数据:
图片描述

随便打开一个json如下:

{
  "_index": "content",
  "_type": "content",
  "_id": "2",
  "_score": 1,
  "_source": {
    "id": 2,
    "title": "《态度》",
    "content": "人类的幸福不是来自偶然的幸运,而是来自每天的小恩惠",
    "type": 2,
    "category": "文学",
    "read": 888,
    "support": 88
  }
}
  • _index 就是索引,用于区分文档成组,即分到一组的文档集合。索引,用于存储文档和使文档可被搜索。
  • _type 就是类型,用于区分索引中的文档,即在索引中对数据逻辑分区。比如索引 project 的项目数据,根据项目类型 ui 项目、插画项目等进行区分。
  • _id 是该文档的唯一标示,代码中我们一 ID 作为他的唯一标示。

查询请求:可以通过curl 或者postman构造一个请求如下:

POST /api/content/search HTTP/1.1
Host: 127.0.0.1:8080
Content-Type: application/json
Cache-Control: no-cache

{
    "searchContent":"Java",
    "type":2,
    "pageSize":3,
    "pageNumber":0
}

对应结果如下:

{
    "code": 0,
    "message": "success",
    "data": {
        "pageNumber": 0,
        "pageSize": 3,
        "totalPage": 1,
        "totalCount": 1,
        "result": [
            {
                "id": 3,
                "title": "《Java 编程思想》",
                "content": "Java 是世界上最diao的语言",
                "type": 2,
                "category": "计算",
                "read": 999,
                "support": 100
            }
        ]
    }
}

这里根据 searchContent 匹配短语 +type 匹配单个字段,一起构建了搜索语句。用于搜索出我们期待的结果,就是《Java 编程思想》。

查看原文: elasticsearch入门

  • biggoose
  • beautifulgorilla
  • tinyelephant
  • redkoala
  • ticklishrabbit
  • brownrabbit
  • smallwolf
  • WaltonLambert
  • ChamberlainNewman
  • NancyNick
  • TommyFrederic
  • MarnerGustave
  • blackpanda
  • DeliaEunice