java調(diào)用Elasticserach的API實現(xiàn)日志查詢

前言:

如何在java程序中通過API查詢?nèi)罩灸兀课覀冎溃珽LK的流程是FileBeat掃描日志文件,將日志發(fā)送到Logstash,Logstash將日志進(jìn)行篩選和分組,發(fā)送給Elasticsearch,最終Kibnan通過調(diào)用Elasticsearch的接口,查詢?nèi)罩荆⒄故境鰜怼T谶@里,我的java程序就相當(dāng)于替代了Kibana,由java調(diào)用es的接口,實現(xiàn)索引創(chuàng)建、索引查詢、索引刪除、日志數(shù)量查詢、日志列表查詢、日志分頁查詢等。

1,java項目引入Elasticsearch依賴

這里使用的是maven,版本和es全家桶版本一致

<dependency>
    <groupId>org.elasticsearch</groupId>
    <artifactId>elasticsearch</artifactId>
    <version>7.14.0</version>
</dependency>
<dependency>
    <groupId>org.elasticsearch.client</groupId>
    <artifactId>elasticsearch-rest-high-level-client</artifactId>
    <version>7.14.0</version>
</dependency>

2,yml文件中加入es依賴

elasticsearch:
  host: 192.168.2.129
  port: 9200
  connTimeout: 3000
  socketTimeout: 5000
  connectionRequestTimeout: 500
  maxConnectNum: 100
  maxConnectPerRoute: 100

3,es的configuration文件

package com.test.elk;

import org.apache.http.HttpHost;
import org.elasticsearch.client.RestClient;
import org.elasticsearch.client.RestClientBuilder;
import org.elasticsearch.client.RestHighLevelClient;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

/**
 *
 * @author :wdl
 * ==============================================================================
 * @文件名稱 :ElasticsearchConfiguration.java
 * ==============================================================================
 * @本類描述 : ElsaticSearch配置類
 * @功能概述 :
 * @創(chuàng)建日期 :2021/10/12
 */
@Configuration
public class ElasticsearchConfiguration {
    @Value("${elasticsearch.host}")
    private String host;

    @Value("${elasticsearch.port}")
    private int port;

    @Value("${elasticsearch.connTimeout}")
    public int connectTimeOut;

    @Value("${elasticsearch.socketTimeout}")
    private int socketTimeOut;

    @Value("${elasticsearch.connectionRequestTimeout}")
    private int connectionRequestTimeOut;

    @Value("${elasticsearch.maxConnectNum}")
    private int maxConnectNum;

    @Value("${elasticsearch.maxConnectPerRoute}")
    private int maxConnectPerRoute;

    @Bean(destroyMethod = "close", name = "client")
    public RestHighLevelClient initRestClient() {
        // 異步httpclient連接延時配置
        RestClientBuilder builder = RestClient.builder(new HttpHost(host, port));
        builder.setRequestConfigCallback(builder1 -> {
                    builder1.setConnectTimeout(connectTimeOut);
                    builder1.setSocketTimeout(socketTimeOut);
                    builder1.setConnectionRequestTimeout(connectionRequestTimeOut);
                    return builder1;
                });
        // 異步httpclient連接數(shù)配置
        builder.setHttpClientConfigCallback(httpClientBuilder -> {
            httpClientBuilder.setMaxConnTotal(maxConnectNum);
            httpClientBuilder.setMaxConnPerRoute(maxConnectPerRoute);
            return httpClientBuilder;
        });
        return new RestHighLevelClient(builder);
    }
}

4,controller類

package com.test.elk;

import org.elasticsearch.action.admin.indices.delete.DeleteIndexRequest;
import org.elasticsearch.action.search.SearchRequest;
import org.elasticsearch.action.search.SearchResponse;
import org.elasticsearch.action.support.master.AcknowledgedResponse;
import org.elasticsearch.client.RequestOptions;
import org.elasticsearch.client.RestHighLevelClient;
import org.elasticsearch.client.core.CountRequest;
import org.elasticsearch.client.core.CountResponse;
import org.elasticsearch.client.indices.CreateIndexRequest;
import org.elasticsearch.client.indices.GetIndexRequest;
import org.elasticsearch.index.query.BoolQueryBuilder;
import org.elasticsearch.index.query.QueryBuilders;
import org.elasticsearch.index.query.RangeQueryBuilder;
import org.elasticsearch.search.SearchHit;
import org.elasticsearch.search.builder.SearchSourceBuilder;
import org.elasticsearch.search.sort.SortOrder;
import org.springframework.stereotype.Controller;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestMethod;
import org.springframework.web.bind.annotation.ResponseBody;

import javax.annotation.Resource;
import java.io.IOException;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.*;

/**
 * @author :wdl
 * ==============================================================================
 * @文件名稱 :ElasticSearchController.java
 * ==============================================================================
 * @本類描述 : 操作es控制類
 * @功能概述 :
 * @創(chuàng)建日期 :2021/10/12
 */
@Controller
@RequestMapping(value = "system/test")
public class ElasticSearchController {
    @Resource
    private RestHighLevelClient client;

    @RequestMapping(value = "existsIndex", method = RequestMethod.POST)
    @ResponseBody
    public boolean existsIndex(String index) throws IOException {
        // 聲明GetIndexRequest時要把索引信息帶進(jìn)去,可以帶入字符串也可以帶入String[],如果傳入多個索引,則全部存在才會返回true,只要有一個不存在,就會返回false
        String[] indices = {index};
        GetIndexRequest request = new GetIndexRequest(indices);
        boolean exists = client.indices().exists(request, RequestOptions.DEFAULT);
        System.out.println("existsIndex: " + exists);
        return exists;
    }
    @RequestMapping(value = "createIndex", method = RequestMethod.POST)
    @ResponseBody
    public boolean createIndex (String index){
        try {
            if(!existsIndex(index)){
                CreateIndexRequest request = new CreateIndexRequest(index);
                this.client.indices().create(request, RequestOptions.DEFAULT);
                return Boolean.TRUE ;
            }
        } catch (IOException e) {
            e.printStackTrace();
        }
        return Boolean.FALSE;
    }
    @RequestMapping(value = "deleteIndex", method = RequestMethod.POST)
    @ResponseBody
    public boolean deleteIndex(String index) {
        try {
            if(existsIndex(index)){
                DeleteIndexRequest request = new DeleteIndexRequest(index);
                AcknowledgedResponse response = client.indices().delete(request, RequestOptions.DEFAULT);
                return response.isAcknowledged();
            }
        } catch (Exception e) {
            e.printStackTrace();
        }
        return Boolean.FALSE;
    }

    /**
     * 查詢總數(shù)
     */
    @RequestMapping(value = "count", method = RequestMethod.POST)
    @ResponseBody
    public Long count(String index){
        // 這里的條件和分頁查詢的條件一直,可以在分頁查詢中調(diào)用count方法,查詢出日志總數(shù)
        BoolQueryBuilder queryBuilder = QueryBuilders.boolQuery();        // 匹配message字段中包含hello關(guān)鍵字的
        queryBuilder.must(QueryBuilders.matchPhraseQuery("message", "hello"));        // 時間范圍篩選
        queryBuilder.filter(QueryBuilders.rangeQuery("@timestamp").from(1634086800000L).to(1634087400000L));
        CountRequest countRequest = new CountRequest(index);
        countRequest.query(queryBuilder);
        try {
            CountResponse countResponse = client.count(countRequest, RequestOptions.DEFAULT);
            return countResponse.getCount();
        } catch (Exception e) {
            e.printStackTrace();
        }
        return 0L;
    }

    /**
     * 查詢集合
     */
    @RequestMapping(value = "list", method = RequestMethod.POST)
    @ResponseBody
    public List<Map<String,Object>> list (String index) {        // RangeQueryBuilder 可以給字段指定時間范圍,但是不能加關(guān)鍵字查詢,如果需要多條件組合查詢,請看page方法
        RangeQueryBuilder rangequerybuilder = QueryBuilders
                .rangeQuery("@timestamp")
                .from(1634086800000L).to(1634087400000L);
        SearchSourceBuilder sourceBuilder = new SearchSourceBuilder();
        sourceBuilder.query(rangequerybuilder);
        SearchRequest searchRequest = new SearchRequest(index);
        searchRequest.source(sourceBuilder);
        try {
            SearchResponse searchResp = client.search(searchRequest, RequestOptions.DEFAULT);
            List<Map<String,Object>> data = new ArrayList<>() ;
            SearchHit[] searchHitArr = searchResp.getHits().getHits();
            for (SearchHit searchHit:searchHitArr){
                Map<String,Object> res = new HashMap<>();
                Map<String,Object> temp = searchHit.getSourceAsMap();
                res.put("id",searchHit.getId());
                res.put("time",temp.get("@timestamp"));
                res.put("message",temp.get("message"));
                data.add(res);
            }
            return data;
        } catch (Exception e) {
            e.printStackTrace();
        }
        return null;
    }

    /**
     * 分頁查詢
     */
    @RequestMapping(value = "page", method = RequestMethod.POST)
    @ResponseBody
    public List<Map<String,Object>> page (String index) {
        // SearchSourceBuilder可以指定復(fù)雜條件,from:分頁查詢起始偏移量;size:每頁條數(shù);sort:排序;query:查詢條件;可以聲明QueryBuilder的一個實現(xiàn)類,將條件加入queryBuilder,再放入sourceBuilder;
        SearchSourceBuilder sourceBuilder = new SearchSourceBuilder();
        sourceBuilder.from(0);
        sourceBuilder.size(10);
        sourceBuilder.sort("@timestamp", SortOrder.DESC);
        BoolQueryBuilder queryBuilder = QueryBuilders.boolQuery();
        queryBuilder.must(QueryBuilders.matchPhraseQuery("message", "hello"));
        queryBuilder.filter(QueryBuilders.rangeQuery("@timestamp").from(1634086800000L).to(1634087400000L));
        sourceBuilder.query(queryBuilder);
        SearchRequest searchRequest = new SearchRequest(index);        // 將sourceBulider放入searchRequest
        searchRequest.source(sourceBuilder);
        try {
            SearchResponse searchResp = client.search(searchRequest, RequestOptions.DEFAULT);
            List<Map<String,Object>> data = new ArrayList<>() ;
            SearchHit[] searchHitArr = searchResp.getHits().getHits();
            for (SearchHit searchHit:searchHitArr){
                Map<String,Object> res = new HashMap<>();
                Map<String,Object> temp = searchHit.getSourceAsMap();
                res.put("time",transTime(temp.get("@timestamp")));
                res.put("message",temp.get("message"));
                data.add(res);
            }
            return data;
        } catch (Exception e) {
            e.printStackTrace();
        }
        return null ;
    }
    //將Z時區(qū)時間轉(zhuǎn)換成UTC時間
    private Date transTime(Object time){
        Date date = new Date();
        String dateStr = String.valueOf(time);
        dateStr = dateStr.replace("Z", " UTC");
        SimpleDateFormat format = new SimpleDateFormat("yyyy-MM-dd'T'HH:mm:ss.SSS Z");
        try {
            date = format.parse(dateStr);
        } catch (ParseException e) {
            e.printStackTrace();
        }
        return date;
    }
}

原文地址:https://www.cnblogs.com/bigfaceWei/p/15402998.html

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,345評論 6 531
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 98,494評論 3 416
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,283評論 0 374
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,953評論 1 309
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 71,714評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,186評論 1 324
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,255評論 3 441
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 42,410評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 48,940評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 40,776評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,976評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,518評論 5 359
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 44,210評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,642評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,878評論 1 286
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,654評論 3 391
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 47,958評論 2 373

推薦閱讀更多精彩內(nèi)容