使用Docker搭建ElasticSearch+Logstash+Kibana環境

最近在做 Spring Cloud 相關系列框架的搭建,在做到整合微服務跟蹤-Sleuth后,項目添加了Sleuth后已經能夠正常的輸出跟蹤信息日志,接下來要對整個日志進行分析處理,這里選取使用配合ELK來做,首先需要搭建整個ELK環境。

ELK介紹

ELK (官網)其實是三個不同的內容,一般配合一起使用。分別是:

  • ElasticSearch
  • Logstash
  • Kibana

具體的介紹可以看官網的每個產品介紹

Windows 環境搭建

可以參考:https://blog.csdn.net/pilihaotian/article/details/52452010 ,基本上比較詳細了,但是也可以看出windows安裝比較繁瑣,而且還會耗費機器本身資源,本文介紹使用Docker安裝搭建。

Docker 環境搭建

ELK對應的有很多版本,本文均使用最新版本

安裝 elasticsearch

拉取鏡像

    docker pull elasticsearch

啟動容器

docker run -d -p 9200:9200 --name leon_elasticsearch elasticsearch

此時訪問地址:<u>http://192.168.9.151:9200/</u>,看到如下效果說明啟動成功:

1.jpg

安裝插件 elasticsearch-head

一般情況下,安裝插件只需要執行命令:

elasticsearch-plugin install mobz/elasticsearch-head

那么我們現在進入到容器中對應的目錄:/usr/share/elasticsearch/bin/,然后執行上述命令,但是發現報錯:


查閱相關文檔得知以下信息:

– for Elasticsearch 5.x:
site plugins are not supported. Run elasticsearch-head as a standalone server

也就是說5.X以上的版本,需要單獨啟動 elasticsearch-head 服務。
那么單獨啟動運行插件容器:

docker run -d -p 9100:9100 --name leon_elasticsearch-head mobz/elasticsearch-head:5

注意后面跟的版本5,一定要對應自己的版本。

容器啟動后,訪問地址:</font><u>http://192.168.9.151:9100/</u>

2.jpg

此時代表插件服務已經啟動,但是點擊連接,發現無法連接elasticsearch服務,需要修改配置文件,文件地址為容器中的:/usr/share/elasticsearch/config/elasticsearch.yml

我們進入容器,發現無法使用VI命令修改文件,這個時候可以安裝VI工具然后修改文件,或者使用另外一種粗暴的方法,在外面修改然后覆蓋文件。這里因為安裝VI總是出錯,所以使用第二種方式。

首先將容器中的配置文件導出來:

docker cp leon_elasticsearch:/usr/share/elasticsearch/config/elasticsearch.yml /home/px2/elasticsearch.yml

在文件中添加以下內容:

http.cors.enabled: true
http.cors.allow-origin: "*"
http.cors.allow-headers: Authorization

然后在替換容器中的文件:

docker cp /home/px2/elasticsearch.yml leon_elasticsearch:/usr/share/elasticsearch/config/elasticsearch.yml

重啟容器,然后重新訪問:http://localhost:9100/ 就可以連接上了(此時還沒有數據)

3.jpg

注意:如果還是不能連接,可以訪問地址來連接:http://localhost:9100/?auth_user=elastic&auth_password=changeme

安裝logstash

這里有個比較坑的問題,使用Docker官方Hub里的鏡像 docker pull logstash 啟動的容器總是會自動停掉,無法運行,后來選擇使用官網中的鏡像地址:

docker run --name leon_logstash docker.elastic.co/logstash/logstash:6.2.4

修改配置文件,進入容器:

docker exec -it leon_logstash /bin/bash

進入目錄cd config
打開并修改配置文件 vi logstash.yml:

http.host: "0.0.0.0"
xpack.monitoring.elasticsearch.url: http://192.168.9.151:9200
xpack.monitoring.elasticsearch.username: elastic
xpack.monitoring.elasticsearch.password: changeme

安裝kibana

拉取鏡像

docker pull kibana

啟動容器

docker run --name leon_kibana -p 5601:5601 -d -e ELASTICSEARCH_URL=http://192.168.9.151:9200 kibana

配置

訪問地址:http://192.168.9.151:5601 ,看到如下效果

4.jpg

此時報錯中間紅色部分,無法進行創建,找到資料得知:

5.jpg

看官網的解釋說這是因為初次設置的時候logstash沒有加載到數據導致的。所以先要保證logstash能夠加載到數據。

配置數據

進入到容器中:

docker exec -it leon_logstash /bin/bash

然后進入如下目錄:
cd pipeline/
打開配置文件:vi logstash.conf

修改內容如下:

input {
        file {
            codec=> json
                path => "/usr/local/*.json"
        }
}
filter {
  #定義數據的格式
  grok {
    match => { "message" => "%{DATA:timestamp}\|%{IP:serverIp}\|%{IP:clientIp}\|%{DATA:logSource}\|%{DATA:userId}\|%{DATA:reqUrl}\|%{DATA:reqUri}\|%{DATA:refer}\|%{DATA:device}\|%{DATA:textDuring}\|%{DATA:duringTime:int}\|\|"}
  }
}
output {
   elasticsearch{
     hosts=> "http://192.168.9.151:9200"
   }
} 

其中指定了輸出地址:elasticsearch的地址,而且還指定了內容輸入地址:/usr/local/*.json,需要在usr/local下有json格式的數據,接下來將項目生成的json格式的日志文件上傳到該目錄。


docker cp /home/px2/logs/shop-user-consumer.json leon_logstash:/usr/local/shop-user-consumer.json
docker cp /home/px2/logs/shop-user-provider.json leon_logstash:/usr/local/shop-user-provider.json

然后重啟logstash容器,在重新訪問頁面,可以看到可以進行create了。

6.jpg

點擊create創建成功后,點擊Discovery,選擇時間為一年內,可以看到之前的數據:

7.jpg

并且訪問9100地址也能加載出節點信息了:

8.png

至此,整個ELK環境就搭建起來了。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,619評論 6 539
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,155評論 3 425
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 177,635評論 0 382
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,539評論 1 316
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,255評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,646評論 1 326
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,655評論 3 444
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,838評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,399評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,146評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,338評論 1 372
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,893評論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,565評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,983評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,257評論 1 292
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,059評論 3 397
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,296評論 2 376

推薦閱讀更多精彩內容