基于docker部署的微服務(wù)架構(gòu)(六): 日志統(tǒng)一輸出到kafka中間件

前言

上一篇 基于docker部署的微服務(wù)架構(gòu)(五): docker環(huán)境下的zookeeper和kafka部署 中,已經(jīng)成功部署了 kafka 環(huán)境,現(xiàn)在我們要改造之前的項目,使用 log4j2kafka appender 把日志統(tǒng)一輸出到 kafka 中。

修改日志系統(tǒng)

spring boot 默認(rèn)使用 logback 作為日志工具,這里需要作出修改。
service-registry-demo 為例,其他項目做相同的修改。
修改 pom.xml 文件,去掉默認(rèn)的日志依賴,并引入 log4j2

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter</artifactId>
    <exclusions>
        <exclusion>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-logging</artifactId>
        </exclusion>
    </exclusions>
</dependency>
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-log4j2</artifactId>
</dependency>

引入 kafka 客戶端:

<dependency>
    <groupId>org.apache.kafka</groupId>
    <artifactId>kafka-clients</artifactId>
    <version>0.10.0.1</version>
</dependency>

修改 <properties> 標(biāo)簽的內(nèi)容,增加 kafka server 的配置,后邊創(chuàng)建的 log4j2.xml 從這里讀取 kafka 的服務(wù)器地址:
<kafka.bootstrap.servers>kafka宿主機(jī)IP:9092</kafka.bootstrap.servers>
docker profile中配置 docker 環(huán)境的 kafka server<kafka.bootstrap.servers>kafka:9092</kafka.bootstrap.servers>,在啟動容器時使用 --link kafka,連接kafka容器。

resources 目錄下新建 log4j2.xml

<?xml version="1.0" encoding="UTF-8"?>
<Configuration>
    <Properties>
        <Property name="logFormat">
            %d{yyyy-MM-dd HH:mm:ss.SSS}{GMT+8} [@project.artifactId@] [%thread] %-5level %logger{35} - %msg %n
        </Property>
        <Property name="kafkaBootstrapServers">
            @kafka.bootstrap.servers@
        </Property>
    </Properties>
    <Appenders>
        <Console name="STDOUT" target="SYSTEM_OUT">
            <PatternLayout pattern="${logFormat}"/>
        </Console>

        <RollingFile name="RollingFile" fileName="logs/@project.artifactId@.log"
                     filePattern="logs/@project.artifactId@.%d{yyyy-MM-dd}.log">
            <PatternLayout>
                <Pattern>
                    ${logFormat}
                </Pattern>
            </PatternLayout>
            <Policies>
                <TimeBasedTriggeringPolicy/>
            </Policies>
        </RollingFile>

        <Kafka name="basicLog" topic="basic-log">
            <PatternLayout>
                <Pattern>
                    ${logFormat}
                </Pattern>
            </PatternLayout>
            <Property name="bootstrap.servers">${kafkaBootstrapServers}</Property>
        </Kafka>

        <Async name="FileAsync">
            <AppenderRef ref="RollingFile"/>
        </Async>

        <Async name="basicLogAsync">
            <AppenderRef ref="basicLog"/>
        </Async>

    </Appenders>
    <Loggers>
        <Logger name="org.apache.kafka" level="info"/>
        <Root level="info">
            <AppenderRef ref="STDOUT"/>
            <AppenderRef ref="FileAsync"/>
            <AppenderRef ref="basicLogAsync"/>
        </Root>
    </Loggers>
</Configuration>

簡單說明下 log4j2.xml 配置文件中的內(nèi)容:
<Properties> 標(biāo)簽中定義了 logFormatkafkaBootstrapServers 兩個屬性,這兩個屬性在下邊的日志配置中需要用到,其中 kafkaBootstrapServers 的屬性值從 pom.xml 中讀取,可以根據(jù)不同的 profile 動態(tài)替換。
<Appenders> 標(biāo)簽中定義了一系列 appender,從上到下分別是:

  1. 控制臺 appender
  2. 根據(jù)日期分割的日志文件 appender
  3. 把日志輸出到kafkaappender,定義了 topicbasic-log
  4. 在日期分割的 appender 之上做了異步處理的 appender,不會阻塞程序運行
  5. kafka apender 之上做了異步處理的 appender,不會阻塞程序運行

<Loggers> 標(biāo)簽中使用了 145,這3種 appender23 這兩種 appender 在發(fā)生異常時會阻塞程序運行,所以 45 在其之上進(jìn)行了異步處理。

demo源碼 spring-cloud-3.0

查看kafka中的日志數(shù)據(jù)

啟動 service-registry-demo,進(jìn)入 kafka 容器:
運行 docker ps,找到kafka的 CONTAINER ID,運行 docker exec -it ${CONTAINER ID} /bin/bash,進(jìn)入kafka容器。
進(jìn)入kafka默認(rèn)目錄 cd /opt/kafka_2.11-0.10.1.0
查看 basic-log 的內(nèi)容:
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic basic-log --from-beginning

使用docker-maven-plugin打包并生成docker鏡像

這部分的內(nèi)容和前幾篇文章基本相同,需要注意 docker 環(huán)境下 kafka server 的配置,在啟動容器時需要 --link 連接 kafka 容器。
具體配置參見 demo源碼 spring-cloud-3.0

最后

經(jīng)過上邊的配置,我們已經(jīng)把 service-registry-demo 的日志輸出到了 kafka,其他項目也做同樣的修改,這樣所有項目的日志都集中到了 kafka 。接下來繼續(xù)搭建 ELK 日志統(tǒng)計系統(tǒng),利用 logstashkafka 中的日志數(shù)據(jù)導(dǎo)入到 elasticsearch ,最后用 kibana 顯示日志數(shù)據(jù)。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,963評論 6 542
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,348評論 3 429
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,083評論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,706評論 1 317
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 72,442評論 6 412
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,802評論 1 328
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,795評論 3 446
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 42,983評論 0 290
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,542評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 41,287評論 3 358
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,486評論 1 374
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,030評論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 44,710評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,116評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,412評論 1 294
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,224評論 3 398
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 48,462評論 2 378

推薦閱讀更多精彩內(nèi)容