canal安裝、與rocketMQ進行數據同步

一、canal安裝

下載地址:https://github.com/alibaba/canal/releases

image.png

二、修改配置文件,監聽數據庫

默認是在example文件夾,可以修改example文件夾中的instance.properties文件配置。當然也可以根據自己的業務在conf路徑下新建一個文件夾,比如:test,并將example文件夾中的instance.properties文件復制到test文件夾下。


image.png

image.png
# 找到配置文件此處位置,設置成自己要監聽的數據庫地址
canal.instance.master.address=127.0.0.1:3306
# 找到配置文件此處位置,配置數據庫用戶名、密碼、及數據庫名稱。
canal.instance.dbUsername=canal
canal.instance.dbPassword=canal
canal.instance.connectionCharset = UTF-8
canal.instance.defaultDatabaseName = test # test是數據庫名
canal.instance.enableDruid=false
# 找到此處位置,默認是監聽數據庫下所有的表,可以改成監聽具體的數據表。
#canal.instance.filter.regex=.*\\..*
canal.instance.filter.regex=test.test_table  # test是數據庫名  test_table是數據庫中表的名稱,多個用逗號隔開(test.table1,test.table2)

配置好后,需要修改數據庫的相應配置,修改數據庫配置文件my.cnf

log-bin=mysql-bin #添加這一行就ok
binlog-format=ROW #選擇row模式
server_id=1 #配置mysql replaction需要定義,不能和canal的slaveId重復

配置完成后,重新啟動數據庫,并查看;默認是不開啟的,為OFF


image.png

配置canal用戶

CREATE USER canal IDENTIFIED BY 'canal';  # 創建“canal”用戶
GRANT SELECT,REPLICATION SLAVE,REPLICATION CLIENT ON.TO 'canal'@'%'; # 為“canal”用戶賦予相應權限
FLUSH PRIVILEGES; # 刷新權限

配置完成,重啟以下mysql服務即可。

三、配置rocketMQ

配置rocketMQ,將動態監聽數據庫發送的數據變化,推送至mq中,并對相應業務進行處理。
修改/conf/canal.properties文件

# 找到以下配置,默認的是example文件夾,由于根據業務建立了test文件夾,所以需要改成test
# canal.destinations = example
canal.destinations = test # 可以配置多個,用逗號隔開,如:example,test
# 配置rocketMQ
rocketmq.producer.group = test-group  # 根據自己的業務進行修改
rocketmq.enable.message.trace = false
rocketmq.customized.trace.topic = test_canal_topic # 設置topic
rocketmq.namespace =
rocketmq.namesrv.addr = 127.0.0.1:9876 # 配置rocketMQ地址
rocketmq.retry.times.when.send.failed = 0
rocketmq.vip.channel.enabled = false
rocketmq.tag = 

配置好rocketMQ后,還需要修改/conf/test/instance.properties文件的topic配置

# 配置mq中的topic
canal.mq.topic=canal_test_topic

四、啟動canal

啟動/bin/startup.bat即可。

五、springboot項目監聽canal發送rocketMQ的代碼

springboot中的rocketMQ配置

#rocketmq配置
rocketmq:
  name-server: 127.0.0.1:9876
  producer:
    group: test-group  #這個需要和canal中/conf/canal.properties文件中的rocketmq.producer.group配置一致

springboot相應代碼

# topic 需要和canal中的/conf/test/instance.properties文件中的canal.mq.topic配置一致
# consumerGroup = "consumer-test-canal-group" # 自定義一個消費組即可
# customizedTraceTopic需要和canal中的/conf/canal.properties文件中的rocketmq.customized.trace.topic配置一致
@Component
@RocketMQMessageListener(topic = "canal_test_topic", consumerGroup = "consumer-test-canal-group", customizedTraceTopic = "test_canal_topic")
public class CanalConsumer implements RocketMQListener<String> {

    @Override
    public void onMessage(String msg) {
        System.out.println(msg);
        if (!JSONUtil.isJson(msg)) {
            return;
        }
        JSONObject msgJsonObject = JSONUtil.parseObj(msg);
        String sqlType = msgJsonObject.getStr("type");
        switch (sqlType) {
            case "UPDATE":
            case "INSERT":
            case "DELETE":
                break;
            default:
                System.out.println("不同步的消息類型:" + sqlType);
                return;
        }
        System.out.println(msgJsonObject.toStringPretty());
        String table = msgJsonObject.getStr("table");  # 獲取表名
        JSONArray data = msgJsonObject.getJSONArray("data");
        JSONArray pkNames = msgJsonObject.getJSONArray("pkNames");
        System.out.println("表名為:" + msgJsonObject.getStr("table") + ",sql類型為:" + sqlType);
        if ("UPDATE".equals(sqlType) || "INSERT".equals(sqlType)) {
          #  根據自己的業務進行處理
            for (int i = 0; i < data.size(); i++) {
                JSONObject object = data.getJSONObject(i);
                # 可以根據序號及字段獲取相應信息
                String key = object.getStr(pkNames.getStr(i), "0");
                String id = object.getStr("id","");
            }
            return;
        }
        if ("DELETE".equals(sqlType)) {
           #  根據自己的業務進行處理
            for (int i = 0; i < data.size(); i++) {
                JSONObject object = data.getJSONObject(i);
                String key = object.getStr(pkNames.getStr(i), "0");
            }
        }
    }
}

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。

推薦閱讀更多精彩內容