ogg12.3+mysql寫入容器kafka(源端配置)

數(shù)據(jù)ogg版本

源端? MySQL5.X? ?ogg版本 123015_ggs_Linux_x64_MySQL_64bit

目標端版本kafka_2.11-1.1.0? ?ogg版本 OracleGoldenGate for Big Data Version 12.3.1.1.1



檢查/etc/my.cnf文件是否存在,不存在則執(zhí)行如下命令(Mysql5.7+):

# cp /usr/share/mysql/my-medium.cnf /etc/my.cnf

1、開啟binlog

在/etc/my.cnf的[mysqld]下添加如下參數(shù):

# 行級日志模式

binlog_format=row

# 日志保存目錄

log-bin=mysql-bin

# 日志保存30天

expire_logs_days=30

server-id=2

重啟:

Centos6:servicemysqld restart

Centos7: systemctlrestart mysqld

MySQL5.7:systemctlrestart mysql

注意:源端是安裝了MySql的機器,MySql環(huán)境變量之前都配置好了

創(chuàng)建ogg用戶:

# useradd -G mysql ogg

2、解壓

先建立ogg目錄:

mkdir -p /opt/ogg

unzip122022_ggs_Linux_x64_MySQL_64bit.zip

解壓后得到一個tar包,再解壓這個tar:

tar xfggs_Linux_x64_MySQL_64bit.tar -C /opt/ogg

chown -R ogg:mysql/opt/ogg

3、配置環(huán)境變量

配置ogg環(huán)境變量文件/home/ogg/.bash_profile里配置:

vim /home/ogg/.bash_profile

export? GGS_HOME=/opt/ogg

export? PATH=$GGS_HOME:$PATH

使之生效:

source/home/ogg/.bash_profile

測試一下ogg命令:

cd /opt/ogg

./ggsci

如果命令成功即可進行下一步,不成功請檢查前面的步驟。

4、ogg初始化

在ogg目錄下create subdirs,創(chuàng)建目錄文件

create subdirs

5、mysql創(chuàng)建測試表

創(chuàng)建一個用戶,在該用戶下新建測試表,用戶名、密碼、表名均為 test_ogg:

use test;

create tabletest_ogg(

? a varchar(100) primary key,

? b varchar(100),

? c integer

)type = innodb;

6、建立軟連接

如果/tmp/mysql.sock不存在或者沒有進行軟連接可以輸入以下命令:

ln -s /var/lib/mysql/mysql.sock? /tmp/mysql.sock

OGG登錄到mysql數(shù)據(jù)庫:

cd /opt/ogg

./ggsci

GGSCI(ambari.master.com) 1> dblogin sourcedb test@127.0.0.1:3306,userid root,password? xxxx

7、配置管理器mgr

GGSCI(ambari.master.com) 3> edit param mgr

PORT 7809

DYNAMICPORTLIST 7810-7909

AUTOSTART ER *

AUTORESTART? EXTRACT *,RETRIES 5,WAITMINUTES 3

PURGEOLD EXTRACTS./dirdat/*,usecheckpoints, minkeepdays 3

說明:PORT即mgr的默認監(jiān)聽端口;DYNAMICPORTLIST動態(tài)端口列表,當指定的mgr端口不可用時,會在這個端口列表中選擇一個,最大指定范圍為256個;AUTORESTART重啟參數(shù)設置表示重啟所有EXTRACT進程,最多5次,每次間隔3分鐘;PURGEOLDEXTRACTS即TRAIL文件的定期清理

8、配置extract進程

因安全審計需要,在REPLICAT 中設置USERID and PASSWORD 的時候避免采用明文造成安全隱患,可以采用加密后的密碼。

GGSCI(3c809f267d19 DBLOGIN as root) 10> encrypt password 1234,ENCRYPTKEY default

Using Blowfishencryption with DEFAULT key.

Encryptedpassword:?AACAAAAAAAAAAAEAFCBERGFHJCMEBDEE

Algorithmused:? BLOWFISH

我這里沒有指定具體的加密算法,默認就是AES128算法

GGSCI(3c809f267d19) 2> dblogin sourcedb test@127.0.0.1:3306,userid root,password AACAAAAAAAAAAAEAFCBERGFHJCMEBDEE,ENCRYPTKEY default

編輯extkafka進程文件:

GGSCI(ambari.master.com) 6> edit param extkafka

extract extkafka

setenv(MYSQL_HOME="/var/lib/mysql")

tranlogoptionsaltlogdest /var/lib/mysql/mysql-bin.index

sourcedbtest@127.0.0.1:3306,userid root,passwordAACAAAAAAAAAAAEAFCBERGFHJCMEBDEE,ENCRYPTKEY default

exttrail /opt/ogg/[extkafka]/to

dynamicresolution

gettruncates

GETUPDATEBEFORES

NOCOMPRESSDELETES

NOCOMPRESSUPDATES

table test.*;

說明:第一行指定extract進程名稱;dynamicresolution動態(tài)解析;SETENV設置環(huán)境變量,這里分別設置了mysql數(shù)據(jù)庫以及字符集;userid root,password Hismart@2019即OGG連接mysql數(shù)據(jù)庫的帳號密碼,這里使用2.5中特意創(chuàng)建的復制帳號;exttrail定義trail文件的保存位置以及文件名,注意這里文件名只能是2個字母,其余部分OGG會補齊;table即復制表的表名,支持*通配,必須以;結尾。

添加extract進程:

GGSCI(ambari.master.com) 16> add extract extkafka,tranlog,begin now

EXTRACT added.

添加trail文件的定義與extract進程綁定:

GGSCI(ambari.master.com) 17> add exttrail /opt/ogg/[extkafka]/to,extract extkafka

EXTTRAIL added.

9、配置pump進程

pump進程本質上來說也是一個extract,只不過他的作用僅僅是把trail文件傳遞到目標端,配置過程和extract進程類似,只是邏輯上稱之為pump進程:

GGSCI(ambari.master.com) 18> edit param pukafka

extract pukafka

passthru

dynamicresolution

rmthost192.168.124.173 mgrport 7809

rmttrail /opt/ogg/[extkafka]/to

table test.*;

說明:第一行指定extract進程名稱;passthru即禁止OGG與Oracle交互,我們這里使用pump邏輯傳輸,故禁止即可;dynamicresolution動態(tài)解析;rmthost和mgrhost即目標端(kafka)OGG的mgr服務的地址以及監(jiān)聽端口;rmttrail即目標端trail文件存儲位置以及名稱。

分別將本地trail文件和目標端的trail文件綁定到extract進程:

GGSCI(ambari.master.com) 1> add extract pukafka,exttrailsource /opt/ogg/[extkafka]/to

EXTRACT added.

GGSCI(ambari.master.com) 2> add rmttrail? /opt/ogg/[extkafka]/to,extract pukafka

RMTTRAIL added.

10、配置define文件

Oracle與MySQL,Hadoop集群(HDFS,Hive,kafka等)等之間數(shù)據(jù)傳輸可以定義為異構數(shù)據(jù)類型的傳輸,故需要定義表之間的關系映射,在OGG命令行執(zhí)行:

GGSCI(ambari.master.com) 3> edit param [extkafka]

defsfile /opt/ogg/dirdef/[extkafka]

sourcedbtest@127.0.0.1:3306,userid root,passwordAACAAAAAAAAAAAEAFCBERGFHJCMEBDEE,ENCRYPTKEY default

table test_ogg.test_ogg;

在OGG主目錄下執(zhí)行(oracle用戶):

./defgen paramfiledirprm/[extkafka].prm

。。。

Definitions generated for 1 table in /opt/ogg/dirdef/ext_xxb_oracle_108

將生成的/opt/ogg/dirdef/test_ogg.test_ogg發(fā)送的目標端ogg目錄下的dirdef里:

scp -r? /opt/ogg/dirdef/[extkafka] root@192.168.50.143:/opt/ogg/dirdef/

源端就配置完畢!有問題可以評論,我會進行回復解答

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,698評論 6 539
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,202評論 3 426
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 177,742評論 0 382
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,580評論 1 316
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,297評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,688評論 1 327
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,693評論 3 444
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,875評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,438評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,183評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,384評論 1 372
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,931評論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 44,612評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,022評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,297評論 1 292
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,093評論 3 397
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,330評論 2 377

推薦閱讀更多精彩內容