mycat分庫分表之入門

以下教程為整合官方教程,主要是官方內(nèi)容,但是官方內(nèi)容有點(diǎn)亂,版本較低, 以下已完整測(cè)試及附帶個(gè)人測(cè)試結(jié)果和分析。

MyCAT 1.6.7.1版本

1. 準(zhǔn)備

1.1. 操作系統(tǒng)

mac
注:操作系統(tǒng)的不同沒關(guān)系的,mycat的安裝方式很簡(jiǎn)單,稍微把環(huán)境變量配上去就可以開始測(cè)試了。

1.2. 環(huán)境

數(shù)據(jù)庫:

Mysql:127.0.0.1:3306。

本人當(dāng)前版本為: mysql Ver 8.0.13 for macos10.14 on x86_64 (MySQL Community Server - GPL)

java

mycat是用Java開發(fā),需要有JAVA運(yùn)行環(huán)境,mycat依賴 >=jdk1.7的環(huán)境,若本機(jī)沒有,則需要下載安裝:<u>http://www.java.com/zh_CN/</u>.

本人版本為:

java version "1.8.0_191"

Java(TM) SE Runtime Environment (build 1.8.0_191-b12)

Java HotSpot(TM) 64-Bit Server VM (build 25.191-b12, mixed mode)

2. 下載并安裝mycat

2.1. 關(guān)于mycat

獲取MyCAT的最新開源版本,項(xiàng)目主頁http://www.mycat.io/

2.2. 下載mycat

<u>http://dl.mycat.io/</u>

2.3. 安裝mycat

下載并解壓后,建議放在/usr/local/mycat目錄下, 并加入環(huán)境變量中:

mycat

export PATH=${PATH}:/usr/local/mycat/bin.

2.4. 目錄解釋

--bin 啟動(dòng)目錄

--conf 配置目錄存放配置文件:

--server.xml:是Mycat服務(wù)器參數(shù)調(diào)整和用戶授權(quán)的配置文件。

--schema.xml:是邏輯庫定義和表以及分片定義的配置文件。

--rule.xml: 是分片規(guī)則的配置文件,分片規(guī)則的具體一些參數(shù)信息單獨(dú)存放為文件,也在這個(gè)目錄下,配置文件修改需要重啟MyCAT。

--log4j.xml: 日志存放在logs/log中,每天一個(gè)文件,日志的配置是在conf/log4j.xml中,根據(jù)自己的需要可以調(diào)整輸出級(jí)別為debug debug級(jí)別下,會(huì)輸出更多的信息,方便排查問題。

--autopartition-long.txt,partition-hash-int.txt,sequence_conf.properties, sequence_db_conf.properties 分片相關(guān)的id分片規(guī)則配置文件

--lib MyCAT自身的jar包或依賴的jar包的存放目錄。

--logs MyCAT日志的存放目錄。日志存放在logs/log中,每天一個(gè)文件

| 附官方完整配置及個(gè)人注釋

我們識(shí)別下配置中重要結(jié)構(gòu)及名詞解釋對(duì)照

    + mycat
        + 邏輯庫(虛擬庫)(schema)
            + 邏輯表(虛擬表)(table)
                + 數(shù)據(jù)庫實(shí)例-分片節(jié)點(diǎn)(dataNode)、表-分片規(guī)則(type='global' 或者 rule='xxx')
    + 數(shù)據(jù)庫實(shí)例
        + 數(shù)據(jù)庫實(shí)例-分片節(jié)(dataNode):對(duì)應(yīng)到多個(gè)數(shù)據(jù)庫實(shí)例
        + 節(jié)點(diǎn)主機(jī)(物理主機(jī))(dataHost):對(duì)應(yīng)到一個(gè)數(shù)據(jù)庫實(shí)例存在于多少臺(tái)主機(jī)(主主復(fù)制+主從復(fù)制))
            + 寫主機(jī)(writeHost): 多個(gè)主主復(fù)制的主主機(jī)
                + 讀主機(jī)(readHost):多個(gè)主從復(fù)制的從主機(jī)

server.xml

<?xml version="1.0" encoding="UTF-8"?>
<!-- 
    -server.xml:是Mycat服務(wù)器參數(shù)調(diào)整和用戶授權(quán)的配置文件。

    -schema.xml:是邏輯庫定義和表以及分片定義的配置文件。

    -rule.xml:  是分片規(guī)則的配置文件,分片規(guī)則的具體一些參數(shù)信息單獨(dú)存放為文件,也在這個(gè)目錄下,配置文件修改需要重啟MyCAT。

    -log4j.xml: 日志存放在logs/log中,每天一個(gè)文件,日志的配置是在conf/log4j.xml中,根據(jù)自己的需要可以調(diào)整輸出級(jí)別為debug。debug級(jí)別下,會(huì)輸出更多的信息,方便排查問題。

    -autopartition-long.txt,partition-hash-int.txt,sequence_conf.properties, sequence_db_conf.properties 分片相關(guān)的id分片規(guī)則配置文件

    -lib        MyCAT自身的jar包或依賴的jar包的存放目錄。

    -logs        MyCAT日志的存放目錄。日志存放在logs/log中,每天一個(gè)文件
 -->
<!-- - - Licensed under the Apache License, Version 2.0 (the "License"); 
    - you may not use this file except in compliance with the License. - You 
    may obtain a copy of the License at - - http://www.apache.org/licenses/LICENSE-2.0 
    - - Unless required by applicable law or agreed to in writing, software - 
    distributed under the License is distributed on an "AS IS" BASIS, - WITHOUT 
    WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. - See the 
    License for the specific language governing permissions and - limitations 
    under the License. -->
<!DOCTYPE mycat:server SYSTEM "server.dtd">
<mycat:server xmlns:mycat="http://io.mycat/">
    <system>
        <property name="nonePasswordLogin">0</property> <!-- 0為需要密碼登陸、1為不需要密碼登陸 ,默認(rèn)為0,設(shè)置為1則需要指定默認(rèn)賬戶-->
        <property name="useHandshakeV10">1</property>
        <property name="useSqlStat">0</property>  <!-- 1為開啟實(shí)時(shí)統(tǒng)計(jì)、0為關(guān)閉 -->
        <property name="useGlobleTableCheck">0</property>  <!-- 1為開啟全加班一致性檢測(cè)、0為關(guān)閉 -->

        <property name="sequnceHandlerType">2</property>
        <!--<property name="sequnceHandlerPattern">(?:(\s*next\s+value\s+for\s*MYCATSEQ_(\w+))(,|\)|\s)*)+</property>-->
        <!--必須帶有MYCATSEQ_或者 mycatseq_進(jìn)入序列匹配流程 注意MYCATSEQ_有空格的情況-->
        <property name="sequnceHandlerPattern">(?:(\s*next\s+value\s+for\s*MYCATSEQ_(\w+))(,|\)|\s)*)+</property>
        <property name="subqueryRelationshipCheck">false</property> <!-- 子查詢中存在關(guān)聯(lián)查詢的情況下,檢查關(guān)聯(lián)字段中是否有分片字段 .默認(rèn) false -->
        <!--  <property name="useCompression">1</property>--> <!--1為開啟mysql壓縮協(xié)議-->
        <!--  <property name="fakeMySQLVersion">5.6.20</property>--> <!--設(shè)置模擬的MySQL版本號(hào)-->
        <!-- <property name="processorBufferChunk">40960</property> -->
        <!-- 
        <property name="processors">1</property> 
        <property name="processorExecutor">32</property> 
         -->
        <!--默認(rèn)為type 0: DirectByteBufferPool | type 1 ByteBufferArena | type 2 NettyBufferPool -->
        <property name="processorBufferPoolType">0</property>
        <!--默認(rèn)是65535 64K 用于sql解析時(shí)最大文本長(zhǎng)度 -->
        <!--<property name="maxStringLiteralLength">65535</property>-->
        <!--<property name="sequnceHandlerType">0</property>-->
        <!--<property name="backSocketNoDelay">1</property>-->
        <!--<property name="frontSocketNoDelay">1</property>-->
        <!--<property name="processorExecutor">16</property>-->
        <!--
        <property name="serverPort">8066</property> <property name="managerPort">9066</property> 
        <property name="idleTimeout">300000</property> <property name="bindIp">0.0.0.0</property> 
        <property name="frontWriteQueueSize">4096</property> <property name="processors">32</property> -->
        <!--分布式事務(wù)開關(guān),0為不過濾分布式事務(wù),1為過濾分布式事務(wù)(如果分布式事務(wù)內(nèi)只涉及全局表,則不過濾),2為不過濾分布式事務(wù),但是記錄分布式事務(wù)日志-->
        <property name="handleDistributedTransactions">0</property>
        
        <!--
            off heap for merge/order/group/limit      1開啟   0關(guān)閉
        -->
        <property name="useOffHeapForMerge">0</property>

        <!--
            單位為m
        -->
        <property name="memoryPageSize">64k</property>

        <!--
            單位為k
        -->
        <property name="spillsFileBufferSize">1k</property>

        <property name="useStreamOutput">0</property>

        <!--
            單位為m
        -->
        <property name="systemReserveMemorySize">384m</property>


        <!--是否采用zookeeper協(xié)調(diào)切換  -->
        <property name="useZKSwitch">false</property>

        <!-- XA Recovery Log日志路徑 -->
        <!--<property name="XARecoveryLogBaseDir">./</property>-->

        <!-- XA Recovery Log日志名稱 -->
        <!--<property name="XARecoveryLogBaseName">tmlog</property>-->
        <!--如果為 true的話 嚴(yán)格遵守隔離級(jí)別,不會(huì)在僅僅只有select語句的時(shí)候在事務(wù)中切換連接-->
        <property name="strictTxIsolation">false</property>
        
        <property name="useZKSwitch">true</property>
        
    </system>
    
    <!-- 全局SQL防火墻設(shè)置 -->
    <!--白名單可以使用通配符%或著*-->
    <!--例如<host host="127.0.0.*" user="root"/>-->
    <!--例如<host host="127.0.*" user="root"/>-->
    <!--例如<host host="127.*" user="root"/>-->
    <!--例如<host host="1*7.*" user="root"/>-->
    <!--這些配置情況下對(duì)于127.0.0.1都能以root賬戶登錄-->
    <!--
    <firewall>
       <whitehost>
          <host host="1*7.0.0.*" user="root"/>
       </whitehost>
       <blacklist check="false">
       </blacklist>
    </firewall>
    -->

    <!-- 
        配置Mycat邏輯庫與用戶
    -->
    <user name="root" defaultAccount="true">
        <property name="password">123456</property>
        <property name="schemas">TESTDB</property>
        
        <!-- 表級(jí) DML 權(quán)限設(shè)置 -->
        <!--        
        <privileges check="false">
            <schema name="TESTDB" dml="0110" >
                <table name="tb01" dml="0000"></table>
                <table name="tb02" dml="1111"></table>
            </schema>
        </privileges>       
         -->
    </user>

    <user name="user">
        <property name="password">user</property>
        <property name="schemas">TESTDB</property>
        <property name="readOnly">true</property>
    </user>

</mycat:server>

schema.xml

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">
    <!-- 
        邏輯庫定義和表以及分片定義的配置文件 
    -->
    <!--  
        邏輯庫
    -->
    <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">
        <!--  
            邏輯表配置 name=xxx;表分片規(guī)則 rule=xxx
        -->
        <!-- auto sharding by id (long) -->
        <table name="travelrecord" dataNode="dn1,dn2,dn3" rule="auto-sharding-long" />

        <!-- global table is auto cloned to all defined data nodes ,so can join with any table whose sharding node is in the same data node -->
        <table name="company" primaryKey="ID" type="global" dataNode="dn1,dn2,dn3" />
        <table name="goods" primaryKey="ID" type="global" dataNode="dn1,dn2" />
        
        <!-- 分片規(guī)則為取模時(shí),與邏輯表中定義的分片節(jié)點(diǎn)順序有關(guān),從左到右索引從0開始遞增(分片節(jié)點(diǎn)個(gè)數(shù)-1) -->
        <!-- random sharding using mod sharind rule -->
        <table name="hotnews" primaryKey="ID" autoIncrement="true" dataNode="dn1,dn2,dn3" rule="mod-long" />
        <!-- <table name="dual" primaryKey="ID" dataNode="dnx,dnoracle2" type="global" needAddLimit="false"/> <table name="worker" primaryKey="ID" dataNode="jdbc_dn1,jdbc_dn2,jdbc_dn3" rule="mod-long" /> -->

        <table name="employee" primaryKey="ID" dataNode="dn1,dn2" rule="sharding-by-intfile" />
        <table name="customer" primaryKey="ID" dataNode="dn1,dn2" rule="sharding-by-intfile">
            <childTable name="orders" primaryKey="ID" joinKey="customer_id" parentKey="id">
                <childTable name="order_items" joinKey="order_id" parentKey="id" />
            </childTable>
            <childTable name="customer_addr" primaryKey="ID" joinKey="customer_id" parentKey="id" />
        </table>
        <!-- <table name="oc_call" primaryKey="ID" dataNode="dn1$0-743" rule="latest-month-calldate" /> -->
    </schema>

    <!--  
        分片節(jié)點(diǎn):配置分片(dataNode)
    -->
    <!-- <dataNode name="dn1$0-743" dataHost="localhost1" database="db$0-743" /> -->
    <dataNode name="dn1" dataHost="localhost1" database="db1" />
    <dataNode name="dn2" dataHost="localhost1" database="db2" />
    <dataNode name="dn3" dataHost="localhost1" database="db3" />
    <!--<dataNode name="dn4" dataHost="sequoiadb1" database="SAMPLE" />
    <dataNode name="jdbc_dn1" dataHost="jdbchost" database="db1" />
    <dataNode   name="jdbc_dn2" dataHost="jdbchost" database="db2" />
    <dataNode name="jdbc_dn3"   dataHost="jdbchost" database="db3" /> -->

    <!--  
        節(jié)點(diǎn)主機(jī):配置物理庫分片映射(dataHost)

        修改dataHost和schema對(duì)應(yīng)的連接信息,user,pay 垂直切分后的配置如下所示:

        schema 是實(shí)際邏輯庫的配置,user,pay分別對(duì)應(yīng)兩個(gè)邏輯庫,多個(gè)schema代表多個(gè)邏輯庫。

        dataNode是邏輯庫對(duì)應(yīng)的分片,如果配置多個(gè)分片只需要多個(gè)dataNode即可。

        dataHost是實(shí)際的物理庫配置地址,可以配置多主主從等其他配置,多個(gè)dataHost代表分片對(duì)應(yīng)的物理庫地址,下面的writeHost、readHost代表該分片是否配置多寫,主從,讀寫分離等高級(jí)特性。
    -->
    <!-- 
        (1)設(shè)置 balance="1"與writeType="0"
            Balance參數(shù)設(shè)置:
                1. balance=“0”, 所有讀操作都發(fā)送到當(dāng)前可用的writeHost上。
                2. balance=“1”,所有讀操作都隨機(jī)的發(fā)送到readHost。
                3. balance=“2”,所有讀操作都隨機(jī)的在writeHost、readhost上分發(fā)
            WriteType參數(shù)設(shè)置:
                1. writeType=“0”, 所有寫操作都發(fā)送到可用的writeHost上。
                2. writeType=“1”,所有寫操作都隨機(jī)的發(fā)送到readHost。
                3. writeType=“2”,所有寫操作都隨機(jī)的在writeHost、readhost分上發(fā)。
                “readHost是從屬于writeHost的,即意味著它從那個(gè)writeHost獲取同步數(shù)據(jù),因此,當(dāng)它所屬的writeHost宕機(jī)了,則它也不會(huì)再參與到讀寫分離中來,即“不工作了”,這是因?yàn)榇藭r(shí),它的數(shù)據(jù)已經(jīng)“不可靠”了。基于這個(gè)考慮,目前mycat 1.3和1.4版本中,若想支持MySQL一主一從的標(biāo)準(zhǔn)配置,并且在主節(jié)點(diǎn)宕機(jī)的情況下,從節(jié)點(diǎn)還能讀取數(shù)據(jù),則需要在Mycat里配置為兩個(gè)writeHost并設(shè)置banlance=1。”
                注意:請(qǐng)不要配置writeType=1,會(huì)導(dǎo)致數(shù)據(jù)庫不一致的嚴(yán)重問題。

            重點(diǎn)測(cè)試balance = 1 & wirteType = 0 時(shí)
                 | writeHost | 是否存在readHost | readHost | 查詢                                                  | 更新                            | 注意                                                                                                                                                                                                                                                                                                                                         |
                 | 正常      | 是               | 正常     | 優(yōu)先readHost                                          | 優(yōu)先writeHost優(yōu)先               | 當(dāng)只有一個(gè)writeHost時(shí),因?yàn)閞eadHost屬于writeHost,當(dāng)writeHost不可用時(shí),readHost同樣不可以使用。當(dāng)有多個(gè)writeHost時(shí),其中一個(gè)writeHost有故障且包含readHost,而其他writeHost可用時(shí),readHost可用到心跳檢測(cè)后,因?yàn)橐呀?jīng)判定其父主機(jī)writeHost不可用。然后切換到可用的writeHost主機(jī)。若其他writeHost有不可用的則所有的writeHost和readHost將不可用 |
                 | 正常      | 否               | 無       | writeHost                                             | writeHost                       |   當(dāng)有多個(gè)writeHost且有一個(gè)故障時(shí),在心跳檢測(cè)之前所有的writeHost都不可用,檢測(cè)過后可用的writeHost正常使用。                                                                                                                                                                                                                                                                                                                                           |
                 | 正常      | 是               | 不正常   | 先嘗試readHost,等到心跳檢測(cè)到故障點(diǎn)后切換到writeHost |       無延遲,直接使用writeHost |  當(dāng)writeHost中包含多個(gè)readHost時(shí),有其中一個(gè)readHost故障則,切換到故障的readHost時(shí)會(huì)自動(dòng)切換到WriteHost中,而正常的readHost不受影響。                                                                                                                                                                                                                                                                                                                                            |
        (2)設(shè)置 switchType="2" 與slaveThreshold="100"
            - -1 表示不自動(dòng)切換
            - 1 默認(rèn)值,自動(dòng)切換
            - 2 基于MySQL主從同步的狀態(tài)決定是否切換
            “Mycat心跳檢查語句配置為 show slave status ,dataHost 上定義兩個(gè)新屬性: switchType="2" 與slaveThreshold="100",此時(shí)意味著開啟MySQL主從復(fù)制狀態(tài)綁定的讀寫分離與切換機(jī)制。Mycat心跳機(jī)制通過檢測(cè) show slave status 中的 "Seconds_Behind_Master", "Slave_IO_Running", "Slave_SQL_Running" 三個(gè)字段來確定當(dāng)前主從同步的狀態(tài)以及Seconds_Behind_Master主從復(fù)制時(shí)延。“

        !!!注意:配置writeHost與readHost的使用,需要配合mysql服務(wù)器做主從或者主主或者集群!!!!
     -->

    <dataHost name="localhost1" maxCon="1000" minCon="10" balance="1" writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100"> 
        <heartbeat>select user()</heartbeat>
        <!-- mycat連接的數(shù)據(jù)庫配置(mysql服務(wù)器) -->
        <!-- 根據(jù)節(jié)點(diǎn)主機(jī) dataHost name="localhost1" 對(duì)應(yīng)的分片節(jié)點(diǎn) dataNode 包含三個(gè)數(shù)據(jù)庫:db1、db2、db3,則數(shù)據(jù)庫在建表時(shí)應(yīng)將數(shù)據(jù)庫建立好 -->
        <!-- can have multi write hosts -->
        <writeHost host="hostM4" url="192.168.99.100:33060" user="root" password="p" >
            <!-- <readHost host="hostS4" url="192.168.99.100:33061" user="root" password="p" /> -->
            <!-- <readHost host="hostS41" url="127.0.0.1:3306" user="root" password="leeprince" /> -->
        </writeHost>
        <writeHost host="hostM1" url="127.0.0.1:3306" user="root" password="leeprince">
            <!-- <readHost host="hostM3" url="192.168.99.100:33060" user="root" password="p" />
            <readHost host="hostS1" url="192.168.99.100:33061" user="root" password="p" /> -->
        </writeHost>
        <!-- <writeHost host="hostM2" url="192.168.99.100:33060" user="root" password="p">
            <readHost host="hostS2" url="192.168.99.100:33061" user="root" password="p" />
        </writeHost> -->
        <!-- <writeHost host="hostM3" url="192.168.99.100:33060" user="root" password="p" /> -->
        
    </dataHost>
    
    <!-- <dataHost name="sequoiadb1" maxCon="1000" minCon="1" balance="0" dbType="sequoiadb" dbDriver="jdbc">
        <heartbeat>         </heartbeat>
        <writeHost host="hostM1" url="sequoiadb://1426587161.dbaas.sequoialab.net:11920/SAMPLE" user="jifeng"   password="jifeng">
            
        </writeHost>
    </dataHost> -->

    <!-- <dataHost name="oracle1" maxCon="1000" minCon="1" balance="0" writeType="0"    dbType="oracle" dbDriver="jdbc"> 
        <heartbeat>select 1 from dual</heartbeat>
        <connectionInitSql>alter session set nls_date_format='yyyy-mm-dd hh24:mi:ss'</connectionInitSql>
        <writeHost host="hostM1" url="jdbc:oracle:thin:@127.0.0.1:1521:nange" user="base"   password="123456" > 

        </writeHost> 
    </dataHost> -->

    <!-- <dataHost name="jdbchost" maxCon="1000"    minCon="1" balance="0" writeType="0" dbType="mongodb" dbDriver="jdbc">
        <heartbeat>select   user()</heartbeat>
        <writeHost host="hostM" url="mongodb://192.168.0.99/test" user="admin" password="123456" >
            
        </writeHost> 
    </dataHost> -->

    <!-- <dataHost name="sparksql" maxCon="1000" minCon="1" balance="0" dbType="spark" dbDriver="jdbc">
        <heartbeat> </heartbeat>
        <writeHost host="hostM1" url="jdbc:hive2://feng01:10000" user="jifeng"  password="jifeng">
            
        </writeHost> 
     </dataHost>  -->

    <!-- <dataHost name="jdbchost" maxCon="1000" minCon="10" balance="0" dbType="mysql" dbDriver="jdbc"> 
        <heartbeat>select user()</heartbeat> 
        <writeHost host="hostM1" url="jdbc:mysql://localhost:3306" user="root" password="123456"> </writeHost>
    </dataHost> -->
</mycat:schema>
rule.xml

<?xml version="1.0" encoding="UTF-8"?>
<!-- 
    分片規(guī)則的配置文件,分片規(guī)則的具體一些參數(shù)信息單獨(dú)存放為文件,也在這個(gè)目錄下,配置文件修改需要重啟MyCAT 
-->
<!-- - - Licensed under the Apache License, Version 2.0 (the "License"); 
    - you may not use this file except in compliance with the License. - You 
    may obtain a copy of the License at - - http://www.apache.org/licenses/LICENSE-2.0 
    - - Unless required by applicable law or agreed to in writing, software - 
    distributed under the License is distributed on an "AS IS" BASIS, - WITHOUT 
    WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. - See the 
    License for the specific language governing permissions and - limitations 
    under the License. -->
<!DOCTYPE mycat:rule SYSTEM "rule.dtd">
<mycat:rule xmlns:mycat="http://io.mycat/">
    <!-- 
        name 為schema.xml 中table 標(biāo)簽中對(duì)應(yīng)的 rule="sharding-by-hour" ,也就是配置表的分片規(guī)則,
        columns 是表的切分字段: createTime 創(chuàng)建日期。
        algorithm 是規(guī)則對(duì)應(yīng)的切分規(guī)則:映射到function 的name。
    -->

    <tableRule name="rule1">
        <rule>
            <columns>id</columns>
            <algorithm>func1</algorithm>
        </rule>
    </tableRule>

    <tableRule name="rule2">
        <rule>
            <columns>user_id</columns>
            <algorithm>func1</algorithm>
        </rule>
    </tableRule>

    <tableRule name="sharding-by-intfile">
        <rule>
            <columns>sharding_id</columns>
            <algorithm>hash-int</algorithm>
        </rule>
    </tableRule>
    <tableRule name="auto-sharding-long">
        <rule>
            <columns>id</columns>
            <algorithm>rang-long</algorithm>
        </rule>
    </tableRule>
    <tableRule name="mod-long">
        <rule>
            <columns>id</columns>
            <algorithm>mod-long</algorithm>
        </rule>
    </tableRule>
    <tableRule name="sharding-by-murmur">
        <rule>
            <columns>id</columns>
            <algorithm>murmur</algorithm>
        </rule>
    </tableRule>
    <tableRule name="crc32slot">
        <rule>
            <columns>id</columns>
            <algorithm>crc32slot</algorithm>
        </rule>
    </tableRule>
    <tableRule name="sharding-by-month">
        <rule>
            <columns>create_time</columns>
            <algorithm>partbymonth</algorithm>
        </rule>
    </tableRule>
    <tableRule name="latest-month-calldate">
        <rule>
            <columns>calldate</columns>
            <algorithm>latestMonth</algorithm>
        </rule>
    </tableRule>
    
    <tableRule name="auto-sharding-rang-mod">
        <rule>
            <columns>id</columns>
            <algorithm>rang-mod</algorithm>
        </rule>
    </tableRule>
    
    <tableRule name="jch">
        <rule>
            <columns>id</columns>
            <algorithm>jump-consistent-hash</algorithm>
        </rule>
    </tableRule>

    <function name="murmur" class="io.mycat.route.function.PartitionByMurmurHash">
        <property name="seed">0</property><!-- 默認(rèn)是0 -->
        <property name="count">2</property><!-- 要分片的數(shù)據(jù)庫節(jié)點(diǎn)數(shù)量,必須指定,否則沒法分片 -->
        <property name="virtualBucketTimes">160</property><!-- 一個(gè)實(shí)際的數(shù)據(jù)庫節(jié)點(diǎn)被映射為這么多虛擬節(jié)點(diǎn),默認(rèn)是160倍,也就是虛擬節(jié)點(diǎn)數(shù)是物理節(jié)點(diǎn)數(shù)的160倍 -->
        <!-- <property name="weightMapFile">weightMapFile</property> 節(jié)點(diǎn)的權(quán)重,沒有指定權(quán)重的節(jié)點(diǎn)默認(rèn)是1。以properties文件的格式填寫,以從0開始到count-1的整數(shù)值也就是節(jié)點(diǎn)索引為key,以節(jié)點(diǎn)權(quán)重值為值。所有權(quán)重值必須是正整數(shù),否則以1代替 -->
        <!-- 用于測(cè)試時(shí)觀察各物理節(jié)點(diǎn)與虛擬節(jié)點(diǎn)的分布情況,如果指定了這個(gè)屬性,會(huì)把虛擬節(jié)點(diǎn)的murmur hash值與物理節(jié)點(diǎn)的映射按行輸出到這個(gè)文件,沒有默認(rèn)值,如果不指定,就不會(huì)輸出任何東西 -->
        <property name="bucketMapPath">/etc/mycat/bucketMapPath</property> 
    </function>

    <function name="crc32slot" class="io.mycat.route.function.PartitionByCRC32PreSlot">
    </function>
    <function name="hash-int" class="io.mycat.route.function.PartitionByFileMap">
        <property name="mapFile">partition-hash-int.txt</property>
    </function>
    <function name="rang-long" class="io.mycat.route.function.AutoPartitionByLong">
        <property name="mapFile">autopartition-long.txt</property>
    </function>
    <function name="mod-long" class="io.mycat.route.function.PartitionByMod">
        <!-- how many data nodes -->
        <property name="count">3</property>
    </function>

    <function name="func1" class="io.mycat.route.function.PartitionByLong">
        <property name="partitionCount">8</property>
        <property name="partitionLength">128</property>
    </function>
    <function name="latestMonth" class="io.mycat.route.function.LatestMonthPartion">
        <property name="splitOneDay">24</property>
    </function>
    <function name="partbymonth" class="io.mycat.route.function.PartitionByMonth">
        <property name="dateFormat">yyyy-MM-dd</property>
        <property name="sBeginDate">2015-01-01</property>
    </function>
    
    <function name="rang-mod" class="io.mycat.route.function.PartitionByRangeMod">
            <property name="mapFile">partition-range-mod.txt</property>
    </function>
    
    <function name="jump-consistent-hash" class="io.mycat.route.function.PartitionByJumpConsistentHash">
        <property name="totalBuckets">3</property>
    </function>
</mycat:rule>

2.4.1. bin 程序目錄

存放了window版本、linux版本 、mac,除了提供封裝成服務(wù)的版本之外,也提供了nowrap的shell腳本命令,方便大家選擇和修改

2.4.2. conf目錄下存放配置文件

server.xml是Mycat服務(wù)器參數(shù)調(diào)整和用戶授權(quán)的配置文件,schema.xml是邏輯庫定義和表以及分片定義的配置文件,rule.xml是分片規(guī)則的配置文件,分片規(guī)則的具體一些參數(shù)信息單獨(dú)存放為文件,也在這個(gè)目錄下,配置文件修改,需要重啟Mycat或者通過9066端口reload。

提示:訪問MyCAT的用戶賬號(hào)和授權(quán)信息是在conf/server.xml文件中配置,而MyCAT用來連接后端MySQL庫的用戶名密碼信息則在conf/schema.xml中,這是兩套完全獨(dú)立的系統(tǒng),類似的還有MyCAT的邏輯庫(schema),邏輯表(table)也是類似的。

2.4.3. 日志存放在logs/mycat.log

每天一個(gè)文件,日志的配置是在conf/log4j.xml中,根據(jù)自己的需要,可以調(diào)整輸出級(jí)別為debug,debug級(jí)別下,會(huì)輸出更多的信息,方便排查問題。

注意,wrap方式的程序,其JVM配置參數(shù)在conf/wrap.conf中,可以修改為合適的參數(shù),參數(shù)調(diào)整參照http://wrapper.tanukisoftware.com/doc/english/properties.html。用下面是一段實(shí)例:

注:mycat必須依賴 >=jdk1.7,在1.6的情景下會(huì)報(bào)錯(cuò),如果機(jī)器未升級(jí)可以指定jdk的目錄,我考了一個(gè)jdk的包出來的,添加的絕對(duì)路徑,根據(jù)情況定。

wrapper.java.command=/usr/local/Mycat/jdk1.7.0/bin/java

Java Additional Parameters

wrapper.java.additional.5=-XX:MaxDirectMemorySize=2G

wrapper.java.additional.6=-Dcom.sun.management.jmxremote

Initial Java Heap Size (in MB)

wrapper.java.initmemory=2048

Maximum Java Heap Size (in MB)

wrapper.java.maxmemory=2048

若啟動(dòng)報(bào)內(nèi)存不夠,可以試著將上述內(nèi)存都改小,改為1G或500M。

3. 關(guān)于mycat命令,并啟動(dòng)

./mycat start 啟動(dòng)

./mycat stop 停止

./mycat console 前臺(tái)運(yùn)行

./mycat install 添加到系統(tǒng)自動(dòng)啟動(dòng)(暫未實(shí)現(xiàn))

./mycat remove 取消隨系統(tǒng)自動(dòng)啟動(dòng)(暫未實(shí)現(xiàn))

./mycat restart 重啟服務(wù)

./mycat pause 暫停

./mycat status 查看啟動(dòng)狀態(tài)

4. 啟動(dòng)mysql

用命令行工具或圖形化客戶端,連接MYSQL,創(chuàng)建DEMO所用三個(gè)分片數(shù)據(jù)庫;

CREATE database db1;

CREATE database db2;

CREATE database db3;

注意:若是LINUX版本的MYSQL,則需要設(shè)置為Mysql大小寫不敏感,否則可能會(huì)發(fā)生表找不到的問題。windows與mac不需要

注:在MySQL的配置文件中my.ini [mysqld] 中增加一行

lower_case_table_names = 1

5. 修改配置并啟動(dòng)mycat

5.1. 修改配置

編輯MYCAT_HOME/conf/schema.xml文件,修改節(jié)點(diǎn)主機(jī)dataHost對(duì)應(yīng)的連接信息:

<dataNode name="dn1" dataHost="localhost1" database="db1" />

<dataNode name="dn2" dataHost="localhost1" database="db2" />

<dataNode name="dn3" dataHost="localhost1" database="db3" />

<dataHost name="localhost1" maxCon="1000" minCon="10" balance="0" writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">

    <heartbeat>select user()</heartbeat>

    <!-- mycat連接的數(shù)據(jù)庫配置(mysql服務(wù)器) -->

    <!-- 根據(jù)節(jié)點(diǎn)主機(jī) dataHost name="localhost1" 對(duì)應(yīng)的分片節(jié)點(diǎn) dataNode 包含三個(gè)數(shù)據(jù)庫:db1、db2、db3,則數(shù)據(jù)庫在建表時(shí)應(yīng)將數(shù)據(jù)庫建立好 -->

    <!-- can have multi write hosts -->

    <writeHost host="hostM1" url="127.0.0.1:3306" user="root" password="leeprince">

        <!-- can have multi read hosts -->

        <!-- <readHost host="hostS2" url="192.168.1.200:3306" user="root" password="xxx" /> -->

    </writeHost>

    <!-- <writeHost host="hostS1" url="localhost:3316" user="root" password="123456" /> -->

    <!-- <writeHost host="hostM2" url="localhost:3316" user="root" password="123456"/> -->

</dataHost>

注意writeHost/readHost中的location,user,password的值符合你所采用的Mysql的連接信息。

修改完成后保存

5.2. 啟動(dòng)mycat

進(jìn)入到MYCAT_HOME/bin(如果已經(jīng)配置則直接mycat)目錄下,執(zhí)行啟動(dòng)命令:mycat start

注意,默認(rèn)數(shù)據(jù)端口為8066,管理端口為9066。

6. 連接mycat

6.1.客戶端連接

客戶端也可以用圖形化的客戶端如:mysqlworkbench、 navicat 、以及一些基于Java的數(shù)據(jù)庫客戶端來訪問,注意要填寫端口號(hào)8066
客戶端連接之后如果報(bào)如下錯(cuò)誤,請(qǐng)忽略,原因mycat與mysql正在連接或者有延遲

  1. 3000 - No MyCAT Database selected

  2. 1064 - find no Route:SELECT user, host, password, ssl_type, ssl_cipher, x509_issuer, x509_subject, max_questions, max_updates, max_connections, super_priv, max_user_connections FROM mysql.user ORDER BY user

6.2.命令連接

命令行運(yùn)行:mysql -uroot -p123456 -h127.0.0.1 -P8066 -DTESTDB --default_auth=mysql_native_password 就能訪問了,以下操作都在此命令行里執(zhí)行(JDBC則將mysql的URL中的端口3306改為8066即可)

mysql -uroot -p123456 -h127.0.0.1 -P8066 -DTESTDB --default_auth=mysql_native_password
說明:
--default_auth=mysql_native_password

本人數(shù)據(jù)庫是mysql8.0.13,由于版本原因,不加則報(bào)錯(cuò):ERROR 1045 (HY000): Access denied for user 'root', because password is error;這是因?yàn)榕c5.7的驗(yàn)證插件有關(guān),mysql8默認(rèn)為:caching_sha2_password;5.7默認(rèn)為:mysql_native_password

127.0.0.1 不能替換為localhost

具體原因請(qǐng)查看源碼

注:9066端口是管理端口,相關(guān)命令在連接進(jìn)入之后,通過show @@help查看

7. 測(cè)試邏輯庫、邏輯表、分片節(jié)點(diǎn)、分片規(guī)則、節(jié)點(diǎn)主機(jī)

7.1. employee表

Employee表,是根據(jù)規(guī)則sharding-by-intfile (分片字段為sharding_id)進(jìn)行分片。創(chuàng)建employee表:輸入如下SQL

create table employee (id int not null primary key,name varchar(100),sharding_id int not null);

運(yùn)行explain指令,查看該SQL被發(fā)往哪些分片節(jié)點(diǎn)執(zhí)行:

explaincreate table employee (id int not null primary key,name varchar(100),sharding_id int not null);

建議參照schema.xml中employee表的定義,以及其分片規(guī)則,來看看什么數(shù)據(jù)會(huì)出現(xiàn)在dn1上,什么數(shù)據(jù)會(huì)出現(xiàn)在dn2上。

溫馨提示:explain可以用于任何正確的SQL上,其作用是告訴你,這條SQL會(huì)路由到哪些分片節(jié)點(diǎn)上執(zhí)行,這對(duì)于診斷分片相關(guān)的問題很有幫助。另外,explain可以安全的執(zhí)行多次,它僅僅是告訴你SQL的路由分片,而不會(huì)執(zhí)行該SQL。

插入數(shù)據(jù):

insert into employee(id,name,sharding_id) values(1,'leader us',10000);

insert into employee(id,name,sharding_id) values(2, 'me',10010);

insert into employee(id,name,sharding_id) values(3, 'mycat',10000);

insert into employee(id,name,sharding_id) values(4, 'mydog',10010);

7.2. company表

company表是根據(jù)規(guī)則auto-sharding-long(主鍵范圍)進(jìn)行分片。

創(chuàng)建company表:輸入如下SQL

create table company(id int not null primary key,name varchar(100));

錄入數(shù)據(jù):

 insert into company(id,name) values(1,'hp');

 insert into company(id,name) values(2,'ibm');

 insert into company(id,name) values(3,'oracle');

你會(huì)看到三個(gè)分片上都插入了3條數(shù)據(jù),因?yàn)閏ompany定義為全局表,用explain來確認(rèn)這個(gè)情況:

explain insert into company(id,name) values(1,'hp')

返回3個(gè)節(jié)點(diǎn)的信息:

| DATA_NODE | SQL |

+-----------+---------------------------------------------+

| dn1 | insert into company(id,name) values(1,'hp') |

| dn2 | insert into company(id,name) values(1,'hp') |

| dn3 | insert into company(id,name) values(1,'hp') |

+-----------+---------------------------------------------+

7.3. customer****表

創(chuàng)建表:

create table customer(id int not null primary key,name varchar(100),company_id int not null,sharding_id int not null);

插入數(shù)據(jù):

insert into customer (id,name,company_id,sharding_id )values(1,'wang',1,10000); //stored in db1;

insert into customer (id,name,company_id,sharding_id )values(2,'xue',2,10010); //stored in db2;

insert into customer (id,name,company_id,sharding_id )values(3,'feng',3,10000); //stored in db1;

查詢結(jié)果:

Select * from customer;

explain Select * from customer; (確認(rèn)數(shù)據(jù)是分片存儲(chǔ))

7.4. orders****表

創(chuàng)建表格orders,并插入數(shù)據(jù):

create table orders (id int not null primary key ,customer_id int not null,sataus int ,note varchar(100) );

insert into orders(id,customer_id) values(1,1); //stored in db1 because customer table with id=1 stored in db1

insert into orders(id,customer_id) values(2,2); //stored in db2 because customer table with id=1 stored in db2

查詢,支持JOIN!

  1. select customer.name ,orders.* from customer ,orders where customer.id=orders.customer_id;

  2. select t1.name ,t2.* from customer t1 ,orders t2where t1.id = t2.customer_id;

  3. selectt1.name ,t2.* from customer t1 join orders t2 on t1.id = t2.customer_id

7.5. travelrecord****表

travelrecord根據(jù)ID主鍵的范圍進(jìn)行分片:

create travelrecord: create table travelrecord (id bigint not null primary key,user_id varchar(100),traveldate DATE, fee decimal,days int);

insert into travelrecord (id,user_id,traveldate,fee,days) values(1,'wang','2014-01-05',510.5,3);這個(gè)ID就存放在分片0上了

explain insert into travelrecord (id,user_id,traveldate,fee,days) values(7000001,'wang','2014-01-05',510.5,3); 這個(gè)ID就存放在分片1上了

7.6. hotnews****表

熱點(diǎn)新聞,用取摸的方式隨機(jī)分配到dn1,dn2,dn3上

create table hotnews(id int not null primary key ,title varchar(400) ,created_time datetime);

插入數(shù)據(jù)

insert into hotnews(id,title,created_time) values(1,'first',now()); 在分片1上

而Id為5,則到dn3上,5%3=2 ,即對(duì)應(yīng)dn3的 index

7.7. goods表

全局表是自動(dòng)克隆到所有已定義的數(shù)據(jù)節(jié)點(diǎn)上的,因此可以與其位于分片節(jié)點(diǎn)中同一數(shù)據(jù)節(jié)點(diǎn)中的任何表連接(join)。

創(chuàng)建表

create table goods(id int not null primary key,name varchar(200),good_type tinyint,good_img_url varchar(200),good_created date,good_desc varchar(500), price double);

插入數(shù)據(jù)

INSERT INTO goods(id, name, good_type, good_img_url, good_created, good_desc, price) VALUES (1, 'googsprince01', 1, 'http://www.xx.com/imgs.jpg', '2019-10-22', 'princedesc01', 100.11);

注:測(cè)試參考官方鏈接:https://github.com/MyCATApache/Mycat-Server

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 230,247評(píng)論 6 543
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,520評(píng)論 3 429
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,362評(píng)論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我,道長(zhǎng),這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,805評(píng)論 1 317
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 72,541評(píng)論 6 412
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,896評(píng)論 1 328
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,887評(píng)論 3 447
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 43,062評(píng)論 0 290
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,608評(píng)論 1 336
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 41,356評(píng)論 3 358
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 43,555評(píng)論 1 374
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,077評(píng)論 5 364
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,769評(píng)論 3 349
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,175評(píng)論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,489評(píng)論 1 295
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 52,289評(píng)論 3 400
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 48,516評(píng)論 2 379

推薦閱讀更多精彩內(nèi)容