Mycat之数据库分片（自定义范围分片）-yellowcong

原创

wx59c5bf45605b9 2023-05-11 09:58:24 ©著作权

文章标签 数据库 mycat xml bc 其他 文章分类 OpenStack 云计算

©著作权归作者所有：来自51CTO博客作者wx59c5bf45605b9的原创作品，请联系作者获取转载授权，否则将追究法律责任

Mycat切片规则挺多的，我就简单讲讲一些吧，这个是自定义范围分片，简单来将，就是我有两个数据库，a放多少条记录，b放多少调数据。这样就实现了分片的操作。实现步骤：1、创建数据库。2、配置schemal.xml，3、配置service.xml,4、修改rule.xml，设置默认插入的节点、5、修改auto-sharding-long.txt,设置置分片范围。

创建数据库

这个地方我主键采用的是本地时间戳的方式来自动生成id

创建两个数据库，并都创建test表

#创建数据库
create database mycat;

#添加表
use mycat 
#创建表test
create table test6(id varchar(18) primary key,name varchar(32)) ;

#创建数据库
create database mycat2;

#添加表
use mycat 2
#创建表test
create table test6(id varchar(18) primary key,name varchar(32)) ;

Mycat之数据库分片（自定义范围分片）-yellowcong_mycat

配置mycat

1、配置schemal.xml

#编辑添加table
vim conf/schemal.xml

#添加表,设定rule="auto-sharding-long" ,自动根据范围分片
<table name="test6" dataNode="jdbc_node1,jdbc_node2" primaryKey="id" autoIncrement="true" rule="auto-sharding-long"/>

下面是完整配置

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">

        <schema name="yellowcong" checkSQLschema="false" sqlMaxLimit="1000">
                <table name="test6" dataNode="jdbc_node1,jdbc_node2" primaryKey="id" autoIncrement="true" rule="auto-sharding-long"/>

        </schema>

    <!--多个数据库-->
        <dataNode name="jdbc_node1" dataHost="localhost" database="mycat" />
        <dataNode name="jdbc_node2" dataHost="localhost" database="mycat2" />

        <!-- 快递员表，非分片表 -->

        <dataHost name="localhost" maxCon="1000" minCon="10" balance="0"
                          writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
                <heartbeat>select user()</heartbeat>

                <writeHost host="hostM1" url="127.0.0.1:3306" user="root" password="root" />

        </dataHost>   
</mycat:schema>

2、配置server.xml

#编辑
vim ./conf/server.xml

#确保这个id的生成策略为2 ，表示为根据时间戳
<property name="sequnceHandlerType">2</property>

下面是完整配置

<?xml version="1.0" encoding="UTF-8"?>
<!-- - - Licensed under the Apache License, Version 2.0 (the "License");
        - you may not use this file except in compliance with the License. - You
        may obtain a copy of the License at - - http://www.apache.org/licenses/LICENSE-2.0
        - - Unless required by applicable law or agreed to in writing, software -
        distributed under the License is distributed on an "AS IS" BASIS, - WITHOUT
        WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. - See the
        License for the specific language governing permissions and - limitations
        under the License. -->
<!DOCTYPE mycat:server SYSTEM "server.dtd">
<mycat:server xmlns:mycat="http://io.mycat/">
        <system>
        <property name="serverPort">8066</property>
        <property name="useSqlStat">0</property>  <!-- 1为开启实时统计、0为关闭 -->
        <property name="useGlobleTableCheck">0</property>  <!-- 1为开启全加班一致性检测、0为关闭 -->

                <property name="sequnceHandlerType">2</property>

                <!--默认为type 0: DirectByteBufferPool | type 1 ByteBufferArena-->
                <property name="processorBufferPoolType">0</property>

                <!--分布式事务开关，0为不过滤分布式事务，1为过滤分布式事务（如果分布式事务内只涉及全局表，则不过滤），2为不过滤分布式事务,但是记录分布式事务日志-->
                <property name="handleDistributedTransactions">0</property>

                        <!--
                        off heap for merge/order/group/limit      1开启   0关闭
                -->
                <property name="useOffHeapForMerge">1</property>

                <!--
                        单位为m
                -->
                <property name="memoryPageSize">1m</property>

                <!--
                        单位为k
                -->
                <property name="spillsFileBufferSize">1k</property>

                <property name="useStreamOutput">0</property>

                <!--
                        单位为m
                -->
                <property name="systemReserveMemorySize">384m</property>


                <!--是否采用zookeeper协调切换  -->
                <property name="useZKSwitch">true</property>

        </system>

        <user name="root">
                <property name="password">root</property>
                <property name="schemas">yellowcong</property>             
        </user>

        <user name="user">
                <property name="password">user</property>
                <property name="schemas">yellowcong</property>
                <property name="readOnly">true</property>
        </user>

</mycat:server>

3、修改rule.xml

vim ./conf/rule.xml

#添加defaultNode ，设定默认节点为0 ，不设定就会报错
<function name="rang-long"
         class="io.mycat.route.function.AutoPartitionByLong">
         <property name="mapFile">autopartition-long.txt</property>
         <property name="defaultNode">0</property>
 </function>

4、修改auto-sharding-long.txt

设定分片大小和规则

vim ./conf/autopartition-long.txt

#默认是三个，我们需要删除最后一个，不然就会报错，说节点少了
#K=1000条记录，M=10000条记录，那么下面三个配置就是0~500万的记录会存在数据库节点1的表中，500万~1000万会存在节点2的表中
0-500M=0
500M-1000M=1

Mycat之数据库分片（自定义范围分片）-yellowcong_其他_02

分片配置说明

可以看到，分片从schemal.xml一级一级的引用到组后的分片配置。

Mycat之数据库分片（自定义范围分片）-yellowcong_数据库_03

测试插入数据

重启服务器，然后进入mycat，测试数据

#进入mycat
mysql -h 127.0.0.1 -P 8066 -u root -proot

#使用yellowcong数据库
use yellowcong;

#插入多条数据
insert into test6 (name) values ('doubi1'),('doubi2'),('doubi3'),('yellowcong');

Mycat之数据库分片（自定义范围分片）-yellowcong_mycat_04

物理节点数据查看

#进入物理节点
mysql -h 127.0.0.1 -P 3306 -u root -proot

#查看节点1，也就是默认节点
select * from mycat.test6;

#查看节点2
select * from mycat2.test6;

查看物理节点中的数据情况，发现，只向默认节点中，插入了数据，没有向第二个节点中插入数据。

Mycat之数据库分片（自定义范围分片）-yellowcong_xml_05

错误集合

please make sure table datanode size = function partition size

出现这个问题的原因，可能是由于rule.xml配置文件问题，

Caused by: io.mycat.config.util.ConfigException: Illegal table conf : table [ TEST2 ] rule function [ rang-long ] partition size : 3 > table datanode size : 2, please make sure table datanode size = function partition size

Mycat之数据库分片（自定义范围分片）-yellowcong_xml_06

查看rule.xml文件

Mycat之数据库分片（自定义范围分片）-yellowcong_数据库_03

导致错误的原因查找，删除一个节点，就不会报错了。

Mycat之数据库分片（自定义范围分片）-yellowcong_其他_08

ERROR 1064 (HY000): bad insert sql (sharding column:ID not provided,INSERT INTO test2 (NULL, ‘doubi1’)

包这个问题的原因很明显，就是我们没有设置mycat中虚拟表的id自增，所以导致没有获取到id，所以导致了这个问题。

Mycat之数据库分片（自定义范围分片）-yellowcong_数据库_09

#修改后的语句
insert into test2(name) values('doubi1'),('doubi2'),('doubi3'),('yellowcong');

ERROR 1064 (HY000): insert must provide ColumnList

必须提供添加的列，直接插入，导致了问题，所以我们需要修该插入语句

Mycat之数据库分片（自定义范围分片）-yellowcong_其他_10

#原来语句
insert into test2 (null,'doubi1'),(null,'doubi2'),(null,'doubi3'),(null,'yellowcong');

#修改后的语句
insert into test2(name) values('doubi1'),('doubi2'),('doubi3'),('yellowcong');

can’t find any valid datanode :TEST2 -> ID ->

如果没有指定function中defaultNode值，则插入不识别的枚举值时，报以下错误，所以需要指定

ERROR 1064 (HY000): can't find any valid datanode :TEST2 -> ID -> 953095995447709696

Mycat之数据库分片（自定义范围分片）-yellowcong_其他_11

指定defaultNode，默认节点

<function name="rang-long"
               class="io.mycat.route.function.AutoPartitionByLong">
               <property name="mapFile">autopartition-long.txt</property>
               <property name="defaultNode">0</property>
       </function>

Out of range value for column ‘id’ at row 1

导致这个问题的大致原因可能是由于mycat生成的id和数据库的字符长度对不上，超过了数据库配置的默认长度所导致的。解决办法，就是修改数server.xml，设定id生成策略是根据数据库生成的。

Mycat之数据库分片（自定义范围分片）-yellowcong_xml_12

vim conf/server.xml

0 表示是表示使用本地文件方式。
1 表示的是根据数据库来生成
2 表示时间戳的方式 ID= 64 位二进制 (42(毫秒)+5(机器 ID)+5(业务编码)+12(重复累加)
<property name="sequnceHandlerType">2</property>