百万级mysql从库如何搭建
admin
2023-05-07 22:01:53
0

本文主要给大家简单讲讲百万级mysql从库如何搭建,相关专业术语大家可以上网查查或者找一些相关书籍补充一下,这里就不涉猎了,我们就直奔主题吧,希望百万级mysql从库如何搭建这篇文章可以给大家带来一些实际帮助。

背景:
 1.当前mysql:Ucloud高可用数据库实例,所属区域在北京。

 2.异地容灾需求、跨平台同步、后期的异地双活需求。

 3.新建从库:阿里云华南自建mysql。  
考察:

    1.Ucloud数据库实例基于mysql原版进行了二次开发,在结构上有些调整,在为每个实例搭配一个phpadmin进行管理,算是比较简单。高可用实例主库已做双主热备。Mysql5.7后支持一从多主。

    2.Aliyun数据库实例也进行过调整,修改比较多,对mysql库管控比较严以配合控制台的数据库管理。

    3.Aliyun数据库管理提供DTS工具,用于迁移数据,功能比较强大:迁移粒度、持续数据迁移(间接达到数据同步)、适合环境多。不适用当前需求原因:DTS迁移自建数据库需要公网访问源实例,太不安全。

    4.跨平台异地双活目前来看只能通过自建实现,业务架构还要大幅度调整。先实现跨平台异地备份吧。

    5.Mysl同步的数据包默认是明文传输,支持ssl验证,但在云平台上似乎不好实现(内网访问),先通过使用安全组控制访问解决安全问题,后期建立***,包传输走隧道改进。

情景汇总:
Mysql主(10.10.123.231):ucloud北京机房、高可用实例、内网访问、版本为5.6.20-ucloudrel1-log
Mysql从(172.17.3.42):aliyun华南自建

步骤:

   1.准备工作:
    aliyun平台新建ECS实例;根据源mysql版本安装相近版本,选择的mysql5.6.38,下载rpm包后,使用yum安装;初始化数据库,修改配置文件,并启动。
    考虑到后期会使用DTS,按建议添加配置;mysql5.6后添加了GTID作用于同步,主从配置要一致:

server_id=23
gtid_mode=on
enforce_gtid_consistency=on
log_bin=mysql_bin
binlog_format=row
binlog_row_image=full
log-bin-trust-function-creators=1

2.数据导入:从ucloud控制台找到源mysql的最新备份,下载并导入到自建的mysql中。
   下载备份遇到问题:浏览器能正常下载,在linux下使用wget下载报403
百万级mysql从库如何搭建
    解决办法:对下载地址用引号引入。

   备份压缩包接近40G,使用source导入耗时超过一天。

3.搭建端口转发(类似于mysql代理云服务器)
   选择一台与源mysql同内网的centos 7 (内网IP:10.10.123.233,外网IP:123.123.123.123),配置iptables转发3306端口的流量,实现新建的mysql实例访问到主库。

# echo 1 > /proc/sys/net/ipv4/ip_forward
# iptables -t nat -A PREROUTING -d 10.10.123.233 -p tcp --dport 3306 -j DNAT --to-destination 10.10.123.231:3306
# iptables -t nat -A POSTROUTING -d 10.10.123.231 -p tcp --dport 3306 -j SNAT --to-source 10.10.123.233

  并在新建从库中测试好连通性。

4.主从配置

主要命令:
> GRANT REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'slave'@'%' IDENTIFIED BY ‘123456’;     //添加主从同步的用户
> change master to \
master_host=”123.123.123.123”,\
master_port=3306,\
master_user=’slave’,\
master_password=’123456’,\
master_log_file=’mysql-bin.000383’,\
master_log_pos=’888039274’;     //配置主库信息
> start slave;
> show slave status\G;

    获取同步的binlog文件和位置:下载的备份文件中有,在文件前100行可以找到(推断ucloud备份是用mysqldump命令配合--single-transaction --master-data=2参数)。

遇到的问题及解决

  1.查看主从同步,报错:无法从master获取日志
百万级mysql从库如何搭建
   Last_IO_Error: Relay log write failure: could not queue event from master
   原因:配置主从同步的binlog位置异常,需要重新指定。

> show master status;
> show master logs;     //查看可用的binlog文件
> show binlog events in 'mysql-bin.000383' from 888039274 limit 2;      //指定开始位置和显示数量

百万级mysql从库如何搭建
  果然是个比较特殊的位置,直接在mysql下查不到。还好还可以使用mysqlbinlog工具查看。
  下载binlog,解压得到mysql-bin.000383文件

# mysqlbinlog  --start-position=888039200 --stop-position=888039300 mysql-bin.000383 //用大概的位置查找,报错

百万级mysql从库如何搭建

  只能全部导出,在定位了:

# mysqlbinlog  mysql-bin.000383 > 383bin.log

  查找到的范围为:
百万级mysql从库如何搭建
  重新配置position位置,并重启slave进程即可。

  2.查看主从同步状态,报错:重复键问题,可能是刚刚调整了log_position导致的
百万级mysql从库如何搭建
考虑到先只做备份,将类似错误忽略即可。
    解决办法:在mysqld配置文件中添加 slave-skip-errors = 1062,并重启mysql服务即可。

百万级mysql从库如何搭建就先给大家讲到这里,对于其它相关问题大家想要了解的可以持续关注我们的行业资讯。我们的板块内容每天都会捕捉一些行业新闻及专业知识分享给大家的。

相关内容

热门资讯

Google在港推出AI代理G... 观点网讯:7月29日,Google在香港推出AI代理Gemini Spark,该代理可全天候在后台运...
5G+165Hz!联想新品官宣... 近两年来,小屏平板一直是比较有趣的一个品类。 不同于大平板注重效率、手机追求万能的特点,拯救者Y70...
原创 马... 马斯克又出来了。这次说2036年钱就没用了。 理由是人工智能加机器人,东西多到你用不完,还拿钱干嘛...
美的集团:我国智能家居互联互通... IT之家 7 月 30 日消息,美的集团今日发布公告,7 月 21 日至 23 日,智能家居互联互通...
华为新款MatePad Pro... 【CNMO科技消息】7月30日,@华为终端 官宣全新旗舰平板华为MatePad Pro。 新款华为...
从实验室到实景验证:6G光子太... 全息通信是第六代移动通信(6G)的典型应用场景之一,旨在通过融合无线传输与全息三维成像技术,实现超大...
从“能对话”到“能干活”——人... 【经济界面】 光明日报记者 刘坤 李晓东 周洪双 人工智能(AI)眼镜化身为个人“助理”,实时进行...
【全新发布】UminiP Pr... (来源:洲明科技)
日本通过“H3火箭8号”发射失... △H3火箭(资料图) 日本文部科学省30日召开关于去年“H3火箭8号”发射失败的会议。会议通过的最终...
互联网巨头抢滩健康硬件,上游芯... 封面新闻记者 付文超 当下,互联网巨头对健康硬件的押注,正在成为产业现实,加速拉动整个产业链步入新一...