一次生产核心表Optimize table的操作经历

IT那活儿发布于2023-01-11 13:20 / 4248人阅读

前言

系统运行了一年多，有几张表特别大。前期经过了一些测试，发现使用Optimize Table命令能够回收空间，而且能够在线操作，于是决定在晚上找闲时操作一下。

前期测试

在前期我们对这个操作进行了详尽的测试。包括回收的方式，回收的速度，以及是否产生锁等情况。我们测试的方法是找到一张表，循环删除若干条记录，然后进行回收，在回收期间执行了一个循环更新的脚本，观察更新过程中是否出现锁的情况。

而我们基于测试的结果得出的结论如下：

通过测试发现对大表进行Optimize Table不会阻塞DML语句，它只会在文件发生切换的时候短暂锁表。
表上索引很多的情况，执行Optimize Table会很慢，建议评估表空间回收后的大小，如果回收之后表变得较小，建议删除索引之后进行操作。通过测试删除索引后速度能快一倍。
在执行optimizer table的时候，从库会一直延迟，直到主库完成操作，从库才会开始操作optimizer table。

正式操作

到了正式操作的时候，我们按照测试的结果进行执行。前期都较为顺利。大概在操作了1个小时之后，突然出现监控连接数告警。

可以看到当前我们设置最大的Thread数量为3000。结果瞬间达到了最大值。

通过命令行进入到数据库。发现大量的查询语句在等待Waiting for table metadata lock。

这些查询语句也都在查询我们操作Optimize Table的表。没有任何办法数据库就这样全局hang死了。不停的有连接上来执行查询操作，就要等待这个Waiting for table metadata lock。只能把源头Optimize Table停掉。在停掉了之后，系统立马恢复了正常。

问题回溯

在这次操作的过程中，其实前期也有完整的测试，但是还是出现了这样的情况，一个很大的原因是我们没办法模拟生产的负载情况。

应用程序还有一个特点，一旦堵塞了住了，就会不停的连接，这样的程序其实就是一个疯狂压测程序。

所以做这样的测试，需要我们思考到一点：

我们需要捕捉到生产的流量，然后在测试的时候进行回放重演。

那么怎么进行流量的捕捉，一个简单的方法就是使用tcpdump捕捉3306端口的信息。然后使用解析出数据，进行重演。此类方案比较多，比较令人熟悉的是tcpcopy这个解决方案。

问题解决

那么最终的一个解决办法就是，我们可以先在从库上进行操作。这里的操作需要加上sql_log_bin = 0不记录binlog日志。等从库回收之后，再找个机会进行主从切换。

END

更多精彩干货分享

点击下方名片关注

IT那活儿

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/129909.html

记一次 Laravel 应用性能调优经历

摘要：为了一探究竟，于是开启了这次应用性能调优之旅。使用即时编译器和都能轻轻松松的让你的应用程序在不用做任何修改的情况下，直接提高或者更高的性能。这是一份事后的总结。在经历了调优过程踩的很多坑之后，我们最终完善并实施了初步的性能测试方案，通过真实的测试数据归纳出了 Laravel 开发过程中的一些实践技巧。 0x00 源起最近有同事反馈 Laravel 写的应用程序响应有点慢、20几个并...

warkiz 2019-07-01 12:24 评论0 收藏0
laravel artisan

摘要：用法显示当前的帮助信息不输出任何信息显示当前版本强制输出禁用输出不进行交互运行环境详细输出普通更加详细可用命令全局命令清除编译生成的文件，相当于的反操作将站点设为维护状态显示当前运行环境来源于 laravel artisan 用法 $ php artisan Laravel Framework version 5.1.46 (LTS) Usage: command [options] ...

Betta 2019-06-27 11:31 评论0 收藏0
MySQL数据库优化

摘要：具体来说，就是在写数据库的时候同时写一份数据到缓存集群里，然后用缓存集群来承载大部分的读请求。各种精妙的架构设计因此一篇小文顶多具有抛砖引玉的效果但是数据库优化的思想差不多就这些了前言数据库优化一方面是找出系统的瓶颈,提高MySQL数据库的整体性能,而另一方面需要合理的结构设计和参数调整,以提高用户的相应速度,同时还要尽可能的节约系统资源,以便让系统提供更大的负荷. 1. 优化一览...

wangshijun 2019-08-16 16:05 评论0 收藏0