MySQL ibdata1 文件“减肥”记

article/2025/10/8 4:43:21

夏天来了,没想到连 ibdata1 文件也要开始“减肥”了~

作者:杨彩琳

爱可生华东交付部 DBA,主要负责 MySQL 日常问题处理及 DMP 产品支持。爱好跳舞,追剧。

本文来源:原创投稿

有句话是这么说的:“在 InnoDB 存储引擎中数据是按照表空间来组织存储的”。其实潜台词就是:表空间是表空间文件,是实际存在的物理文件,MySQL 中有很多表空间,下面一起来了解一下吧。

人物介绍

在说“减肥”的故事之前,让我们先了解一下需要“减肥”的文件包含哪些部分,都是什么。

系统表空间

首先要说的是本文的主角,系统表空间。它里面存储的有:

  • InnoDB 表元数据
  • doublewrite buffer
  • change buffer
  • undo logs

若在未配置 innodb_file_per_table 参数情况下有新建表的操作,那么系统表空间也会存储这些表和索引数据信息。前面有说过表空间也是实际存在的表空间文件,同样系统表空间它可以有一个或多个数据文件,默认情况下,是在数据目录中创建一个名为 ibdata1 文件的系统表空间数据文件,其文件大小和数量可以由参数 innodb_data_file_path 来定义。

独立表空间

innodb_file_per_table 参数定义。启用后,InnoDB 可以在 file-per-table 表空间中创建表,这样新创建的数据库表都单独的表空间文件。该参数在 MySQL 5.6.7 及更高版本已经默认启用了。

通用表空间

可以通过 CREATE tablespace 语法创建的共享 InnoDB 表空间。与系统表空间类似,它能存储多个表的数据,也可将数据文件放置在 MySQL 数据目录之外单独管理。

UNDO 表空间

主要存储 undo logs,默认情况下 undo logs 是存储在系统表空间中的,可通过参数 innodb_undo_tablespaces 来配置 UNDO 表空间的数量,只能在初始化 MySQL 实例时才能设置该参数,并且在实例的使用寿命内是固定的,MySQL 8.0 可支持动态修改。

临时表空间

非压缩的、用户创建的临时表和磁盘上产生的内部临时表都是存储在共享的临时表空间存储的,可以通过配置参数 innodb_tmp_data_file_path 来定义临时表空间数据文件的路径、名称、大小和属性,如果没有指定,默认是在数据目录下创建一个名为 ibtmp1的大于 12M 的自动扩展数据文件。

前情提要

客户反馈 MySQL 5.7 的配置文件中没有开启 UNDO 表空间和 UNDO 回收参数,导致 ibdata1 文件过大,并且一直在增长。需要评估下 ibdata1 文件大小如何回收及 UNDO 相关参数配置。

制定“减肥”计划

思路:ibdata1 文件中包含了 InnoDB 表的元数据,change buffer,doublewrite buffer,undo logs 等数据,无法自动收缩,必须使用将数据逻辑导出,删除 ibdata1 文件,然后将数据导入的方式来释放 ibdata1 文件。

夏天来了,没想到连 ibdata1 文件也要开始“减肥”了~

”减肥“前

减肥之前的 ibdata1 重量是 512M。

ps:因为是测试‘减肥计划’,所以只模拟了一个‘微胖’的 ibdata1 文件。

[root@10-186-61-119 data]# ll
total 2109496
-rw-r----- 1 mysql mysql        56 Jun 14 14:26 auto.cnf
-rw-r----- 1 mysql mysql       409 Jun 14 14:26 ib_buffer_pool
-rw-r----- 1 mysql mysql 536870912 Jun 14 14:35 ibdata1
-rw-r----- 1 mysql mysql 536870912 Jun 14 14:35 ib_logfile0
-rw-r----- 1 mysql mysql 536870912 Jun 14 14:35 ib_logfile1
-rw-r----- 1 mysql mysql 536870912 Jun 14 14:32 ib_logfile2
-rw-r----- 1 mysql mysql  12582912 Jun 14 14:26 ibtmp1
drwxr-x--- 2 mysql mysql      4096 Jun 14 14:26 mysql
-rw-r----- 1 mysql mysql         5 Jun 14 14:26 mysqld.pid
srwxrwxrwx 1 mysql mysql         0 Jun 14 14:26 mysqld.sock
-rw------- 1 mysql mysql         5 Jun 14 14:26 mysqld.sock.lock
-rw-r----- 1 mysql mysql      6675 Jun 14 14:32 mysql-error.log
-rw-r----- 1 mysql mysql       967 Jun 14 14:34 mysql-slow.log
drwxr-x--- 2 mysql mysql      8192 Jun 14 14:26 performance_schema
drwxr-x--- 2 mysql mysql      8192 Jun 14 14:26 sys
drwxr-x--- 2 mysql mysql       172 Jun 14 14:30 test

全量备份

对库做全量备份。我们使用 mysqldump 做全备,因为 Xtrabackup 会备份 ibdata1 文件。

/data/mysql/3309/base/bin/mysqldump -uroot -p \
-S /data/mysql/3309/data/mysqld.sock \
--default-character-set=utf8mb4 \
--single-transaction --hex-blob \
--triggers --routines --events --master-data=2 \
--all-databases > /data/full_$(date +%F).sql

停止数据库服务

systemctl stop mysql_3309

删除原实例

[root@10-186-61-119 data]# rm -rf /data/mysql/3309
[root@10-186-61-119 data]# rm -rf /etc/systemd/system/mysql_3309.service

新建实例

重新创建一个同端口的 MySQL 实例(步骤略过),注意配置文件中需要配置下列参数:

  • innodb_undo_tablespaces = 3
  • innodb_max_undo_log_size = 4G
  • innodb_undo_log_truncate = 1
  • innodb_file_per_table = 1

新建实例数据文件如下:

[root@10-186-61-119 ~]# ll /data/mysql/3309
total 4
drwxr-x--- 2 mysql mysql    6 Jun 14 14:51 backup
drwxr-x--- 9 mysql mysql  129 Jun 14 14:52 base
drwxr-x--- 2 mysql mysql   77 Jun 14 14:52 binlog
drwxr-x--- 5 mysql mysql  331 Jun 14 14:52 data
-rw-r--r-- 1 mysql mysql 3609 Jun 14 14:52 my.cnf.3309
drwxr-x--- 2 mysql mysql    6 Jun 14 14:51 redolog
drwxr-x--- 2 mysql mysql    6 Jun 14 14:51 relaylog
drwxr-x--- 2 mysql mysql    6 Jun 14 14:52 tmp

启动新建的数据库服务

[root@10-186-61-119 ~]# systemctl start mysql_3309
[root@10-186-61-119 ~]# ps -ef | grep 3309
mysql     7341     1  0 14:52 ?        00:00:01 /data/mysql/3309/base/bin/mysqld --defaults-file=/data/mysql/3309/my.cnf.3309 --daemonize

导入备份数据

[root@10-186-61-119 data]# /data/mysql/3309/base/bin/mysql -uroot -p \
-S /data/mysql/3309/data/mysqld.sock < full_2023-06-14.sql

验证结果

减肥前 512M,减肥后 128M。

[root@10-186-61-119 data]# ll
total 1747000
-rw-r----- 1 mysql mysql        56 Jun 14 14:52 auto.cnf
-rw-r----- 1 mysql mysql       422 Jun 14 14:52 ib_buffer_pool
-rw-r----- 1 mysql mysql 134217728 Jun 14 14:57 ibdata1
-rw-r----- 1 mysql mysql 536870912 Jun 14 14:57 ib_logfile0
-rw-r----- 1 mysql mysql 536870912 Jun 14 14:57 ib_logfile1
-rw-r----- 1 mysql mysql 536870912 Jun 14 14:52 ib_logfile2
-rw-r----- 1 mysql mysql  12582912 Jun 14 14:52 ibtmp1
drwxr-x--- 2 mysql mysql      4096 Jun 14 14:55 mysql
-rw-r----- 1 mysql mysql         5 Jun 14 14:52 mysqld.pid
srwxrwxrwx 1 mysql mysql         0 Jun 14 14:52 mysqld.sock
-rw------- 1 mysql mysql         5 Jun 14 14:52 mysqld.sock.lock
-rw-r----- 1 mysql mysql      6841 Jun 14 14:55 mysql-error.log
-rw-r----- 1 mysql mysql       414 Jun 14 14:52 mysql-slow.log
drwxr-x--- 2 mysql mysql      8192 Jun 14 14:52 performance_schema
drwxr-x--- 2 mysql mysql      8192 Jun 14 14:52 sys
drwxr-x--- 2 mysql mysql       172 Jun 14 14:56 test
-rw-r----- 1 mysql mysql  10485760 Jun 14 14:57 undo001
-rw-r----- 1 mysql mysql  10485760 Jun 14 14:57 undo002
-rw-r----- 1 mysql mysql  10485760 Jun 14 14:57 undo003

恭喜 ibdata1 文件减肥成功!

生产环境建议

上面的“减肥”计划对于生产环境可能有点暴力,所以,对于生产环境若是遇到相同场景的,建议采用下面较温和谨慎的方法:

  1. 申请一台新的服务器,部署从库。配置好 innodb_file_per_table 参数,UNDO 相关参数;
  2. 主库进行逻辑全备;
  3. 将主库备份数据恢复到新从库,并建立复制关系;
  4. 主从切换,提升新从库为主库。

UNDO 相关参数设置

注意:MySQL5.7 不支持在线或者离线分离 UNDO 表空间操作,UNDO 表空间的独立必须在数据库初始化时指定。

## 控制 Innodb 使用的 UNDO 表空间的数据量,默认值为 0,即记录在系统表空间中。
innodb_undo_tablespaces = 3## 控制 UNDO 表空间的阈值大小
innodb_max_undo_log_size = 4G## 控制将超过 innodb_maxundo_log_size 定义的阈值的 UNDO 表空间被标记为 truncation
innodb_undo_log_truncate = 1

关于 SQLE

爱可生开源社区的 SQLE 是一款面向数据库使用者和管理者,支持多场景审核,支持标准化上线流程,原生支持 MySQL 审核且数据库类型可扩展的 SQL 审核工具。

SQLE 获取

类型地址
版本库https://github.com/actiontech/sqle
文档https://actiontech.github.io/sqle-docs/
发布信息https://github.com/actiontech/sqle/releases
数据审核插件开发文档https://actiontech.github.io/sqle-docs-cn/3.modules/3.7_auditplugin/auditplugin_development.html

http://chatgpt.dhexx.cn/article/K2YOWsUl.shtml

相关文章

【无标题】1.[ERROR] InnoDB: The innodb_system data file ‘ibdata1‘ must be writable

问题原因: 文件的权限导致运行MySQL服务的用户无法对这些文件进行写入导致的报错. 解决方案: 方案一: 初始化MySQL服务时记得使用"–user"指定运行mysql服务的用户. 方案二: 直接进入到数据目录使用"chown"命令修改权限即可.

【MySQL】MySQL发生系统错误、The innodb_system data file ‘ibdata1‘ must be writable问题的解决

1. 启动mysql服务时&#xff1a;发生系统错误5 使用命令行 net start MySql 后报错&#xff1a;发生系统错误 5。 说明权限不够 &#xff0c;需要使用管理员身份运行cmd。 但是每次都需要搜索后然后右键选择以管理员身份运行很麻烦&#xff0c;这里介绍一个一劳永逸的办法&am…

MySQL的ibdata1文件占用过大瘦身

处理MySQL的ibdata1文件过大问题 本人在对数据库进行大量的数据插入和删除的时候&#xff0c;发现ibdata1的占了将近一个T ibdata1文件是什么&#xff1f; ibdata1是一个用来构建innodb系统表空间的文件&#xff0c;这个文件包含了innodb表的元数据、撤销记录、修改buffer和双…

【数据库篇】MySQL InnoDB ibd 文件格式解析

mysql innodb的表由.frm .ibd 组成&#xff0c;frm&#xff1a;存了每个表的元数据&#xff0c;包括表结构的定义等&#xff1b;ibd&#xff1a;存了每个表的元数据&#xff0c;包括表结构的定义等&#xff1b; 1.0 ibd文件基本结构 ibd文件由Tablespaces,Segments,Extents,P…

mysql 里的 ibdata1 文件

为什么 mysql 里的 ibdata1 文件不断的增长&#xff1f; 转自&#xff1a;http://linux.cn/article-5829-rss.html ibdata1 file 我们在 Percona 支持栏目经常收到关于 MySQL 的 ibdata1 文件的这个问题。 当监控服务器发送一个关于 MySQL 服务器存储的报警时&#xff0c;恐慌…

mysql ibdata1

ibdata1是什么&#xff1f; Mysql ibdata1即Innodb data1缩写&#xff0c;是innodb引擎的表空间&#xff0c;用于存放 数据字典Data dictionary&#xff1a; 只读的表&#xff0c;存储对象的相关信息&#xff0c;如占用空间&#xff0c;列的缺省值&#xff0c;约束信息&…

MySQL 中的 ibdata1

系统表空间是InnoDB数据字典、双写缓冲区、更改缓冲区和撤消日志的存储区域 。如果表是在系统表空间中创建的&#xff0c;而不是在每个表文件或通用表空间中创建&#xff0c;则它还可能包含表和索引数据。 系统表空间可以有一个或多个数据文件。默认情况下&#xff0c;ibdata1…

分享篇 | MySQL的ibdata1是个啥,为啥越来越大,怎么缩小?

同事的一个问题&#xff1a; MySQL的ibdata1文件越来越大&#xff0c;这是为啥、 看着别扭&#xff0c;怎么搞小它&#xff1f; ibdata1文件是什么&#xff1f; ibdata1是一个用来构建innodb系统表空间的文件&#xff0c;这个文件包含了innodb表的元数据、undo日志、修改buffe…

js类型转换题

考察隐式类型转换&#xff1a; 1.号一侧出现了字符串&#xff0c;就用String()将不是字符串的变成字符串&#xff0c;最后拼接在一起 2.-号则会调用显示类型转换Number()&#xff0c;将非数字转换成数字&#xff0c;进行计算 true 0 和 true false 都是隐式调用Number()变成…

JS中的强制类型转换

概念 这里我们首先需要知道什么是值类型转换 值类型转换&#xff1a;将值从一种类型转换为另一种类型&#xff0c;就是类型转换&#xff0c;分显示转换和隐式转换 js类型转换出的值都是基本类型&#xff08;number、boolean、string、null、undefined、string&#xff09;&a…

JavaScript——数据类型的转换

目录 一、其他类型转化成字符串类型 1. 把数字型转换为字符串型 变量.toString() 2. 利用 String(变量) 3. 利用 拼接字符串的方法实现转换效果 隐式转换 二、其他类型转化成数字类型&#xff08;重点&#xff09; 1. parseInt(变量) 可以把 字符型的转换为数字型…

JavaScript类型转换规则

类型转换 先梳理一下es6之前有五种基本数据类型:Null、Undefined、String、Number 、Boolean 布尔类型转换规则 直观上为空的值(0、空字符串、null、undefined、和NaN)将变为false 注意 :包含"0" 为true console.log(Boolean("")); //falseconsole.log(…

JavaScript类型转换

javascript是一种弱类型的语言&#xff0c;变量和类型无关&#xff0c;所以有时需要我们进行类型转换 一、数字型转换&#xff08;number&#xff09; 两种方法&#xff1a; 1、number&#xff1a;类型转化走的是v8引擎最底层机制的转化规则&#xff1a; 先将引用类型转化为…

js类型转换

NaNi??? 一、显性类型转换 强制类型转换主要是指通过String、Number和Boolean等构造方法手动转换成对应的字符串、数字和布尔值。 1.1 转为字符串 1.1.1 原始类型转字符串 原始类型字符串string &#xff1a;‘str’“str”number : 123“123”Boolean“true”/“fals…

Axure 9.0.0.3701 授权码

产品经理主力工具 Axure 在2020年5月26日更新了最新的 3701 版本&#xff0c;具体更新如下&#xff1a; 很多小伙伴在更新后会出现之前的授权无法使用的情况&#xff0c;如果出现这种情况大家可以通过在产品栈查找相对应的版本进行获取最新的授权码。 获取地址&#xff1a;http…

Axure 8.0/9.0 注册码 激活码 授权码 License

先查版本号&#xff0c;根据版本号在下面的网址查找对应的授权密钥&#xff08;没有的话&#xff0c;可以试试相近版本&#xff09; https://7rp.cn/34

Axure 9.0.0.3704 授权码

产品经理常用工具软件 Axure 又更新啦&#xff0c;本次更新版本为 Axure RP 9.0.0.3704&#xff0c;具体更新如下&#xff1a; 如何查看版本号&#xff1a; 更新后效果&#xff1a; 很多小伙伴在更新到最新版本后之前的授权出现了失效的情况&#xff0c;下边栈长为大家准备了最…

全网超详细的【Axure】Axure RP 9的下载、安装、中文字体、授权

文章目录 1. 文章引言2. 下载Axure93. 安装Axure94. Axure9中文5. Axure9授权 1. 文章引言 最近在学习原型图&#xff0c;针对画原型图的工具&#xff0c;反复对比墨刀、Axure、xiaopiu后&#xff0c;最终选择了Axure。 接下来&#xff0c;我便从Axure RP 9的下载、安装、中文…

Axure 8授权码

转自&#xff1a;Axure 8.1.0.3372亲测可用授权码 只为记录下 被授权人&#xff1a; zdfans.com 授权密钥&#xff1a; gP5uuK2gHiIVO3YFZwoKyxAdHpXRGNnZWN8Obntqv7FF3pAz7dTu8B61ySxli

Axure RP9授权码

axure rp9安装教程&#xff08;如需免费版安装包请点击此处&#xff09; 1.下载本站提供的压缩包进行解压 2.双击AxureRP-setup9.exe安装程序进行安装 3.点击下一步 4.勾选我同意&#xff0c;点击下一步 5.选择安装位置默认也可以 6.静静的等待安装 7.安装好后点击完成安装&…