MySQL实践篇-数据库表的空间回收

为什么表数据删掉一半,表文件大小不变?

参数innodb_file_pre_table

表数据既可以存在共享表空间,也可以是单独的文件。这个行为是由参数innodb_file_pre_table控制的:

  1. 这个参数设置为OFF表示的是,表的数据放在系统共享表空间,也就是跟数据字典放在一起;
  2. 这个参数设置为ON表示的是,每个InnoDB表数据存储在一个以.ibd为后缀的文件中。

从MySQL 5.6.6版本开始,它的默认值就是ON了。

建议设置为ON,一个表单独存储为一个文件更容易管理,而且在你不需要这个表的时候,通过drop table命令,系统就会直接删除这个文件。而如果是放在共享表空间中,即使表删除了,空间也不会回收。

数据删除流程

InnoDB里的数据都是用B+树的结构组织。

假如,我们要删掉R4这个记录,InnoDB引擎只会把R4这个记录标记为删除。如果之后要再插入一个ID为300和600之间的记录时,可能会复用这个位置。但是,磁盘文件的大小并不会缩小

InnoDB的数据是按页存储的,如果我们删掉了一个数据页上的所有记录,整个数据页就可以被复用了。

数据页的复用跟记录的复用是不同

记录的复用,只限于符合范围条件的数据。比如上面的这个例子,R4这个条记录被删除后,如果插入一个ID是400的行,可以直接复用这个空间。但是如果插入的是一个ID是800的行,就不能复用这个位置了。

当整个页从B+树里面摘掉以后,可以复用到任何位置。以图1为例,如果将数据页pageA上的所有记录删除以后,page A会被标记为可复用。这时候如果要插入一条ID=50的记录需要使用新页的时候,page A是可以被复用。

如果相邻的两个数据页利用率都很小,系统就会把这两个页上的数据合到一个页上,另外一个数据页就被标记为可复用。

我们用delete命令把整个表的数据删除,所有的数据页都会被标记为可复用。但是磁盘上,文件大小不会改变。

delete命令其实只是把记录的位置,或者数据页标记为“可复用”,但是词筽安文件的大小是不会变的。通过delete命令是不能收回表空间的,这个可以复用,而没有被使用的空间,看起来就像是“空洞”

不止是删除数据会造成空洞,插入数据也会

如果数据是按照索引递增顺序插入的,那么索引是紧凑的。但是如果数据是随机插入的,就可以造成索引的数据页分裂。

由于Page A满了,再插入一个ID是550的数据时,就不得不再申请一个新的页面page B来保存数据了,页分裂完成后,page A的末尾就留下空洞。(注意:实际上,可能不止1个记录的位置是空洞的)

更新索引上的值,可以理解为删除旧的值,再插入一个新的值。这种页会造成空洞。

重建表

可以使用alter table A engine = InnoDB命令来重建表。

在MySQL5.5版本之前,这个命令的执行流程如下:

MySQL会自动完成转存数据、交换表名、删除旧表的操作。

图三

花时间最多的步骤是往临时表插入数据的过程,如果在这个过程中,有新的数据要写入到A表的花,就会造成数据丢失。因此,在整个DDL过程中,表A中不能有更新。也就说这个DDL不是Online的。

在MySQL5.6版本开始引入的OnlineDDL,对这个操作流程做了优化

  1. 建立一个临时文件,扫描表A主键的所有数据页;
  2. 用数据页中表A的记录生成B+树,存储到临时文件中;
  3. 生成临时文件的过程中,将所有对A的操作记录在一个日志文件(row log)中,对应的是下图中的state2的状态;
  4. 临时文件生成后,将日志文件中的操作应用到临时文件,等到一个逻辑数据上与表A相同的数据文件,对应的图中的state3的状态;
  5. 用临时表文件替换A的数据文件。

图四

DDL之前是要拿到MDL写锁的,就是在alter语句在启动的时候需要获取MDL写锁,但是这个写锁在真正拷贝数据之前就已经退化成读锁了。为了实现Online,MDL读锁不会阻塞增删改操作,但是为了保护自己阻止其他线程对表同时做DDL,因为MDL读写是互斥的

对于一个大表来说,Online DDL最耗时的过程就是拷贝数据到临时表的过程,这个步骤的执行期间可以接受增删改操作。所以,相对于整个DDL过程来说,锁的时间非常短。对业务来说,就可以认为是Online。

如果是线上服务,大表来说,这个操作是消耗IO和CPU资源的。GitHub开源的gh-ost来操作。

Online和inplace

MySQL5.5以前的版本,数据导出来存放的文职叫做tmp_table。这是一个临时表,是在server层创建的。

MySQL5.6以后的版本,重建出来的数据都是放在“tmp_file”里面,这个临时文件是InnoDB在内部创建出来的。整个DDL过程都在InnoDB内部完成。对于sercer层来说,没有把数据挪动到临时表,是一个“原地”操作,这就是“inplace”名称的来源。

重建表的这个语句alter table t engine= InnoDB,其实隐含的意思是:

1
alter table t engine=innodb,ALGORITHM=inplace;

跟inplace对应的就是拷贝表的方式了:

1
alter table t engine=innodb,ALGORITHM=copy;

表示的是强制拷贝表,对应的是在server层的操作。

  • DDL过程如果是Online的,就一定是inplace的;
  • 反过来未必,也就说inplace的DDL,有可能不是Online的。截止到MySQL8.0,添加全文索引(FULLTEXT index)和空间索引(SPATIAL index)就是属于这种情况。

optimize table、analyze table和alter table这三种方式重建表的 区别

  • 从MySQL5.6版本开始,alter table t engine = InnoDB(也就是recreate)默认的就是图四的流程。
  • analyze table t其实不是重建表,只是对表的索引信息做重新统计,没有修改数据,这个过程中加了MDL读锁。
  • optimize table t 等于recreate+analyze。