极客时间已完结课程限时免费阅读

40 | insert语句的锁为什么这么多？

40 | insert语句的锁为什么这么多？-极客时间

40 | insert语句的锁为什么这么多？

2019-02-13 林晓斌 来自北京
《MySQL实战45讲》
课程介绍

讲述：林晓斌

时长12:18大小11.25M

在上一篇文章中，我提到 MySQL 对自增主键锁做了优化，尽量在申请到自增 id 以后，就释放自增锁。
因此，insert 语句是一个很轻量的操作。不过，这个结论对于“普通的 insert 语句”才有效。也就是说，还有些 insert 语句是属于“特殊情况”的，在执行过程中需要给其他资源加锁，或者无法在申请到自增 id 以后就立马释放自增锁。
那么，今天这篇文章，我们就一起来聊聊这个话题。

insert … select 语句

我们先从昨天的问题说起吧。表 t 和 t2 的表结构、初始化数据语句如下，今天的例子我们还是针对这两个表展开。
CREATE TABLE `t` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`c` int(11) DEFAULT NULL,
`d` int(11) DEFAULT NULL,
PRIMARY KEY (`id`),
UNIQUE KEY `c` (`c`)
) ENGINE=InnoDB;
insert into t values(null, 1,1);
insert into t values(null, 2,2);
insert into t values(null, 3,3);
insert into t values(null, 4,4);
create table t2 like t
现在，我们一起来看看为什么在可重复读隔离级别下，binlog_format=statement 时执行：
insert into t2(c,d) select c,d from t;
这个语句时，需要对表 t 的所有行和间隙加锁呢？
其实，这个问题我们需要考虑的还是日志和数据的一致性。我们看下这个执行序列：
图 1 并发 insert 场景
实际的执行效果是，如果 session B 先执行，由于这个语句对表 t 主键索引加了 (-∞,1]这个 next-key lock，会在语句执行完成后，才允许 session A 的 insert 语句执行。
但如果没有锁的话，就可能出现 session B 的 insert 语句先执行，但是后写入 binlog 的情况。于是，在 binlog_format=statement 的情况下，binlog 里面就记录了这样的语句序列：
insert into t values(-1,-1,-1);
insert into t2(c,d) select c,d from t;
这个语句到了备库执行，就会把 id=-1 这一行也写到表 t2 中，出现主备不一致。

insert 循环写入

当然了，执行 insert … select 的时候，对目标表也不是锁全表，而是只锁住需要访问的资源。
如果现在有这么一个需求：要往表 t2 中插入一行数据，这一行的 c 值是表 t 中 c 值的最大值加 1。
此时，我们可以这么写这条 SQL 语句 ：
insert into t2(c,d) (select c+1, d from t force index(c) order by c desc limit 1);
这个语句的加锁范围，就是表 t 索引 c 上的 (3,4]和 (4,supremum]这两个 next-key lock，以及主键索引上 id=4 这一行。
它的执行流程也比较简单，从表 t 中按照索引 c 倒序，扫描第一行，拿到结果写入到表 t2 中。
因此整条语句的扫描行数是 1。
这个语句执行的慢查询日志（slow log），如下图所示：
图 2 慢查询日志 -- 将数据插入表 t2
通过这个慢查询日志，我们看到 Rows_examined=1，正好验证了执行这条语句的扫描行数为 1。
那么，如果我们是要把这样的一行数据插入到表 t 中的话：
insert into t(c,d) (select c+1, d from t force index(c) order by c desc limit 1);
语句的执行流程是怎样的？扫描行数又是多少呢？
这时候，我们再看慢查询日志就会发现不对了。
图 3 慢查询日志 -- 将数据插入表 t
可以看到，这时候的 Rows_examined 的值是 5。
我在前面的文章中提到过，希望你都能够学会用 explain 的结果来“脑补”整条语句的执行过程。今天，我们就来一起试试。
如图 4 所示就是这条语句的 explain 结果。
图 4 explain 结果
从 Extra 字段可以看到“Using temporary”字样，表示这个语句用到了临时表。也就是说，执行过程中，需要把表 t 的内容读出来，写入临时表。
图中 rows 显示的是 1，我们不妨先对这个语句的执行流程做一个猜测：如果说是把子查询的结果读出来（扫描 1 行），写入临时表，然后再从临时表读出来（扫描 1 行），写回表 t 中。那么，这个语句的扫描行数就应该是 2，而不是 5。
所以，这个猜测不对。实际上，Explain 结果里的 rows=1 是因为受到了 limit 1 的影响。
从另一个角度考虑的话，我们可以看看 InnoDB 扫描了多少行。如图 5 所示，是在执行这个语句前后查看 Innodb_rows_read 的结果。
图 5 查看 Innodb_rows_read 变化
可以看到，这个语句执行前后，Innodb_rows_read 的值增加了 4。因为默认临时表是使用 Memory 引擎的，所以这 4 行查的都是表 t，也就是说对表 t 做了全表扫描。
这样，我们就把整个执行过程理清楚了：
创建临时表，表里有两个字段 c 和 d。
按照索引 c 扫描表 t，依次取 c=4、3、2、1，然后回表，读到 c 和 d 的值写入临时表。这时，Rows_examined=4。
由于语义里面有 limit 1，所以只取了临时表的第一行，再插入到表 t 中。这时，Rows_examined 的值加 1，变成了 5。
也就是说，这个语句会导致在表 t 上做全表扫描，并且会给索引 c 上的所有间隙都加上共享的 next-key lock。所以，这个语句执行期间，其他事务不能在这个表上插入数据。
至于这个语句的执行为什么需要临时表，原因是这类一边遍历数据，一边更新数据的情况，如果读出来的数据直接写回原表，就可能在遍历过程中，读到刚刚插入的记录，新插入的记录如果参与计算逻辑，就跟语义不符。
由于实现上这个语句没有在子查询中就直接使用 limit 1，从而导致了这个语句的执行需要遍历整个表 t。它的优化方法也比较简单，就是用前面介绍的方法，先 insert into 到临时表 temp_t，这样就只需要扫描一行；然后再从表 temp_t 里面取出这行数据插入表 t1。
当然，由于这个语句涉及的数据量很小，你可以考虑使用内存临时表来做这个优化。使用内存临时表优化时，语句序列的写法如下：
create temporary table temp_t(c int,d int) engine=memory;
insert into temp_t (select c+1, d from t force index(c) order by c desc limit 1);
insert into t select * from temp_t;
drop table temp_t;

insert 唯一键冲突

前面的两个例子是使用 insert … select 的情况，接下来我要介绍的这个例子就是最常见的 insert 语句出现唯一键冲突的情况。
对于有唯一键的表，插入数据时出现唯一键冲突也是常见的情况了。我先给你举一个简单的唯一键冲突的例子。
图 6 唯一键冲突加锁
这个例子也是在可重复读（repeatable read）隔离级别下执行的。可以看到，session B 要执行的 insert 语句进入了锁等待状态。
也就是说，session A 执行的 insert 语句，发生唯一键冲突的时候，并不只是简单地报错返回，还在冲突的索引上加了锁。我们前面说过，一个 next-key lock 就是由它右边界的值定义的。这时候，session A 持有索引 c 上的 (5,10]共享 next-key lock（读锁）。
至于为什么要加这个读锁，其实我也没有找到合理的解释。从作用上来看，这样做可以避免这一行被别的事务删掉。
这里官方文档有一个描述错误，认为如果冲突的是主键索引，就加记录锁，唯一索引才加 next-key lock。但实际上，这两类索引冲突加的都是 next-key lock。
备注：这个 bug，是我在写这篇文章查阅文档时发现的，已经发给官方并被 verified 了。
有同学在前面文章的评论区问到，在有多个唯一索引的表中并发插入数据时，会出现死锁。但是，由于他没有提供复现方法或者现场，我也无法做分析。所以，我建议你在评论区发问题的时候，尽量同时附上复现方法，或者现场信息，这样我才好和你一起分析问题。
这里，我就先和你分享一个经典的死锁场景，如果你还遇到过其他唯一键冲突导致的死锁场景，也欢迎给我留言。
图 7 唯一键冲突 -- 死锁
在 session A 执行 rollback 语句回滚的时候，session C 几乎同时发现死锁并返回。
这个死锁产生的逻辑是这样的：
在 T1 时刻，启动 session A，并执行 insert 语句，此时在索引 c 的 c=5 上加了记录锁。注意，这个索引是唯一索引，因此退化为记录锁（如果你的印象模糊了，可以回顾下第 21 篇文章介绍的加锁规则）。
在 T2 时刻，session B 要执行相同的 insert 语句，发现了唯一键冲突，加上读锁；同样地，session C 也在索引 c 上，c=5 这一个记录上，加了读锁。
T3 时刻，session A 回滚。这时候，session B 和 session C 都试图继续执行插入操作，都要加上写锁。两个 session 都要等待对方的行锁，所以就出现了死锁。
这个流程的状态变化图如下所示。
图 8 状态变化图 -- 死锁

insert into … on duplicate key update

上面这个例子是主键冲突后直接报错，如果是改写成
insert into t values(11,10,10) on duplicate key update d=100;
的话，就会给索引 c 上 (5,10] 加一个排他的 next-key lock（写锁）。
insert into … on duplicate key update 这个语义的逻辑是，插入一行数据，如果碰到唯一键约束，就执行后面的更新语句。
注意，如果有多个列违反了唯一性约束，就会按照索引的顺序，修改跟第一个索引冲突的行。
现在表 t 里面已经有了 (1,1,1) 和 (2,2,2) 这两行，我们再来看看下面这个语句执行的效果：
图 9 两个唯一键同时冲突
可以看到，主键 id 是先判断的，MySQL 认为这个语句跟 id=2 这一行冲突，所以修改的是 id=2 的行。
需要注意的是，执行这条语句的 affected rows 返回的是 2，很容易造成误解。实际上，真正更新的只有一行，只是在代码实现上，insert 和 update 都认为自己成功了，update 计数加了 1， insert 计数也加了 1。

小结

今天这篇文章，我和你介绍了几种特殊情况下的 insert 语句。
insert … select 是很常见的在两个表之间拷贝数据的方法。你需要注意，在可重复读隔离级别下，这个语句会给 select 的表里扫描到的记录和间隙加读锁。
而如果 insert 和 select 的对象是同一个表，则有可能会造成循环写入。这种情况下，我们需要引入用户临时表来做优化。
insert 语句如果出现唯一键冲突，会在冲突的唯一值上加共享的 next-key lock(S 锁)。因此，碰到由于唯一键约束导致报错后，要尽快提交或回滚事务，避免加锁时间过长。
最后，我给你留一个问题吧。
你平时在两个表之间拷贝数据用的是什么方法，有什么注意事项吗？在你的应用场景里，这个方法，相较于其他方法的优势是什么呢？
你可以把你的经验和分析写在评论区，我会在下一篇文章的末尾选取有趣的评论来和你一起分析。感谢你的收听，也欢迎你把这篇文章分享给更多的朋友一起阅读。

上期问题时间

我们已经在文章中回答了上期问题。
有同学提到，如果在 insert … select 执行期间有其他线程操作原表，会导致逻辑错误。其实，这是不会的，如果不加锁，就是快照读。
一条语句执行期间，它的一致性视图是不会修改的，所以即使有其他事务修改了原表的数据，也不会影响这条语句看到的数据。
评论区留言点赞板：
@长杰 同学回答得非常准确。
分享给需要的人，Ta购买本课程，你将得20元
生成海报并分享

赞 38

提建议

© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
上一篇
39 | 自增主键为什么不是连续的？
下一篇
41 | 怎么最快地复制一张表？
unpreview
 写留言

精选留言(83)

  • huolang
    2019-02-13
    老师，死锁的例子，关于sessionA拿到的c=5的记录锁，sessionB和sessionC发现唯一键冲突会加上读锁我有几个疑惑： 1. sessionA拿到的c=5的记录锁是写锁吗？ 2. 为什么sessionB和sessionC发现唯一键冲突会加上读锁？ 3. 如果sessionA拿到c=5的记录所是写锁，那为什么sessionB和sessionC还能加c=5的读锁，写锁和读锁不应该是互斥的吗？ 4. sessionA还没有提交，为什么sessionB和sessionC能发现唯一键冲突？
    展开

    作者回复: 1. 是的 2. 这个我觉得是为了防止这个记录再被删除（不过这个理由不是很硬，我还没有找到其他解释 3. 互斥的，所以这两个语句都在等待。注意next-key lock是由间隙锁和记录锁组成的哦， 间隙锁加成功了的。好问题。 4. 还没有提交，但是这个记录已经作为最新记录写进去了，复习一下08篇哈

    共 23 条评论
    100
  • 轻松的鱼
    2019-03-06
    老师好，想请教一下死锁的例子中： 1. 在 session A rollback 前，session B/C 都因为唯一性冲突申请了 S Next-key lock，但是被 session A 的 X but not gap lock 阻塞； 2. 在 session A rollbak 后，session B/C 顺利获得 S Next-key lock，并且都要继续进行插入，这时候我认为是因为插入意向锁（LOCK_INSERT_INTENTION）导致的死锁，因为插入意向锁会被 gap lock 阻塞，造成了相互等待。还没有进入到记录 X lock。 不知道我分析的对不对？
    展开

    作者回复: 对

    共 11 条评论
    66
  • sonic
    2019-02-14
    你好， 我想问下文章中关于为什么需要创建临时表有这一句话： 如果读出来的数据直接写回原表，就可能在遍历过程中，读到刚刚插入的记录，新插入的记录如果参与计算逻辑，就跟语义不符。 我的疑问是：既然隔离级别是可重复读，照理来说新插入的的记录应该不会参与计算逻辑呀。
    展开

    作者回复: 可重复读隔离级别下，事务是可以看到自己刚刚修改的数据的 ，好问题

    共 2 条评论
    48
  • 夹心面包
    2019-02-13
    1 关于insert造成死锁的情况,我之前做过测试,事务1并非只有insert,delete和update都可能造成死锁问题,核心还是插入唯一值冲突导致的.我们线上的处理办法是 1 去掉唯一值检测 2减少重复值的插入 3降低并发线程数量 2 关于数据拷贝大表我建议采用pt-archiver,这个工具能自动控制频率和速度,效果很不错,提议在低峰期进行数据操作
    展开

    作者回复: 👍，这两点都是很有用的建议

    共 2 条评论
    46
  • Mr.Strive.Z.H.L
    2019-02-27
    老师您好： 关于文中的锁描述有所疑惑。 文中出现过 共享的next-key锁 和 排他的next-key锁。 我们知道next-key是由 gap lock 和 行锁组成的。 我一直以来的认知是 gap lock都是s锁，没有x锁。 而行锁有s锁和x锁。 比如 select………lock in share mode，行锁是s 锁。 比如select………for update，行锁就是x锁。 但是gap lock 始终是s锁。 文中直接描述next-key lock是排他的，总让我认为gap lock和行锁都是x锁。 不知道我理解得对不对？
    展开

    作者回复: 是这样的，gap lock是无所谓S还是X的。 但是record lock 有。 Gap lock + 排他的record 就称作 排他的next-key lock 吧😄

    共 2 条评论
    33
  • 老杨同志
    2019-02-13
    课后问题： 我用的最多还是insert into select 。如果数量比较大，会加上limit 100,000这种。并且看看后面的select条件是否走索引。缺点是会锁select的表。方法二：导出成excel，然后拼sql 成 insert into values(),(),()的形式。方法3，写类似淘宝调动的定时任务，任务的逻辑是查询100条记录，然后多个线程分到几个任务执行，比如是个线程，每个线程10条记录，插入后，在查询新的100条记录处理。
    展开

    作者回复: 👍

    30
  • Justin
    2019-02-15
    插入意向锁的gal lock和next key lock中的 gaplock互斥吗？

    作者回复: 额， 这里我们要澄清一下哈 只有一个gap lock，就是 next key lock = gap lock + record lock； 我们说一个insert语句如果要插入一个间隙，而这个间隙上有gap lock的话，insert语句会被堵住，这个被堵住的效果，实现机制上是用插入意向锁和gap lock相互作用来实现的。 gap lock并不属于插入意向锁的一部分 ，就没有“插入意向锁的gal lock”这个概念哈

    共 5 条评论
    24
  • 一大只😴
    2019-02-13
    老师，我想问下：insert 语句出现唯一键冲突，会加next-key lock，而产生死锁的例子中，同样也是唯一键冲突却只加了记录锁，然后我按照唯一键冲突中的两个例子试了试 1、比如t表中有两条记录(19,19,19)，(22,22,22)，这时候我再insert (22,22,22)造成了主键冲突，这时候加的就是(19,22]的next-key lock，这个insert为啥不是等值查询？ 2、根据死锁的例子，我又在t表中准备插入一行 session A :begin; insert into t values (25,25,25) session B :insert into t values (25,25,25) 这时候sessionB锁等待 session C：insert into t values (24,24,24) 锁等待，等B锁等待超时，session C插入成功 那这里的session B应该是加了个(22,25]的next-key lock，并没有因为是唯一键退化成记录锁 我想死锁的例子中t表已经有了(1,1,1),(2,2,2),(3,3,3),(4,4,4)4条记录，这时候insert (null,5,5)，是不是加的(4,5]这个next-key lock，由于是整型并且间隙非常小，所以将他当成记录锁？
    展开

    作者回复: “那这里的session B应该是加了个(22,25]的next-key lock，并没有因为是唯一键退化成记录锁” 由于insert主键冲突导致的锁，是不会退化的。 session B 加了next-key lock， 这样session C插入也要等待，然后等session B超时，释放了这个next-key lock，session C就可以执行了。 跟我们文中说的是一致的哦。 你这个验证挺合理的呀， 不会有因为“间隙非常小，所以将他当成记录锁”这种逻辑哈, a和a+1之间也是有间隙的😆。 不过这个是个好的实验和好问题👍

    共 2 条评论
    18
  • roaming
    2019-02-13
    MySQL8.0.12环境下， 执行insert into t(c,d) (select c+1, d from t force index(c) order by c desc limit 1); slow log Rows_examined: 2 Innodb_rows_read 的值增加1 是不是MySQL8进行了优化，先把子查询的结果读出来，再写入临时表？
    展开

    作者回复: 看来是的了， 👍，很好的验证，我加到明天文章末尾说明

    12
  • inrtyx
    2019-04-07
    现在一般都用utf8mb4?

    作者回复: 要看需求，不过因为表情用的很多了，utf8mb4很常用了

    12
  • 信信
    2019-02-17
    老师好，文中提到：insert into t2(c,d) (select c+1, d from t force index(c) order by c desc limit 1)的加锁范围是表 t 索引 c 上的 (4,supremum] 这个 next-key lock 和主键索引上 id=4 这一行。 可是如果我把表t的id为3这行先删除，再执行这个insert...select，那么别的会话执行insert into t values(3,3,3)会被阻塞，这说明4之前也是有间隙锁的？ 另外，select c+1, d from t force index(c) order by c desc limit 1 for update 是不是不能用作等值查询那样分析？因为如果算等值查询，根据优化1是没有间隙锁的。
    展开

    作者回复: 你说的对，这里其实是“向左扫描”，加锁范围应该是(3,4] 和 (4, supremum]。 👍

    12
  • Justin
    2019-02-15
    为什么insert 还会使用到next key lock 呢 ，我记得我原来看的资料写的是插入使用的是插入意向锁啊

    作者回复: 是说插入碰到唯一键冲突的时候才会哈

    10
  • 信信
    2019-02-14
    老师好， 图6下方“发生主键冲突的时候”是不是应该改为“发生唯一键冲突的时候”？因为c不是主键。 还有，图7下方：T2时刻session b 发现“唯一键冲突”，这里为啥不是锁冲突？因为如果没有锁冲突，仅有唯一键冲突，就对应图6的情况，这时加的是next-key lock，而不仅仅是记录锁了。
    展开

    作者回复: 1. 你说得对，👍细致，发起勘误了哈 2. 图7 这里说的唯一键冲突，就是发现“已经有一个c=5的行存在”，所以转为加next-key lock，没有单独的加行锁的逻辑哈

    共 3 条评论
    9
  • 王伯轩
    2019-02-19
    老师你好,去年双11碰到了dbcrash掉的情况.至今没有找到答案,心里渗得慌.老师帮忙分析下. 我是一个开发,关于db的知识更多是在应用和基本原理上面,实在是找不到原因. 我也搜了一些资料 感觉像是mysql的bug,不过在其buglist中没有找到完全一致的，当然也可能是我们业务也许导致库的压力大的原因. 应用端看到的现象是db没有响应，应用需要访问db的线程全部僵死.db表现是hang住 , 当时的诊断日志如下，表面表现为一直获取不到latch锁（被一个insert线程持有不释放） https://note.youdao.com/ynoteshare1/index.html?id=1771445db3ff1e08cbdd8328ea6765a7&type=note#/ 隔离级别是rr 同样的crash双11当天后面又出现了一次（哭死）, 都是重启数据库解决的, 后面应用层面做了一样优化,没有再crash过，优化主要如下： 1.减小读压力，去除一些不必要的查询， 2.优化前，有并发事务写和查询同一条数据记录，即事务a执行insert 尚未提交，事务b就来查询（快照读），优化后保证查询时insert事务已经提交
    展开

    作者回复: 这就是压力太大了。。 一般伴随着ioutil很大，语句执行特别慢，别的语句就被堵着等锁，等超时就自己crash

    共 4 条评论
    8
  • phpzheng
    2019-02-15
    循环插入数据，然后拿着刚刚插入的主键id，更新数据。请问怎么提高这个情况的效率

    作者回复: insert以后 select last_insert_id, 再update， 只能这么做啦 如果要快一些，可能可以考虑减少交互，比如写成存储过程

    7
  • 常超
    2019-03-31
    对这个SQL 执行过程的解释， insert into t(c,d) (select c+1, d from t force index(c) order by c desc limit 1); >由于实现上这个语句没有在子查询中就直接使用 limit 1，从而导致了这个语句的执行需要遍历整个表 t。 没太看懂“由于”那句话，既然在子查询中有了limit 1，为什么不能只把最后一条记录插入临时表呢？ 老师能在说明一下吗？
    展开
    共 1 条评论
    6
  • 夹心面包
    2019-02-15
    我来补充应用表空间迁移的场景 1 冷数据表的复制和迁移 2 大表数据的恢复,线上DDL操作失误,需要恢复时,利用备份+binlog进行恢复后,表空间迁移进行导入 对于热表数据的复制建议还是采用pt-archiver慢慢搞

    作者回复: 👍

    6
  • 发条橙子 。
    2019-02-23
    老师，年后过来狂补课程了哈哈 ， 看到老师的bug留言已经被fix掉准备在最新版本发布了呢。 这里我有一个疑问， 我之前以为只有更新的时候才会加锁， 参考前面的文章，innodb要先扫描表中数据，被扫描到的行要加锁 。 或者我们执行 select 的时候手动加上 排他锁 或者 共享锁，也会锁住。 这里老师讲到如果索引唯一键冲突， innodb为了做处理加了 next_key lock（S） 这个可以理解。 insert .. select 也是因为有 select 索引会加锁 也可以理解 问题 ： 图7那个死锁的案例， session A 的时候 只是执行了 insert 语句，执行 insert的时候也没有select之类的，为什么也会在索引c上加个锁， 是什么时候加的呢 ？？？ 是 insert 语句有索引的话都会给索引加锁么？？
    展开

    作者回复: 不是都会，是在要写入的时候，发现有主键冲突，才会加上这个next-key lock的锁

    共 2 条评论
    5
  • 滔滔
    2019-02-21
    老师，有个问题insert into … on duplicate key update语句在发生冲突的时候是先加next key读锁，然后在执行后面的update语句时再给冲突记录加上写锁，从而把之前加的next key读锁变成了写锁，是这样的吗？

    作者回复: 不是，发现冲突直接加的就是写锁

    5
  • 王伯轩
    2019-02-18
    内存锁 大大计划讲下么,实际中碰到内存锁被持有后一直不释放导致db直接crash掉

    作者回复: 这个系列里没讲到了 这种我碰到比较多的是io压力特别大，导致有的事务执行不下去，但是占着锁 然后其他事务就拿不到锁，有一个600计时，超过就crash了

    5