极客时间已完结课程限时免费阅读

35 | join语句怎么优化？

35 | join语句怎么优化？-极客时间

35 | join语句怎么优化？

2019-02-01 林晓斌 来自北京
《MySQL实战45讲》
课程介绍

讲述：林晓斌

时长16:39大小15.21M

在上一篇文章中，我和你介绍了 join 语句的两种算法，分别是 Index Nested-Loop Join(NLJ) 和 Block Nested-Loop Join(BNL)。
我们发现在使用 NLJ 算法的时候，其实效果还是不错的，比通过应用层拆分成多个语句然后再拼接查询结果更方便，而且性能也不会差。
但是，BNL 算法在大表 join 的时候性能就差多了，比较次数等于两个表参与 join 的行数的乘积，很消耗 CPU 资源。
当然了，这两个算法都还有继续优化的空间，我们今天就来聊聊这个话题。
为了便于分析，我还是创建两个表 t1、t2 来和你展开今天的问题。
create table t1(id int primary key, a int, b int, index(a));
create table t2 like t1;
drop procedure idata;
delimiter ;;
create procedure idata()
begin
declare i int;
set i=1;
while(i<=1000)do
insert into t1 values(i, 1001-i, i);
set i=i+1;
end while;
set i=1;
while(i<=1000000)do
insert into t2 values(i, i, i);
set i=i+1;
end while;
end;;
delimiter ;
call idata();
为了便于后面量化说明，我在表 t1 里，插入了 1000 行数据，每一行的 a=1001-id 的值。也就是说，表 t1 中字段 a 是逆序的。同时，我在表 t2 中插入了 100 万行数据。

Multi-Range Read 优化

在介绍 join 语句的优化方案之前，我需要先和你介绍一个知识点，即：Multi-Range Read 优化 (MRR)。这个优化的主要目的是尽量使用顺序读盘。
在第 4 篇文章中，我和你介绍 InnoDB 的索引结构时，提到了“回表”的概念。我们先来回顾一下这个概念。回表是指，InnoDB 在普通索引 a 上查到主键 id 的值后，再根据一个个主键 id 的值到主键索引上去查整行数据的过程。
然后，有同学在留言区问到，回表过程是一行行地查数据，还是批量地查数据？
我们先来看看这个问题。假设，我执行这个语句：
select * from t1 where a>=1 and a<=100;
主键索引是一棵 B+ 树，在这棵树上，每次只能根据一个主键 id 查到一行数据。因此，回表肯定是一行行搜索主键索引的，基本流程如图 1 所示。
图 1 基本回表流程
如果随着 a 的值递增顺序查询的话，id 的值就变成随机的，那么就会出现随机访问，性能相对较差。虽然“按行查”这个机制不能改，但是调整查询的顺序，还是能够加速的。
因为大多数的数据都是按照主键递增顺序插入得到的，所以我们可以认为，如果按照主键的递增顺序查询的话，对磁盘的读比较接近顺序读，能够提升读性能。
这，就是 MRR 优化的设计思路。此时，语句的执行流程变成了这样：
根据索引 a，定位到满足条件的记录，将 id 值放入 read_rnd_buffer 中 ;
将 read_rnd_buffer 中的 id 进行递增排序；
排序后的 id 数组，依次到主键 id 索引中查记录，并作为结果返回。
这里，read_rnd_buffer 的大小是由 read_rnd_buffer_size 参数控制的。如果步骤 1 中，read_rnd_buffer 放满了，就会先执行完步骤 2 和 3，然后清空 read_rnd_buffer。之后继续找索引 a 的下个记录，并继续循环。
另外需要说明的是，如果你想要稳定地使用 MRR 优化的话，需要设置set optimizer_switch="mrr_cost_based=off"。（官方文档的说法，是现在的优化器策略，判断消耗的时候，会更倾向于不使用 MRR，把 mrr_cost_based 设置为 off，就是固定使用 MRR 了。）
下面两幅图就是使用了 MRR 优化后的执行流程和 explain 结果。
图 2 MRR 执行流程
图 3 MRR 执行流程的 explain 结果
从图 3 的 explain 结果中，我们可以看到 Extra 字段多了 Using MRR，表示的是用上了 MRR 优化。而且，由于我们在 read_rnd_buffer 中按照 id 做了排序，所以最后得到的结果集也是按照主键 id 递增顺序的，也就是与图 1 结果集中行的顺序相反。
到这里，我们小结一下。
MRR 能够提升性能的核心在于，这条查询语句在索引 a 上做的是一个范围查询（也就是说，这是一个多值查询），可以得到足够多的主键 id。这样通过排序以后，再去主键索引查数据，才能体现出“顺序性”的优势。

Batched Key Access

理解了 MRR 性能提升的原理，我们就能理解 MySQL 在 5.6 版本后开始引入的 Batched Key Access(BKA) 算法了。这个 BKA 算法，其实就是对 NLJ 算法的优化。
我们再来看看上一篇文章中用到的 NLJ 算法的流程图：
图 4 Index Nested-Loop Join 流程图
NLJ 算法执行的逻辑是：从驱动表 t1，一行行地取出 a 的值，再到被驱动表 t2 去做 join。也就是说，对于表 t2 来说，每次都是匹配一个值。这时，MRR 的优势就用不上了。
那怎么才能一次性地多传些值给表 t2 呢？方法就是，从表 t1 里一次性地多拿些行出来，一起传给表 t2。
既然如此，我们就把表 t1 的数据取出来一部分，先放到一个临时内存。这个临时内存不是别人，就是 join_buffer。
通过上一篇文章，我们知道 join_buffer 在 BNL 算法里的作用，是暂存驱动表的数据。但是在 NLJ 算法里并没有用。那么，我们刚好就可以复用 join_buffer 到 BKA 算法中。
如图 5 所示，是上面的 NLJ 算法优化后的 BKA 算法的流程。
图 5 Batched Key Access 流程
图中，我在 join_buffer 中放入的数据是 P1~P100，表示的是只会取查询需要的字段。当然，如果 join buffer 放不下 P1~P100 的所有数据，就会把这 100 行数据分成多段执行上图的流程。
那么，这个 BKA 算法到底要怎么启用呢？
如果要使用 BKA 优化算法的话，你需要在执行 SQL 语句之前，先设置
set optimizer_switch='mrr=on,mrr_cost_based=off,batched_key_access=on';
其中，前两个参数的作用是要启用 MRR。这么做的原因是，BKA 算法的优化要依赖于 MRR。

BNL 算法的性能问题

说完了 NLJ 算法的优化，我们再来看 BNL 算法的优化。
我在上一篇文章末尾，给你留下的思考题是，使用 Block Nested-Loop Join(BNL) 算法时，可能会对被驱动表做多次扫描。如果这个被驱动表是一个大的冷数据表，除了会导致 IO 压力大以外，还会对系统有什么影响呢？
在第 33 篇文章中，我们说到 InnoDB 的 LRU 算法的时候提到，由于 InnoDB 对 Bufffer Pool 的 LRU 算法做了优化，即：第一次从磁盘读入内存的数据页，会先放在 old 区域。如果 1 秒之后这个数据页不再被访问了，就不会被移动到 LRU 链表头部，这样对 Buffer Pool 的命中率影响就不大。
但是，如果一个使用 BNL 算法的 join 语句，多次扫描一个冷表，而且这个语句执行时间超过 1 秒，就会在再次扫描冷表的时候，把冷表的数据页移到 LRU 链表头部。
这种情况对应的，是冷表的数据量小于整个 Buffer Pool 的 3/8，能够完全放入 old 区域的情况。
如果这个冷表很大，就会出现另外一种情况：业务正常访问的数据页，没有机会进入 young 区域。
由于优化机制的存在，一个正常访问的数据页，要进入 young 区域，需要隔 1 秒后再次被访问到。但是，由于我们的 join 语句在循环读磁盘和淘汰内存页，进入 old 区域的数据页，很可能在 1 秒之内就被淘汰了。这样，就会导致这个 MySQL 实例的 Buffer Pool 在这段时间内，young 区域的数据页没有被合理地淘汰。
也就是说，这两种情况都会影响 Buffer Pool 的正常运作。
大表 join 操作虽然对 IO 有影响，但是在语句执行结束后，对 IO 的影响也就结束了。但是，对 Buffer Pool 的影响就是持续性的，需要依靠后续的查询请求慢慢恢复内存命中率。
为了减少这种影响，你可以考虑增大 join_buffer_size 的值，减少对被驱动表的扫描次数。
也就是说，BNL 算法对系统的影响主要包括三个方面：
可能会多次扫描被驱动表，占用磁盘 IO 资源；
判断 join 条件需要执行 M*N 次对比（M、N 分别是两张表的行数），如果是大表就会占用非常多的 CPU 资源；
可能会导致 Buffer Pool 的热数据被淘汰，影响内存命中率。
我们执行语句之前，需要通过理论分析和查看 explain 结果的方式，确认是否要使用 BNL 算法。如果确认优化器会使用 BNL 算法，就需要做优化。优化的常见做法是，给被驱动表的 join 字段加上索引，把 BNL 算法转成 BKA 算法。
接下来，我们就具体看看，这个优化怎么做？

BNL 转 BKA

一些情况下，我们可以直接在被驱动表上建索引，这时就可以直接转成 BKA 算法了。
但是，有时候你确实会碰到一些不适合在被驱动表上建索引的情况。比如下面这个语句：
select * from t1 join t2 on (t1.b=t2.b) where t2.b>=1 and t2.b<=2000;
我们在文章开始的时候，在表 t2 中插入了 100 万行数据，但是经过 where 条件过滤后，需要参与 join 的只有 2000 行数据。如果这条语句同时是一个低频的 SQL 语句，那么再为这个语句在表 t2 的字段 b 上创建一个索引就很浪费了。
但是，如果使用 BNL 算法来 join 的话，这个语句的执行流程是这样的：
把表 t1 的所有字段取出来，存入 join_buffer 中。这个表只有 1000 行，join_buffer_size 默认值是 256k，可以完全存入。
扫描表 t2，取出每一行数据跟 join_buffer 中的数据进行对比，
如果不满足 t1.b=t2.b，则跳过；
如果满足 t1.b=t2.b, 再判断其他条件，也就是是否满足 t2.b 处于[1,2000]的条件，如果是，就作为结果集的一部分返回，否则跳过。
我在上一篇文章中说过，对于表 t2 的每一行，判断 join 是否满足的时候，都需要遍历 join_buffer 中的所有行。因此判断等值条件的次数是 1000*100 万 =10 亿次，这个判断的工作量很大。
图 6 explain 结果
图 7 语句执行时间
可以看到，explain 结果里 Extra 字段显示使用了 BNL 算法。在我的测试环境里，这条语句需要执行 1 分 11 秒。
在表 t2 的字段 b 上创建索引会浪费资源，但是不创建索引的话这个语句的等值条件要判断 10 亿次，想想也是浪费。那么，有没有两全其美的办法呢？
这时候，我们可以考虑使用临时表。使用临时表的大致思路是：
把表 t2 中满足条件的数据放在临时表 tmp_t 中；
为了让 join 使用 BKA 算法，给临时表 tmp_t 的字段 b 加上索引；
让表 t1 和 tmp_t 做 join 操作。
此时，对应的 SQL 语句的写法如下：
create temporary table temp_t(id int primary key, a int, b int, index(b))engine=innodb;
insert into temp_t select * from t2 where b>=1 and b<=2000;
select * from t1 join temp_t on (t1.b=temp_t.b);
图 8 就是这个语句序列的执行效果。
图 8 使用临时表的执行效果
可以看到，整个过程 3 个语句执行时间的总和还不到 1 秒，相比于前面的 1 分 11 秒，性能得到了大幅提升。接下来，我们一起看一下这个过程的消耗：
执行 insert 语句构造 temp_t 表并插入数据的过程中，对表 t2 做了全表扫描，这里扫描行数是 100 万。
之后的 join 语句，扫描表 t1，这里的扫描行数是 1000；join 比较过程中，做了 1000 次带索引的查询。相比于优化前的 join 语句需要做 10 亿次条件判断来说，这个优化效果还是很明显的。
总体来看，不论是在原表上加索引，还是用有索引的临时表，我们的思路都是让 join 语句能够用上被驱动表上的索引，来触发 BKA 算法，提升查询性能。

扩展 -hash join

看到这里你可能发现了，其实上面计算 10 亿次那个操作，看上去有点儿傻。如果 join_buffer 里面维护的不是一个无序数组，而是一个哈希表的话，那么就不是 10 亿次判断，而是 100 万次 hash 查找。这样的话，整条语句的执行速度就快多了吧？
确实如此。
这，也正是 MySQL 的优化器和执行器一直被诟病的一个原因：不支持哈希 join。并且，MySQL 官方的 roadmap，也是迟迟没有把这个优化排上议程。
实际上，这个优化思路，我们可以自己实现在业务端。实现流程大致如下：
select * from t1;取得表 t1 的全部 1000 行数据，在业务端存入一个 hash 结构，比如 C++ 里的 set、PHP 的数组这样的数据结构。
select * from t2 where b>=1 and b<=2000; 获取表 t2 中满足条件的 2000 行数据。
把这 2000 行数据，一行一行地取到业务端，到 hash 结构的数据表中寻找匹配的数据。满足匹配的条件的这行数据，就作为结果集的一行。
理论上，这个过程会比临时表方案的执行速度还要快一些。如果你感兴趣的话，可以自己验证一下。

小结

今天，我和你分享了 Index Nested-Loop Join（NLJ）和 Block Nested-Loop Join（BNL）的优化方法。
在这些优化方法中：
BKA 优化是 MySQL 已经内置支持的，建议你默认使用；
BNL 算法效率低，建议你都尽量转成 BKA 算法。优化的方向就是给被驱动表的关联字段加上索引；
基于临时表的改进方案，对于能够提前过滤出小数据的 join 语句来说，效果还是很好的；
MySQL 目前的版本还不支持 hash join，但你可以配合应用端自己模拟出来，理论上效果要好于临时表的方案。
最后，我给你留下一道思考题吧。
我们在讲 join 语句的这两篇文章中，都只涉及到了两个表的 join。那么，现在有一个三个表 join 的需求，假设这三个表的表结构如下：
CREATE TABLE `t1` (
`id` int(11) NOT NULL,
`a` int(11) DEFAULT NULL,
`b` int(11) DEFAULT NULL,
`c` int(11) DEFAULT NULL,
PRIMARY KEY (`id`)
) ENGINE=InnoDB;
create table t2 like t1;
create table t3 like t2;
insert into ... //初始化三张表的数据
语句的需求实现如下的 join 逻辑：
select * from t1 join t2 on(t1.a=t2.a) join t3 on (t2.b=t3.b) where t1.c>=X and t2.c>=Y and t3.c>=Z;
现在为了得到最快的执行速度，如果让你来设计表 t1、t2、t3 上的索引，来支持这个 join 语句，你会加哪些索引呢？
同时，如果我希望你用 straight_join 来重写这个语句，配合你创建的索引，你就需要安排连接顺序，你主要考虑的因素是什么呢？
你可以把你的方案和分析写在留言区，我会在下一篇文章的末尾和你讨论这个问题。感谢你的收听，也欢迎你把这篇文章分享给更多的朋友一起阅读。

上期问题时间

我在上篇文章最后留给你的问题，已经在本篇文章中解答了。
这里我再根据评论区留言的情况，简单总结下。根据数据量的大小，有这么两种情况：
@长杰 和 @老杨同志 提到了数据量小于 old 区域内存的情况；
@Zzz 同学，很认真地看了其他同学的评论，并且提了一个很深的问题。对被驱动表数据量大于 Buffer Pool 的场景，做了很细致的推演和分析。
给这些同学点赞，非常好的思考和讨论。
分享给需要的人，Ta购买本课程，你将得20元
生成海报并分享

赞 81

提建议

© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
上一篇
34 | 到底可不可以使用join？
下一篇
36 | 为什么临时表可以重名？
unpreview
 写留言

精选留言(111)

  • IceGeek17
    2019-02-18
    节后补课，有几个问题： 问题一： 对于BKA算法的流程理解，用文中的例子，先把t1表（小表）中查询需要的字段放入join_buffer, 然后把join_buffer里的字段值批量传给t2表，先根据索引a查到id，然后得到一批主键id，再根据主键id排序，然后再根据排完序的id去主键索引查数据（这里用到MRR） 理解是否正确？ 这里对于主键id排序是在哪里做的，是在join_buffer里，还是另外再开辟一块临时内存？如果在join_buffer里，那join_buffer里的每行内容是不是：t2.id + t1查询必须的字段，并且join_buffer里是根据id排序的？ 问题二： 虽然MySQL官方没有支持hash join，但是之前看到文章说，MariaDB已经支持hash join，能不能后续在答疑文章中简单总结下mariaDB支持的join算法 问题三： 在实际项目中，一个比较困惑的问题，看到过这样的类似写法： select xxx from t1 join t2 on t1.id = t2.id for update （目的是获取几个表上最新的数据，并且加上锁，防止数据被更新） 这里有几个问题： 1) 像这样 join + for update，表上的加锁规则是怎么样的？是不是在需要join的两个表上根据具体的查询执行过程都加上锁？ 2）像这样 join + for update 的用法是否合理？碰到这样的场景，应该怎么去做？ 问题四： 看过阿里输出的开发手册里，强调 “最多不超过三表join”，实际项目中，给我感觉很难做到所有业务都不超过三表join，那这里的问题就是，有什么相关的经验方法，可以尽量降低参与join的数据表？ 比如，在数据表里添加冗余字段，可以降低参与join的数据表数量，还有什么其他好的方法？
    展开
    共 13 条评论
    66
  • 老杨同志
    2019-02-01
    我准备给 t1增加索引c t2增加组合索引b,c t3增加组合索引b,c select * from t1 straight_join t2 on(t1.a=t2.a) straight_join t3 on (t2.b=t3.b) where t1.c>=X and t2.c>=Y and t3.c>=Z; 另外我还有个问题，开篇提到的这句sql select * from t1 where a>=1 and a<=100; a是索引列，如果这句索引有order by a，不使用MRR 优化，查询出来就是按a排序的，使用了mrr优化，是不是要额外排序
    展开

    作者回复: 对，好问题，用了order by就不用MRR了

    共 5 条评论
    58
  • Mr.Strive.Z.H.L
    2019-02-02
    老师您好，新年快乐~~ 关于三表join有一个疑惑点需要确认： 老师您在评论中说到，三表join不会是前两个表join后得到结果集，再和第三张表join。 针对这句话，我的理解是： 假设我们不考虑BKA，就按照一行行数据来判断的话，流程应该如下（我会将server端和innodb端分的很清楚）： 表是t1 ,t2 ,t3。 t1 straight_join t2 straight_join t3，这样的join顺序。 1. 调用innodb接口，从t1中取一行数据，数据返回到server端。 2. 调用innodb接口，从t2中取满足条件的数据，数据返回到server端。 3. 调用innodb接口，从t3中取满足条件的数据，数据返回到server端。 上面三步之后，驱动表 t1的一条数据就处理完了，接下来重复上述过程。 （如果采用BKA进行优化，可以理解为不是一行行数据的提取，而是一个范围内数据的提取）。 按照我上面的描述，确实没有前两表先join得结果集，然后再join第三张表的过程。 不知道我上面的描述的流程对不对？（我个人觉得，将innodb的处理和server端的处理分隔清晰，对于sql语句的理解，会透彻很多）
    展开

    作者回复: 新年快乐，分析得很好。 可以再补充一句，会更好理解你说的这个过程 ： 如果采用BKA进行优化,每多一个join，就多一个join_buffer

    47
  • 天王
    2019-02-13
    join语句的优化，NLJ算法的优化，MRR优化器会在join_buffer进行主键的排序，然后去主键索引树上一个个的查找，因为按照主键顺序去主键索引树上查找，性能会比较高，MRR优化接近顺序读，性能会比较高。BKA算法是对NLJ算法的优化，一次取出一批数据的字段到join_buffer中，然后批量join，性能会比较好。BKA算法依赖于MRR，因为批量join找到被驱动表的非聚集索引字段通过MRR去查找行数据

    作者回复: 👍

    共 2 条评论
    30
  • 郭健
    2019-02-07
    老师，有几个问题还需要请教一下: 1.上一章t1表100条数据，t21000条数据，mysql会每次都会准确的找出哪张表是合理的驱动表吗？还是需要人为的添加straight_join。 2.像left join这种，左边一定是驱动表吧？以左边为标准查看右边有符合的条件，拼成一条数据，看到你给其他同学的评论说可能不是，这有些疑惑。 3.在做join的时候，有些条件是可以放在on中也可以放在where中，比如(t1.yn=1 和t2.yn=1)这种简单判断是否删除的。最主要的是，需要根据两个条件才能join的(productCode和custCode),需要两个都在on里，还是一个在on中，一个在where中更好呢？
    展开

    作者回复: 1. 正常是会自己找到合理的，但是用前explain是好习惯哈 2. 这个问题的展开我放到答疑文章中哈 3. 这也是好问题，需要分析是使用哪种算法，也放到答疑文章展开哈。 新年快乐~

    共 2 条评论
    28
  • 纸片人
    2019-06-11
    知识点总结 1、翻译嵌套查询过程 Join = 嵌套查询 示例：t1 join t2 on t1.a=t2.a where t1.id>=X and t2.id>=Y 已知：驱动表t1的规模是N，被驱动表t2的规模是M 伪代码： SNLJ: 扫描次数NxM, 计算次数NxM for r1 in t1 /* read from ~~disk~~ InnoDB(storage engine) */ for r2 in t2 if r1.a=r2.a if r1.id>=X and r2.id>=Y add r1+r2 into result_set end end BNLJ: 扫描次数N+KxM，计算次数NxM，K = Nxrow_size/join_buffer_size+1 for r1 in t1 add r1 into join_buffer end for r2 in t2 for r1 in join_buffer /* read from ~~memory~~ join_buffer which is controlled by Server */ if r1.a=r2.a if r1.id>=X and r2.id>=Y add r1+r2 into result_set end end INLJ: 扫描次数<N+N，计算次数N + Nx2xlnM/ln2 for r1 in t1 locate r1.a on t2 with index a /* search B+Tree */ if r1.id>=X and r2.id>=Y add r1+r2 into result_set end 2、Join优化思路 MRR优化思想：回表前，按主键排序，执行读取操作，以保证顺序读。 BKA算法：先按BNLJ的思想批量扫描驱动表数据，再将之按被驱动表上的索引排序，取值。 示例：t1 join t2 on t1.a=t2.b where t1.id>=X and t2.id>=Y 伪代码： for r1 in t1 add r1 into join_buffer end sort join_buffer by r1.a for r1 in sort_buffer locate r1.a on t2 with index b /* search B+Tree */ if r1.id>=X and r2.id>=Y add r1+r2 into result_set end 3、BNLJ转BKA 方案一：在被驱动表的join字段上添加索引，相当于BNLJ先转INLJ再转BKA。 方案二：不适宜添加索引的情况（查询语句使用频率较低），引入临时表。具体操作步骤如下： a. 先根据where过滤被驱动表t2，并将结果存入临时表tmp_t； b. 在临时表上为join字段b添加索引； c. 让驱动表t1连接临时表tmp_t。 （注意，由于步骤b中需要为临时表创建索引，所以此方案当且仅当tmp_t规模远小于t2时才划算！） 4、扩展hash-join 可视为BNLJ进阶，将join_buffer变成Hash表，处理流程如下： hash-join: for r1 in t1 add <key:r1.a,value:r1> into join_buffer end for r2.a in t2 locate r2.a in t1 with hash index /* read from join_buffer */ if r1.id>=X and r2.id>=Y add r1+r2 into result_set end 分析： a. 驱动表在内环，以降低内存占用率。 b. 如果t1的尺寸大于join_buffer，那么我们就不得不多次全表扫描t2了。因为过滤条件的逻辑运算符号是and，所以还有优化的余地，可将驱动表的过滤提前，来降低t1的大小。 for r1 in t1 if r1.id>=X add <key:r1.a,value:r1> into join_buffer end for r2.a in t2 locate r2.a in t1 with hash index /* read from join_buffer */ if r2.id>=Y add r1+r2 into result_set end
    展开
    共 1 条评论
    25
  • asdf100
    2019-02-01
    最近遇到这个需求，in里面的值个数有5万左右，出现的情况很少但存在，这种情况怎么处理。？手动创建临时表再join？ 另外in内的值用不用手动排序？

    作者回复: 不需要手动排序 不过5万个值太凶残了，语句太长不太好 这种就是手动创建内存临时表，建上hash索引，填入数据，然后join

    共 8 条评论
    24
  • HuaMax
    2019-02-02
    前提假设：t1.c>=X可以让t1成为小表。同时打开BKA和MRR。 1、t1表加（c,a)索引。理由：A、t1.c>=X可以使用索引；B、加上a的联合索引，join buffer里放入的是索引（c,a）而不是去主键表取整行，用于与表t2的t1.a = t2.a的join查询，不过返回SELECT * 最终还是需要回表。 2、t2表加(a,b,c)索引。理由：A、加上a避免与t1表join查询的BNL；B、理由同【1-B】；C、加上c不用回表判断t2.c>=Y的筛选条件 3、t3表加（b,c）索引。理由：A、避免与t2表join查询的BNL;C、理由同【2-C】 问题： 1、【1-B】和【2-B】由于select *要返回所有列数据，不敢肯定join buffer里是回表的整行数据还是索引（c,a)的数据，需要老师解答一下；不过值得警惕的是，返回的数据列对sql的执行策略有非常大的影响。 2、在有join查询时，被驱动表是先做join连接查询，还是先筛选数据再从筛选后的临时表做join连接？这将影响上述的理由【2-C】和【3-C】 使用straight_join强制指定驱动表，我会改写成这样:select * from t2 STRAIGHT_JOIN t1 on(t1.a=t2.a) STRAIGHT_JOIN t3 on (t2.b=t3.b) where t1.c>=X and t2.c>=Y and t3.c>=Z; 考虑因素包括： 1、驱动表使用过滤条件筛选后的数据量，使其成为小表，上面的改写也是基于t2是小表 2、因为t2是跟t1,t3都有关联查询的，这样的话我猜测对t1,t3的查询是不是可以并行执行，而如果使用t1,t3作为主表的话，是否会先跟t2生成中间表，是个串行的过程？ 3、需要给t1加（a,c)索引，给t2加（c,a,b）索引。
    展开

    作者回复: 👍 很深入的思考哈 1. select * ，所以放整行；你说得对，select * 不是好习惯； 2. 第一次join后就筛选；第二次join再筛选； 新春快乐~

    19
  • 林肯
    2020-08-21
    可喜的是：MySQL8.0已经支持hash join了
    18
  • WL
    2019-02-11
    请教老师两个问题: 1. 通过主键索引找到的数据会会不会先在内存中查询, 如果没有再去磁盘查询? 2. 为什么在通过主键索引查询数据时, 符合条件的数据以单条数据的方式读到内存中而不是以一整个数据页的方式读到内存中?

    作者回复: 1. 通过普通索引也会，InnoDB的访问模式都是先内存，不在内存中，才到磁盘找； 2. 是以数据页的方式读到内存的，然后在从内存的这个数据页（默认16k）里面找到数据。

    共 2 条评论
    16
  • 涛哥哥
    2019-03-20
    老师，对于现在的固态硬盘，这样类似顺序读写的数据库优化，不就不起作用了啊？

    作者回复: 固态硬盘的顺序写还是比随机写快的

    11
  • TKbook
    2019-02-01
    BNL 算法效率低，建议你都尽量转成 BKA 算法。优化的方向就是给驱动表的关联字段加上索引； 老师最后总结的时候，这句话后面那句，应该是给被驱动表的关联字段加上索引吧。

    作者回复: 对的，👍细致 已经发起勘误，谢谢你哦，新年快乐

    10
  • 憶海拾貝
    2019-02-13
    节后开工宜补课. 按照文中说明的MRR设计思路, 是否可以反推出: 被驱动表使用非递增主键(比如UUID作为主键),就没有必要开启MRR?

    作者回复: 如果是非随机的主键，确实没必要了😅 优化第一步还是应该把主键处理一下

    共 8 条评论
    9
  • dzkk
    2019-02-01
    老师，记得我之前看mysql的join是和版本有关系的，另外NLJ是一个统称，被分为了SNLJ(Simple Nested-Loop Join，5.5版本之前采用的，当被驱动表上没有索引的时候使用，该方法比较粗暴，所以后来通过BNLJ进行了优化)、INLJ(Index Nested-Loop Join，被驱动表上有索引)、BNLJ(Block Nested-Loop Join，被驱动表上没有索引)，另外了解到mariadb是支持了hash join的Block Nested Loop Hash (BNLH) join，没有使用过，不知道效果怎么样。不知道我了解的信息对不对。
    展开

    作者回复: 你了解得比较全面哈 不过我怕在文章中写这么多概念，会看得晕。 实际上现在 Simple Nested-Loop Join 已经不会用了（太慢），有使用的就是 Index Nested-Loop Join 和 BKA优化哈。 MariaDB在优化器上做了很多工作，之前的文章本来也想介绍，后来发现得先把官方版本的说明白，然后我们可以在评论区扩展讨论。 BNLH 在MariaDB 5.3就引入了，流程跟我们“扩展-hash join”这段类似，对于等值join的效果还是很好的。

    9
  • poppy
    2019-02-01
    select * from t1 join t2 on(t1.a=t2.a) join t3 on (t2.b=t3.b) where t1.c>=X and t2.c>=Y and t3.c>=Z; 老师，我的理解是真正做join的三张表的大小实际上是t1.c>=X、t2.c>=Y、t3.c>=Z对应满足条件的行数，为了方便快速定位到满足条件的数据，t1、t2和t3的c字段最好都建索引。对于join操作，按道理mysql应该会优先选择join之后数量比较少的两张表先来进行join操作，例如满足t1.a=t2.a的行数小于满足t2.b=t3.b的行数，那么就会优先将t1和t2进行join，选择t1.c>=X、t2.c>=Y中行数少的表作为驱动表，另外一张作为被驱动表，在被驱动表的a的字段上建立索引，这样就完成了t1和t2的join操作并把结果放入join_buffer准备与t3进行join操作，则在作为被驱动表的t3的b字段上建立索引。不知道举的这个例子分析得是否正确，主要是这里不知道t1、t2、t3三张表的数据量，以及满足t1.c>=X ，t2.c>=Y ，t3.c>=Z的数据量，还有各个字段的区分度如何，是否适合建立索引等。
    展开

    作者回复: 嗯 这个问题就是留给大家自己设定条件然后分析的，分析得不错哦

    共 2 条评论
    8
  • bluefantasy3
    2019-02-02
    请教老师一个问题：innodb的Buffer Pool的内存是innodb自己管理还是使用OS的page cache? 我理解应该是innodb自己管理。我在另一个课程里看到如果频繁地把OS的/proc/sys/vm/drop_caches 改成 1会影响MySQL的性能，如果buffer pool是MySQL自己管理，应该不受这个参数影响呀？请解答。

    作者回复: 1. 是MySQL 自己管理的 2. 一般只有数据文件是o_direct的，redo log 和 binlog 都是有用到文件系统的page cache, 因此多少有影响的 好问题👍🏿

    共 2 条评论
    7
  • 读书看报
    2019-02-01
    order by cjsj desc limit 0,20 explain Extra只是显示 Using where ，执行时间 7秒钟 order by cjsj desc limit 5000,20 explain Extra只是显示 Using index condition; Using where; Using filesort, 执行时间 0.1 秒 有些许的凌乱了@^^@

    作者回复: 这正常的，一种可能是这样的： Using where 就是顺序扫，但是这个上要扫很久才能扫到满足条件的20个记录； 虽然有filesort，但是如果参与排序的行数少，可能速度就更快，而且limit 有堆排序优化哦

    7
  • moonfox
    2020-11-25
    感觉有一点没有讲清楚，当然也可能是我理解的问题。MRR在 表 Join的时候，主要起到的做用就是加速了被驱动表的普通索引A的回表速度，而不是加速普通索引A的查询速度，因为普通索引A的数据是随机插入的，所以无法使用MRR的优势。BKA算法的主要作用就是一次性的把驱动表中参与查询的数据传给被驱动表，以便让被驱动表在索引A上回表时使用MRR算法，其实就是对MRR算法的辅助。
    6
  • 库淘淘
    2019-02-01
    set optimizer_switch='mrr=on,mrr_cost_based=off,batched_key_access=on'; create index idx_c on t2(c); create index idx_a_c on t1(a,c); create index idx_b_c on t3(b,c); mysql> explain select * from t2 -> straight_join t1 on(t1.a=t2.a) -> straight_join t3 on(t2.b=t3.b) -> where t1.c> 800 and t2.c>=600 and t3.c>=500; +----+-------------+-------+------------+--------------------------------------- | id | select_type | table | partitions | type | possible_keys | key | key_len | ref | rows | filtered | Extra +---------------------------------------- | 1 | SIMPLE | t2 | NULL | range | idx_c | idx_c | 5 | NULL | 401 | 100.00 | Using index condition; Using where; Using MRR | | 1 | SIMPLE | t1 | NULL | ref | idx_a_c | idx_a_c | 5 | test.t2.a | 1 | 33.33 | Using index condition; Using join buffer (Batched Key Access) | | 1 | SIMPLE | t3 | NULL | ref | idx_b_c | idx_b_c | 5 | test.t2.b | 1 | 33.33 | Using index condition; Using join buffer (Batched Key Access) | +----+-------------+-------+------------+-----+--------------------------------------- 3 rows in set, 1 warning (0.00 sec) 以自己理解如下，有问题请老师能够指出 1.根据查询因是select * 肯定回表的，其中在表t2创建索引idx_c,为了能够使用ICP,MRR，如果c字段重复率高或取值行数多，可以考虑不建索引 2.已t2 作为驱动表，一方面考虑其他两表都有关联,t2表放入join buffer后关联t1后，再关联t2 得出结果 再各回t2,t3表取出 得到结果集（之前理解都是t1和t2join得结果集再与t3join，本次理解太确定） 3.t2、t3表建立联合查询目的能够使用ICP
    展开

    作者回复: 👍 BKA是从Index Nexted-Loop join 优化而来的，并不是“t1和t2join得结果集再与t3join”，而是直接嵌套循环执行下去。 这个效果相当不错了，MRR，BKA都用上

    6
  • Mr.Strive.Z.H.L
    2019-02-13
    老师你好，今天在回顾这篇文章做总结的时候，突然有一个疑惑： 我们假设t2的b上面有索引，该语句是左连接 select * from t1 left join t2 on (t1.b=t2.b) where t2.b>=1 and t2.b<=2000; 和 select * from t1 left join t2 on (t1.b=t2.b) and t2.b>=1 and t2.b<=2000; 到底在内部执行流程上到底有什么区别？？ 因为实际工作中左连接用得挺多的。 （这篇文章都是直连，所以使用on和where最后的结果都一样，但是左连接就不是了）
    展开

    作者回复: 你这两个语句是一样的。。是不是第二个语句多了left？ left join因为语义上要求所有左边表的数据行都必须存在结果里面，所以执行流程不太一样，我在答疑文章中说哈

    5