18 | 为什么这些SQL语句逻辑相同,性能却差异巨大?
18 | 为什么这些SQL语句逻辑相同,性能却差异巨大?
讲述:林晓斌
时长15:36大小14.26M
案例一:条件字段函数操作
案例二:隐式类型转换
案例三:隐式字符编码转换
小结
上期问题时间
赞 99
提建议
精选留言(155)
- 老杨同志置顶2018-12-24感谢老师鼓励,我本人工作时间比较长,有一定的基础,听老师的课还是收获很大。每次公司内部有技术分享,我都去听课,但是多数情况,一两个小时的分享,就只有一两句话受益。老师的每篇文章都能命中我的知识盲点,感觉太别爽。 对应今天的隐式类型转换问题也踩过坑。 我们有个任务表记录待执行任务,表结构简化后如下: CREATE TABLE `task` ( `task_id` int(11) NOT NULL AUTO_INCREMENT COMMENT '自增主键', `task_type` int(11) DEFAULT NULL COMMENT '任务类型id', `task_rfid` varchar(50) COLLATE utf8_unicode_ci DEFAULT NULL COMMENT '关联外键1', PRIMARY KEY (`task_id`) ) ENGINE=InnoDB AUTO_INCREMENT CHARSET=utf8 COLLATE=utf8_unicode_ci COMMENT='任务表'; task_rfid 是业务主键,当然都是数字,查询时使用sql: select * from task where task_rfid =123; 其实这个语句也有隐式转换问题,但是待执行任务只有几千条记录,并没有什么感觉。 这个表还有个对应的历史表,数据有几千万 忽然有一天,想查一下历史记录,执行语句 select * from task_history where task_rfid =99; 直接就等待很长时间后超时报错了。 如果仔细看,其实我的表没有task_rfid 索引,写成task_rfid =‘99’也一样是全表扫描。 运维时的套路是,猜测主键task_id的范围,怎么猜,我原表有creat_time字段,我会先查 select max(task_id) from task_history 然后再看看 select * from task_history where task_id = maxId - 10000的时间,估计出大概的id范围。然后语句变成 select * from task_history where task_rfid =99 and id between ? and ?;展开
作者回复: 你最后这个id预估,加上between , 有种神来之笔的感觉😄 感觉隐约里面有二分法的思想 👍🏿
共 29 条评论163 - 赖阿甘置顶2018-12-24“mysql>select l.operator from tradelog l , trade_detail d where d.tradeid=l.tradeid and d.id=4;” 图6上面那句sql是不是写错了。d.tradeid=l.tradeid是不是该写成l.tradeid = d.tradeid?不然函数会作用在索引字段上,就只能全表扫描了
作者回复: 这个问题不是等号顺序决定的哈 好问题
共 11 条评论39 - 冠超置顶2019-01-28非常感谢老师分享的内容,实打实地学到了。这里提个建议,希望老师能介绍一下设计表的时候要怎么考虑这方面的知识哈😊
作者回复: 是这样的,其实我们整个专栏大部分的文章,最后都是为了说明 “怎么设计表”、“怎么考虑优化SQL语句” 但是因为这个不是一成不变的,很多是需要考虑现实的情况, 所以这个专栏就是想把对应的原理说一下,这样大家在应对不同场景的时候,可以组合来考虑。 也就是说没有一段话可以把“怎么设计表”讲清楚(或者说硬写出来很可能就是一些general的没有什么针对性作用的描述) 你可以把你的业务背景抽象说下,我们来具体讨论吧
共 2 条评论27 - 可凡不凡置顶2018-12-251.老师好 2.如果在用一个 MySQL 关键字做字段,并且字段上索引,当我用这个索引作为唯一查询条件的时候 ,会 造 成隐式的转换吗? 例如:SELECT * FROM b_side_order WHERE CODE = 332924 ; (code 上有索引) 3. mysql5.6 code 上有索引 intime 上没有索引 语句一: SELECT * FROM b_side_order WHERE CODE = 332924 ; 语句二; UPDATE b_side_order SET in_time = '2018-08-04 08:34:44' WHERE 1=2 or CODE = 332924; 这两个语句 执行计划走 select 走了索引,update 没有走索引 是执行计划的bug 吗??展开
作者回复: 1. 你好😄 2. CODE不是关键字呀, 另外优化器选择跟关键字无关哈,关键字的话,要用 反‘ 括起来 3. 不是bug, update如果把 or 改成 and , 就能走索引😄
共 21 条评论22 - 700置顶2019-01-18老师您好,有个问题恳请指教。背景如下,我长话短说: mysql>select @@version; 5.6.30-log CREATE TABLE `t1` ( `id` int(11) unsigned NOT NULL AUTO_INCREMENT, `user_id` int(11) NOT NULL, `plan_id` int(11) NOT NULL DEFAULT '0' , PRIMARY KEY (`id`), KEY `userid` (`user_id`) USING BTREE, KEY `idx_planid` (`plan_id`) ) ENGINE=InnoDB DEFAULT CHARSET=gb2312; CREATE TABLE `t3` ( `id` int(11) NOT NULL AUTO_INCREMENT, `status` int(4) NOT NULL DEFAULT '0', `ootime` varchar(11) DEFAULT NULL, PRIMARY KEY (`id`), KEY `idx_xxoo` (`status`,`ootime`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4; t1 和 t3 表的字符集不一样 sql 执行计划如下: explain SELECT t1.id, t1.user_id FROM t1, t3 WHERE t1.plan_id = t3.id AND t3.ootime < UNIX_TIMESTAMP('2022-01-18') +----+-------------+-------+-------+---------------+--------------+---------+--------------+-------+----------------------------------------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+-------+-------+---------------+--------------+---------+--------------+-------+----------------------------------------+ | 1 | SIMPLE | t3 | index | PRIMARY | idx_xxoo | 51 | NULL | 39106 | Using where; Using index | | 1 | SIMPLE | t1 | ref | idx_planid | idx_planid | 4 | t3.id | 401 | Using join buffer (Batched Key Access) | +----+-------------+-------+-------+---------------+--------------+---------+--------------+-------+----------------------------------------+ 我的疑惑是 1)t3 的 status 没出现在 where 条件中,但执行计划为什么用到了 idex_xxoo 索引? 2)为什么 t3.ootime 也用到索引了,从 key_len 看出。t3.ootime 是 varchar 类型的,而 UNIX_TIMESTAMP('2022-01-18') 是数值,不是发生了隐式转换吗? 请老师指点。展开
作者回复: 这个查询语句会对t3做全索引扫描,是使用了索引的,只是没有用上快速搜索功能
共 5 条评论7 - 探索无止境2019-01-13老师,有道面试题困扰了很久,求指教!题目是这样的,a表有100条记录,b表有10000条记录,两张表做关联查询时,是将a表放前面效率高,还是b表放前面效率高?网上各种答案,但感觉都没有十分的说服力,期待老师的指点!
作者回复: (这题目改成100万禾10000万比较好) 如果是考察语句写法,这两个表谁放前面都一样,优化器会调整顺序选择合适的驱动表; 如果是考察优化器怎么实现的,你可以这么想,每次在树搜索里面做一次查找都是log(n), 所以对比的是100*log(10000)和 10000*log(100)哪个小,显然是前者,所以结论应该是让小表驱动大表。
共 12 条评论208 - Leon📷2018-12-24索引字段不能进行函数操作,但是索引字段的参数可以玩函数,一言以蔽之
作者回复: 精辟😄
共 9 条评论99 - 某、人2018-12-24SQL逻辑相同,性能差异较大的,通过老师所讲学习到的,和平时碰到的,大概有以下几类: 一.字段发生了转换,导致本该使用索引而没有用到索引 1.条件字段函数操作 2.隐式类型转换 3.隐式字符编码转换 (如果驱动表的字符集比被驱动表得字符集小,关联列就能用到索引,如果更大,需要发生隐式编码转换,则不能用到索引,latin<gbk<utf8<utf8mb4) 二.嵌套循环,驱动表与被驱动表选择错误 1.连接列上没有索引,导致大表驱动小表,或者小表驱动大表(但是大表走的是全表扫描) --连接列上建立索引 2.连接列上虽然有索引,但是驱动表任然选择错误。--通过straight_join强制选择关联表顺序 3.子查询导致先执行外表在执行子查询,也是驱动表与被驱动表选择错误。 --可以考虑把子查询改写为内连接,或者改写内联视图(子查询放在from后组成一个临时表,在于其他表进行关联) 4.只需要内连接的语句,但是写成了左连接或者右连接。比如select * from t left join b on t.id=b.id where b.name='abc'驱动表被固定,大概率会扫描更多的行,导致效率降低. --根据业务情况或sql情况,把左连接或者右连接改写为内连接 三.索引选择不同,造成性能差异较大 1.select * from t where aid= and create_name>'' order by id limit 1; 选择走id索引或者选择走(aid,create_time)索引,性能差异较大.结果集都有可能不一致 --这个可以通过where条件过滤的值多少来大概判断,该走哪个索引 四.其它一些因素 1.比如之前学习到的是否有MDL X锁 2.innodb_buffer_pool设置得太小,innodb_io_capacity设置得太小,刷脏速度跟不上 3.是否是对表做了DML语句之后,马上做select,导致change buffer收益不高 4.是否有数据空洞 5.select选取的数据是否在buffer_pool中 6.硬件原因,资源抢占 原因多种多样,还需要慢慢补充。 老师我问一个问题: 连接列上一个是int一个是bigint或者一个是char一个varchar,为什么被驱动表上会出现(using index condition)?展开共 13 条评论68
- 乔纳森2019-05-04执行explain 语句后,使用show warnings; 可以看到MySQL 实际执行的SQL,包括字符集的转换共 2 条评论62
- 风轨2018-12-24刚试了文中穿插得思考题:当主键是整数类型条件是字符串时,会走索引。 文中提到了当字符串和数字比较时会把字符串转化为数字,所以隐式转换不会应用到字段上,所以可以走索引。 另外,select 'a' = 0 ; 的结果是1,说明无法转换成数字的字符串都被转换成0来处理了。
作者回复: 👍🏿
共 4 条评论56 - crazyone2018-12-26老师你好,我在执行explain的时候,发现extra 里面 有using where,using index ,using index condition 能具体讲下这几个的区别吗?
作者回复: Using index是覆盖索引 Using index condition 是索引下推
共 4 条评论48 - 饭粒2019-02-25感觉要使用索引就不能“破坏”索引原有的顺序,这节的函数操作,隐式转换都“破坏”了原有的顺序。前一节的select * from t where city in in (“杭州”," 苏州 ") order by name limit 100; 同样是破坏了 (city,name) 联合索引的递增顺序,类似的还有使用联合索引,一个字段DESC,一个ASC。
作者回复: 👍 总结得很好 “顺势而查”才能用上索引😆
26 - 匿名的朋友2019-01-05丁奇老师,我有个疑问,就是sql语句执行时那些order by group by limit 以及where条件,有执行的先后顺序吗?
作者回复: 有,先where ,再order by 最后limit
共 2 条评论25 - 涛哥哥2019-01-26老师,您好!我是做后端开发的。想问一下 mysql in关键字 的内部原理,能抽一点点篇幅讲一下吗?比如:select * from T where id in (a,b,d,c,,e,f); id是主键。1、为什么查询出来的结果集会按照id排一次序呢(是跟去重有关系么)?2、如果 in 里面的值较多的时候,就会比较慢啊(是还不如全表扫描么)?问我们公司很多后端的,都不太清楚,问我们DBA,他说默认就是这样(这不跟没说一样吗)。希望老师可以帮忙解惑。祝老师身体健康!微笑~展开
作者回复: 1. 优化器会排个序,目的是如果这几个记录对应的数据都不在内存里,可以触发顺序读盘,后面文章我们介绍到join的时候,会提到MRR,你关注下 2. in里面值多就是多次执行树搜索,跟全表扫描的速度对比,就看in里面的数据个数的比例了。 你的in里面一般多少个value呀
共 9 条评论20 - greatcl2019-05-22刚刚帮一个同事看SQL慢的问题,帮他找出来问题,并拿出这篇文章让他看,哈哈
作者回复: 👍 这个感觉太赞啦
14 - 可凡不凡2018-12-241.老师对于多表联合查询中,MySQL 对索引的选择 以后会详细介绍吗?
作者回复: 额,你是第三个提这个问题的了,我得好好考虑下安排😄
共 2 条评论13 - 探索无止境2018-12-25多表连接时,mysql是怎么选择驱动表和被驱动表的?这个很重要,希望老师可以讲讲共 3 条评论10
- Wrelon2018-12-25在第10章的时候提问过一次,当时表述的不够清楚,现在知道了,应该是因为隐式类型转换导致了全索引扫描。这个课程真实太棒了,我踩过的坑都说了。
作者回复: 👍🏿 对大家有帮助我最开心啦😄
8 - TKbook2018-12-27老师,对于最后回答上一课的问题:mysql> select * from t limit N, M-N+1; 这个语句也不是取3条记录。 没理解。
作者回复: 取其中三条…
共 3 条评论6 - 书策稠浊2018-12-24上期问题答案是取三个数,但是这里貌似不是三个数,不理解。
作者回复: 取回来以后再挑那三个呀😄
6