46 | SSD硬盘(上):如何完成性能优化的KPI?
下载APP
关闭
渠道合作
推荐作者
46 | SSD硬盘(上):如何完成性能优化的KPI?
2019-08-12 徐文浩 来自北京
《深入浅出计算机组成原理》
课程介绍
讲述:徐文浩
时长11:57大小10.94M
随着 3D 垂直封装技术和 QLC 技术的出现,今年的“618”,SSD 硬盘的价格进一步大跳水,趁着这个机会,我把自己电脑上的仓库盘,从 HDD 换成了 SSD 硬盘。我的个人电脑彻底摆脱了机械硬盘。
随着智能手机的出现,互联网用户在 2008 年之后开始爆发性增长,大家在网上花的时间也越来越多。这也就意味着,隐藏在精美 App 和网页之后的服务端数据请求量,呈数量级的上升。
无论是用 10000 转的企业级机械硬盘,还是用 Short Stroking 这样的方式进一步提升 IOPS,HDD 硬盘已经满足不了我们的需求了。上面这些优化措施,无非就是,把 IOPS 从 100 提升到 300、500 也就到头了。
于是,SSD 硬盘在 2010 年前后,进入了主流的商业应用。我们在第 44 讲看过,一块普通的 SSD 硬盘,可以轻松支撑 10000 乃至 20000 的 IOPS。那个时候,不少互联网公司想要完成性能优化的 KPI,最后的解决方案都变成了换 SSD 的硬盘。如果这还不够,那就换上使用 PCI Express 接口的 SSD。
不过,只是简单地换一下 SSD 硬盘,真的最大限度地用好了 SSD 硬盘吗?另外,即便现在 SSD 硬盘很便宜了,大部分公司的批量数据处理系统,仍然在用传统的机械硬盘,这又是为什么呢?
那么接下来这两讲,就请你和我一起来看一看,SSD 硬盘的工作原理,以及怎么最大化利用 SSD 的工作原理,使得访问的速度最快,硬盘的使用寿命最长。
SSD 的读写原理
SSD 没有像机械硬盘那样的寻道过程,所以它的随机读写都更快。我在下面列了一个表格,对比了一下 SSD 和机械硬盘的优缺点。
你会发现,不管是机械硬盘不擅长的随机读写,还是它本身已经表现不错的顺序写入,SSD 在这些方面都要比 HDD 强。不过,有一点,机械硬盘要远强于 SSD,那就是耐用性。如果我们需要频繁地重复写入删除数据,那么机械硬盘要比 SSD 性价比高很多。
要想知道为什么 SSD 的耐用性不太好,我们先要理解 SSD 硬盘的存储和读写原理。我们之前说过,CPU Cache 用的 SRAM 是用一个电容来存放一个比特的数据。对于 SSD 硬盘,我们也可以先简单地认为,它是由一个电容加上一个电压计组合在一起,记录了一个或者多个比特。
SLC、MLC、TLC 和 QLC
能够记录一个比特很容易理解。给电容里面充上电有电压的时候就是 1,给电容放电里面没有电就是 0。采用这样方式存储数据的 SSD 硬盘,我们一般称之为使用了 SLC 的颗粒,全称是 Single-Level Cell,也就是一个存储单元中只有一位数据。
但是,这样的方式会遇到和 CPU Cache 类似的问题,那就是,同样的面积下,能够存放下的元器件是有限的。如果只用 SLC,我们就会遇到,存储容量上不去,并且价格下不来的问题。于是呢,硬件工程师们就陆续发明了 MLC(Multi-Level Cell)、TLC(Triple-Level Cell)以及 QLC(Quad-Level Cell),也就是能在一个电容里面存下 2 个、3 个乃至 4 个比特。
只有一个电容,我们怎么能够表示更多的比特呢?别忘了,这里我们还有一个电压计。4 个比特一共可以从 0000-1111 表示 16 个不同的数。那么,如果我们能往电容里面充电的时候,充上 15 个不同的电压,并且我们电压计能够区分出这 15 个不同的电压。加上电容被放空代表的 0,就能够代表从 0000-1111 这样 4 个比特了。
不过,要想表示 15 个不同的电压,充电和读取的时候,对于精度的要求就会更高。这会导致充电和读取的时候都更慢,所以 QLC 的 SSD 的读写速度,要比 SLC 的慢上好几倍。如果你想要知道是什么样的物理原理导致这个 QLC 更慢,可以去读一读这篇文章。
P/E 擦写问题
如果我们去看一看 SSD 硬盘的硬件构造,可以看到,它大概是自顶向下是这么构成的。
首先,自然和其他的 I/O 设备一样,它有对应的接口和控制电路。现在的 SSD 硬盘用的是 SATA 或者 PCI Express 接口。在控制电路里,有一个很重要的模块,叫作 FTL(Flash-Translation Layer),也就是闪存转换层。这个可以说是 SSD 硬盘的一个核心模块,SSD 硬盘性能的好坏,很大程度上也取决于 FTL 的算法好不好。现在容我卖个关子,我们晚一会儿仔细讲 FTL 的功能。
接下来是实际 I/O 设备,它其实和机械硬盘很像。现在新的大容量 SSD 硬盘都是 3D 封装的了,也就是说,是由很多个裸片(Die)叠在一起的,就好像我们的机械硬盘把很多个盘面(Platter)叠放再一起一样,这样可以在同样的空间下放下更多的容量。
接下来,一张裸片上可以放多个平面(Plane),一般一个平面上的存储容量大概在 GB 级别。一个平面上面,会划分成很多个块(Block),一般一个块(Block)的存储大小, 通常几百 KB 到几 MB 大小。一个块里面,还会区分很多个页(Page),就和我们内存里面的页一样,一个页的大小通常是 4KB。
在这一层一层的结构里面,处在最下面的两层块和页非常重要。
对于 SSD 硬盘来说,数据的写入叫作 Program。写入不能像机械硬盘一样,通过覆写(Overwrite)来进行的,而是要先去擦除(Erase),然后再写入。
SSD 的读取和写入的基本单位,不是一个比特(bit)或者一个字节(byte),而是一个页(Page)。SSD 的擦除单位就更夸张了,我们不仅不能按照比特或者字节来擦除,连按照页来擦除都不行,我们必须按照块来擦除。
而且,你必须记住的一点是,SSD 的使用寿命,其实是每一个块(Block)的擦除的次数。你可以把 SSD 硬盘的一个平面看成是一张白纸。我们在上面写入数据,就好像用铅笔在白纸上写字。如果想要把已经写过字的地方写入新的数据,我们先要用橡皮把已经写好的字擦掉。但是,如果频繁擦同一个地方,那这个地方就会破掉,之后就没有办法再写字了。
我们上面说的 SLC 的芯片,可以擦除的次数大概在 10 万次,MLC 就在 1 万次左右,而 TLC 和 QLC 就只在几千次了。这也是为什么,你去购买 SSD 硬盘,会看到同样的容量的价格差别很大,因为它们的芯片颗粒和寿命完全不一样。
SSD 读写的生命周期
下面我们来实际看一看,一块 SSD 硬盘在日常是怎么被用起来的。
我用三种颜色分别来表示 SSD 硬盘里面的页的不同状态,白色代表这个页从来没有写入过数据,绿色代表里面写入的是有效的数据,红色代表里面的数据,在我们的操作系统看来已经是删除的了。
一开始,所有块的每一个页都是白色的。随着我们开始往里面写数据,里面的有些页就变成了绿色。
然后,因为我们删除了硬盘上的一些文件,所以有些页变成了红色。但是这些红色的页,并不能再次写入数据。因为 SSD 硬盘不能单独擦除一个页,必须一次性擦除整个块,所以新的数据,我们只能往后面的白色的页里面写。这些散落在各个绿色空间里面的红色空洞,就好像硬盘碎片。
如果有哪一个块的数据一次性全部被标红了,那我们就可以把整个块进行擦除。它就又会变成白色,可以重新一页一页往里面写数据。这种情况其实也会经常发生。毕竟一个块不大,也就在几百 KB 到几 MB。你删除一个几 MB 的文件,数据又是连续存储的,自然会导致整个块可以被擦除。
随着硬盘里面的数据越来越多,红色空洞占的地方也会越来越多。于是,你会发现,我们就要没有白色的空页去写入数据了。这个时候,我们要做一次类似于 Windows 里面“磁盘碎片整理”或者 Java 里面的“内存垃圾回收”工作。找一个红色空洞最多的块,把里面的绿色数据,挪到另一个块里面去,然后把整个块擦除,变成白色,可以重新写入数据。
不过,这个“磁盘碎片整理”或者“内存垃圾回收”的工作,我们不能太主动、太频繁地去做。因为 SSD 的擦除次数是有限的。如果动不动就搞个磁盘碎片整理,那么我们的 SSD 硬盘很快就会报废了。
说到这里,你可能要问了,这是不是说,我们的 SSD 硬盘的容量是用不满的?因为我们总会遇到一些红色空洞?
没错,一块 SSD 的硬盘容量,是没办法完全用满的。不过,为了不得罪消费者,生产 SSD 硬盘的厂商,其实是预留了一部分空间,专门用来做这个“磁盘碎片整理”工作的。一块标成 240G 的 SSD 硬盘,往往实际有 256G 的硬盘空间。SSD 硬盘通过我们的控制芯片电路,把多出来的硬盘空间,用来进行各种数据的闪转腾挪,让你能够写满那 240G 的空间。这个多出来的 16G 空间,叫作预留空间(Over Provisioning),一般 SSD 的硬盘的预留空间都在 7%-15% 左右。
总结延伸
到这里,相信你对 SSD 硬盘的写入和擦除的原理已经清楚了,也明白了 SSD 硬盘的使用寿命受限于可以擦除的次数。
仔细想一想,你会发现 SSD 硬盘,特别适合读多写少的应用。在日常应用里面,我们的系统盘适合用 SSD。但是,如果我们用 SSD 做专门的下载盘,一直下载各种影音数据,然后刻盘备份就不太好了,特别是现在 QLC 颗粒的 SSD,它只有几千次可擦写的寿命啊。
在数据中心里面,SSD 的应用场景也是适合读多写少的场景。我们拿 SSD 硬盘用来做数据库,存放电商网站的商品信息很合适。但是,用来作为 Hadoop 这样的 Map-Reduce 应用的数据盘就不行了。因为 Map-Reduce 任务会大量在任务中间向硬盘写入中间数据再删除掉,这样用不了多久,SSD 硬盘的寿命就会到了。
好了,最后让我们总结一下。
这一讲,我们从 SSD 的物理原理,也就是“电容 + 电压计”的组合,向你介绍了 SSD 硬盘存储数据的原理,以及从 SLC、MLC、TLC,直到今天的 QLC 颗粒是怎么回事儿。
然后,我们一起看了 SSD 硬盘的物理构造,也就是裸片、平面、块、页的层次结构。我们对于数据的写入,只能是一页一页的,不能对页进行覆写。对于数据的擦除,只能整块进行。所以,我们需要用一个,类似“磁盘碎片整理”或者“内存垃圾回收”这样的机制,来清理块当中的数据空洞。而 SSD 硬盘也会保留一定的预留空间,避免出现硬盘无法写满的情况。
到了这里,我们 SSD 硬盘在硬件层面的写入机制就介绍完了。不过,更有挑战的一个问题是,在这样的机制下,我们怎么尽可能延长 SSD 的使用寿命呢?如果要开发一个跑在 SSD 硬盘上的数据库,我们可以利用 SSD 的哪些特性呢?想要知道这些,请你一定要记得回来听下一讲。
推荐阅读
课后思考
现在大家使用的数据系统里,往往会有日志系统。你觉得日志系统适合存放在 SSD 硬盘上吗?
欢迎在留言区写下你的思考。如果有收获,你也可以把这篇文章分享给你的朋友。
分享给需要的人,Ta购买本课程,你将得20元
生成海报并分享
赞 23
提建议
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
上一篇
45 | 机械硬盘:Google早期用过的“黑科技”
下一篇
47 | SSD硬盘(下):如何完成性能优化的KPI?
精选留言(29)
- 前端西瓜哥2019-10-01这里推荐个 SSD 的科普视频,讲得很详细: https://www.bilibili.com/video/av61437877
作者回复: 👍谢谢你给大家推荐的资料
共 5 条评论52 - Cue2019-09-12想问一下,为什么ssd断电后不会丢数据
作者回复: 现在大家用的SSD的存储硬件都是NAND Flash。实现原理和通过改变电压,让电子进入绝缘层的浮栅(Floating Gate)内。断电之后,电子仍然在FG里面。 但是如果长时间不通电,比如几年,仍然可能会丢数据。 所以换句话说,SSD的确也不适合作为冷数据备份。 关于NAND的基本原理,可以看一下Wikipedia https://zh.wikipedia.org/wiki/%E9%97%AA%E5%AD%98#NAND_Flash
共 2 条评论51 - 许童童2019-08-12现在大家使用的数据系统里,往往会有日志系统。你觉得日志系统适合存放在 SSD 硬盘上吗? 不适合,日志系统写入量大,而且有些还会清除老旧的日志,反而读日志却不多,日志系统完全不适合存放在SSD硬盘上,应该用HDD硬盘。
作者回复: 👍答案正确。
共 2 条评论43 - Tristen陈涛2019-09-05从这篇文章中我没看懂,为何 SSD 的随机读写速度会比机械硬盘快,它的实际 I/O 设备不是和机械硬盘很像吗? 那 SSD 寻找数据的时候,是通过什么样的物理结构来找到它想要的数据的呢?
作者回复: 完全不一样啊,SSD就是一块电路板。没有机械硬盘转动的寻址过程,这些过程都变成了电信号的传输来做到的,而不是通过物理结构的转动来做到的。
共 3 条评论24 - 时间道2019-08-13公司的日志系统已经报废了很多SSD盘了
作者回复: 日志系统用SSD有点奢侈
24 - 斐波那契2019-08-12这个思考题我觉得不能一概而论 以oracle为例 一个事务结束 commit提交后 实际上就是提交日志 IO的速度决定了你事务执行的速度 所以在某些高并发场景下 ssd还是值得的 但是成本会相应的增加
作者回复: 👍实际的应用场景很重要,大部分的技术决策其实都是应场景而定的,很多时候并没有标准答案。
共 2 条评论16 - QQ怪2019-12-11老师讲那个SSD硬盘有擦除次数的限制,很生动形象,我补充下具体是为啥: 所谓的单元存储颗粒,你用多了,可能就消磁了,或者介质疲劳损坏了(可以理解为,就像是轮胎那样磨损了)。
作者回复: 👍,理解具体的技术问题,可以多和现实生活结合。
共 2 条评论9 - 易儿易2019-08-12国内某知名大数据平台服务商居然力推用SSD加速其自研大数据交易型(为了写入需求特意研发)数据库,看了本篇讲解,觉得这公司是在拿政府单位当肉鸡……
作者回复: 易儿易同学, 你好,不过这个还要看一下写入是否是随机写,以及IOPS的要求。因为有可能很无奈就是要多花钱用SSD的应用场景也是存在的。
共 2 条评论9 - 牛牛2020-12-23内容总结: 1. SSD的IOPS可以达到1~2w 2. SSD最上边是接口和控制电路层, 接下来是实际的IO设备 3. SSD是由裸片、Plain片、Block块、Page页叠在一起组成的 4. SSD的价格会根据 SLC、MLC、TLC、QLC等不同组成有所差异, SLC最贵, 但可擦写次数也最高, 可以达10w次; MLC只有1w次; TLC和QLC就只有几千次, SSD的寿命其实也就是擦除次数 5. SSD厂商一般会预留7%-15%的空间, 进行碎片整理 6. SSD写入和读取的基本单位是页(一般是4KB), 擦除的基本单位是块(Block, 一般是几KB到几MB) 7. SSD适合读多写少的场景展开7
- fcb的鱼2020-02-11用ssd做日志盘不是很合适。因为公司的日志集群基本都是大量的写(这种写都是顺序写),读的场景比较少(读少写多),而且日志会定期清除。HDD磁盘完全能满足顺序写的需求,而且性价比高。但是由于HDD盘的IO不高,所以数据大量写的时候需要注意。
作者回复: fcb的鱼同学, 你好,回答正确!不过随着现在SSD硬盘的成本不断下降,也的确开始有公司使用SSD来作为数据盘了。
7 - mfist2019-08-16本节讲了ssd和hdd的区别,以及sdd快的原因。了解了同样容量ssd不同价格的原因,slc tlc mlc。这样就从原理上明白了多读少写的适用场景。 回到问题,日志的场景不适合用ssd,日志存储量大,过段时间就要清除,不符合ssd的最优场景。
作者回复: mfist同学, 你好,其实SSD有适合日志的地方,就是它适合追加写。但是因为寿命和成本,又很不合适,而HDD本身特别适合顺序写,所以现在一般日志系统还是用HDD。
5 - 青黄2019-10-25您好,在ssd原理的那部分最后一段是不是有个虫 我记得是SRAM以晶体管形式存数据,DRAM以电容形式存数据(所以需要刷新)共 1 条评论4
- magicnum2019-08-12说到硬盘容量让我想起了以前总觉得硬盘厂商坑骗了消费者,学了计算机才知道256GB和240GiB容量是一样的,只是对消费者用十进制而对计算机用二进制。 现在一看还有个预留空间,说明做任何结论之前都要了解事件运行对基本原理,市场化的产品是非常严谨的,至少都是可以自圆其说的。。。
作者回复: 👍
4 - 活的潇洒2019-08-22你可以把SSD硬盘的一个平面看成是一张白纸。我们在上面写入数据,就好像用铅笔在白纸上写字。如果想要把已经写过字 的地方写入新的数据,我们先要用橡皮把已经写好的字擦掉。但是,如果频繁擦同一个地方,那这个地方就会破掉,之后就没有办法再写字了。 上面这一段比喻的很形象 day46 笔记:深入浅出计算机组成原理学习笔记:SSD硬盘(上)-如何完成性能优化的KPI?(第46讲)展开3
- xindoo2019-08-12我觉得日志系统完全不适合放ssd上,日志比较大而且有时候大部分日志是不会被读的,另外,写日志没有随机写的需求,也不需要很高的IOPS,所以完全没有必要用更为昂贵且存储性价比低的ssd。
作者回复: 的确日志系统用SSD的意义不大。
1 - Linuxer2019-08-12日志系统明显不适合,另外先擦除后写入是不是导致写入放大的原因?
作者回复: 是的,而且可能要搬运很多在同一个块上并不需要更新的数据
1 - Nolan2023-02-06 来自四川https://space.bilibili.com/1778586949/ 这个UP主有国外的科普课程,SSD硬盘、DRAM的原理讲的都很好~~1
- 小杰2022-06-01没有看底下评论之前,以为日志会一直保存在硬盘上,那么在读的时候很适合SSD。但现在互联网公司日志写入量太大了,而且会清理老的日志。那么这样就涉及到清理的问题,频繁的擦除会导致页失效。
- Kitty🐱婷🎉2022-02-05请问日常开发涉及到大量的代码工程是适合用SSD还是HDD呢?
- 完美坚持2021-08-31如果超过了使用次数,使用次数过多了之后,SSD硬盘会发生什么样的变化,导致报废呢?