45 | 机械硬盘：Google早期用过的“黑科技”

Aug 9, 2019

45 | 机械硬盘：Google早期用过的“黑科技”-极客时间



下载APP





关闭

讲堂部落提薪训练营云原生训练营架构实战营企业版极客商城兑换中心 App下载浏览器插件

渠道合作

推荐作者

45 | 机械硬盘：Google早期用过的“黑科技”

2019-08-09 徐文浩来自北京

《深入浅出计算机组成原理》

课程介绍



讲述：徐文浩

时长12:18大小11.27M



在 1991 年，我刚接触计算机的时候，很多计算机还没有硬盘。整个操作系统都安装在 5 寸或者 3.5 寸的软盘里。不过，很快大部分计算机都开始用上了直接安装在主板上的机械硬盘。到了今天，更早的软盘早已经被淘汰了。在个人电脑和服务器里，更晚出现的光盘也已经很少用了。
机械硬盘的生命力仍然非常顽强。无论是作为个人电脑的数据盘，还是在数据中心里面用作海量数据的存储，机械硬盘仍然在被大量使用。不仅如此，随着成本的不断下降，机械硬盘还替代掉了很多传统的存储设备，比如，以前常常用来备份冷数据的磁带。
那这一讲里，我们就从机械硬盘的物理构造开始，从原理到应用剖析一下，看看我们可以怎么样用好机械硬盘。
拆解机械硬盘上一讲里，我们提到过机械硬盘的 IOPS。我们说，机械硬盘的 IOPS，大概只能做到每秒 100 次左右。那么，这个 100 次究竟是怎么来的呢？
我们把机械硬盘拆开来看一看，看看它的物理构造是怎么样的，你就自然知道为什么它的 IOPS 是 100 左右了。
我们之前看过整个硬盘的构造，里面有接口，有对应的控制电路版，以及实际的 I/O 设备（也就是我们的机械硬盘）。这里，我们就拆开机械硬盘部分来看一看。
图片来源
一块机械硬盘是由盘面、磁头和悬臂三个部件组成的。下面我们一一来看每一个部件。
首先，自然是盘面（Disk Platter）。盘面其实就是我们实际存储数据的盘片。如果你剪开过软盘的外壳，或者看过光盘 DVD，那你看到盘面应该很熟悉。盘面其实和它们长得差不多。
盘面本身通常是用的铝、玻璃或者陶瓷这样的材质做成的光滑盘片。然后，盘面上有一层磁性的涂层。我们的数据就存储在这个磁性的涂层上。盘面中间有一个受电机控制的转轴。这个转轴会控制我们的盘面去旋转。
我们平时买硬盘的时候经常会听到一个指标，叫作这个硬盘的转速。我们的硬盘有 5400 转的、7200 转的，乃至 10000 转的。这个多少多少转，指的就是盘面中间电机控制的转轴的旋转速度，英文单位叫 RPM，也就是每分钟的旋转圈数（Rotations Per Minute）。所谓 7200 转，其实更准确地说是 7200RPM，指的就是一旦电脑开机供电之后，我们的硬盘就可以一直做到每分钟转上 7200 圈。如果折算到每一秒钟，就是 120 圈。
说完了盘面，我们来看磁头（Drive Head）。我们的数据并不能直接从盘面传输到总线上，而是通过磁头，从盘面上读取到，然后再通过电路信号传输给控制电路、接口，再到总线上的。
通常，我们的一个盘面上会有两个磁头，分别在盘面的正反面。盘面在正反两面都有对应的磁性涂层来存储数据，而且一块硬盘也不是只有一个盘面，而是上下堆叠了很多个盘面，各个盘面之间是平行的。每个盘面的正反两面都有对应的磁头。
最后我们来看悬臂（Actutor Arm）。悬臂链接在磁头上，并且在一定范围内会去把磁头定位到盘面的某个特定的磁道（Track）上。这个磁道是怎么来呢？想要了解这个问题，我们要先看一看我们的数据是怎么存放在盘面上的。
一个盘面通常是圆形的，由很多个同心圆组成，就好像是一个个大小不一样的“甜甜圈”嵌套在一起。每一个“甜甜圈”都是一个磁道。每个磁道都有自己的一个编号。悬臂其实只是控制，到底是读最里面那个“甜甜圈”的数据，还是最外面“甜甜圈”的数据。
图片来源
知道了我们硬盘的物理构成，现在我们就可以看一看，这样的物理结构，到底是怎么来读取数据的。
我们刚才说的一个磁道，会分成一个一个扇区（Sector）。上下平行的一个一个盘面的相同扇区呢，我们叫作一个柱面（Cylinder）。
读取数据，其实就是两个步骤。一个步骤，就是把盘面旋转到某一个位置。在这个位置上，我们的悬臂可以定位到整个盘面的某一个子区间。这个子区间的形状有点儿像一块披萨饼，我们一般把这个区间叫作几何扇区（Geometrical Sector），意思是，在“几何位置上”，所有这些扇区都可以被悬臂访问到。另一个步骤，就是把我们的悬臂移动到特定磁道的特定扇区，也就在这个“几何扇区”里面，找到我们实际的扇区。找到之后，我们的磁头会落下，就可以读取到正对着扇区的数据。
所以，我们进行一次硬盘上的随机访问，需要的时间由两个部分组成。
第一个部分，叫作平均延时（Average Latency）。这个时间，其实就是把我们的盘面旋转，把几何扇区对准悬臂位置的时间。这个时间很容易计算，它其实就和我们机械硬盘的转速相关。随机情况下，平均找到一个几何扇区，我们需要旋转半圈盘面。上面 7200 转的硬盘，那么一秒里面，就可以旋转 240 个半圈。那么，这个平均延时就是
1s / 240 = 4.17ms
第二个部分，叫作平均寻道时间（Average Seek Time），也就是在盘面选转之后，我们的悬臂定位到扇区的的时间。我们现在用的 HDD 硬盘的平均寻道时间一般在 4-10ms。
这样，我们就能够算出来，如果随机在整个硬盘上找一个数据，需要 8-14 ms。我们的硬盘是机械结构的，只有一个电机转轴，也只有一个悬臂，所以我们没有办法并行地去定位或者读取数据。那一块 7200 转的硬盘，我们一秒钟随机的 IO 访问次数，也就是
1s / 8 ms = 125 IOPS 或者 1s / 14ms = 70 IOPS
现在，你明白我们上一讲所说的，HDD 硬盘的 IOPS 每秒 100 次左右是怎么来的吧？好了，现在你再思考一个问题。如果我们不是去进行随机的数据访问，而是进行顺序的数据读写，我们应该怎么最大化读取效率呢？
我们可以选择把顺序存放的数据，尽可能地存放在同一个柱面上。这样，我们只需要旋转一次盘面，进行一次寻道，就可以去写入或者读取，同一个垂直空间上的多个盘面的数据。如果一个柱面上的数据不够，我们也不要去动悬臂，而是通过电机转动盘面，这样就可以顺序读完一个磁道上的所有数据。所以，其实对于 HDD 硬盘的顺序数据读写，吞吐率还是很不错的，可以达到 200MB/s 左右。
Partial Stroking：根据场景提升性能只有 100 的 IOPS，其实很难满足现在互联网海量高并发的请求。所以，今天的数据库，都会把数据存储在 SSD 硬盘上。不过，如果我们把时钟倒播 20 年，那个时候，我们可没有现在这么便宜的 SSD 硬盘。数据库里面的数据，只能存放在 HDD 硬盘上。
今天，即便是数据中心用的 HDD 硬盘，一般也是 7200 转的，因为如果要更快的随机访问速度，我们会选择用 SSD 硬盘。但是在当时，SSD 硬盘价格非常昂贵，还没有能够商业化。硬盘厂商们在不断地研发转得更快的硬盘。在数据中心里，往往我们会用上 10000 转，乃至 15000 转的硬盘。甚至直到 2010 年，SSD 硬盘已经开始逐步进入市场了，西数还在尝试研发 20000 转的硬盘。转速更高、寻道时间更短的机械硬盘，才能满足实际的数据库需求。
不过，10000 转，乃至 15000 转的硬盘也更昂贵。如果你想要节约成本，提高性价比，那就得想点别的办法。你应该听说过，Google 早年用家用 PC 乃至二手的硬件，通过软件层面的设计来解决可靠性和性能的问题。那么，我们是不是也有什么办法，能提高机械硬盘的 IOPS 呢？
还真的有。这个方法，就叫作 Partial Stroking 或者 Short Stroking。我没有看到过有中文资料给这个方法命名。在这里，我就暂时把它翻译成“缩短行程”技术。
其实这个方法的思路很容易理解，我一说你就明白了。既然我们访问一次数据的时间，是“平均延时 + 寻道时间”，那么只要能缩短这两个之一，不就可以提升 IOPS 了吗？
一般情况下，硬盘的寻道时间都比平均延时要长。那么我们自然就可以想一下，有什么办法可以缩短平均的寻道时间。最极端的办法就是我们不需要寻道，也就是说，我们把所有数据都放在一个磁道上。比如，我们始终把磁头放在最外道的磁道上。这样，我们的寻道时间就基本为 0，访问时间就只有平均延时了。那样，我们的 IOPS，就变成了
1s / 4ms = 250 IOPS
不过呢，只用一个磁道，我们能存的数据就比较有限了。这个时候，可能我们还不如把这些数据直接都放到内存里面呢。所以，实践当中，我们可以只用 1/2 或者 1/4 的磁道，也就是最外面 1/4 或者 1/2 的磁道。这样，我们硬盘可以使用的容量可能变成了 1/2 或者 1/4。但是呢，我们的寻道时间，也变成了 1/4 或者 1/2，因为悬臂需要移动的“行程”也变成了原来的 1/2 或者 1/4，我们的 IOPS 就能够大幅度提升了。
比如说，我们一块 7200 转的硬盘，正常情况下，平均延时是 4.17ms，而寻道时间是 9ms。那么，它原本的 IOPS 就是
1s / (4.17ms + 9ms) = 75.9 IOPS
如果我们只用其中 1/4 的磁道，那么，它的 IOPS 就变成了
1s / (4.17ms + 9ms/4) = 155.8 IOPS
你看这个结果，IOPS 提升了一倍，和一块 15000 转的硬盘的性能差不多了。不过，这个情况下，我们的硬盘能用的空间也只有原来的 1/4 了。不过，要知道在当时，同样容量的 15000 转的硬盘的价格可不止是 7200 转硬盘的 4 倍啊。所以，这样通过软件去格式化硬盘，只保留部分磁道让系统可用的情况，可以大大提升硬件的性价比。
在 2000-2010 年这 10 年间，正是这些奇思妙想，让海量数据下的互联网蓬勃发展起来的。在没有 SSD 的硬盘的时候，聪明的工程师们从硬件到软件，设计了各种有意思的方案解决了我们遇到的各类性能问题。而对于计算机底层知识的深入了解，也是能够找到这些解决办法的核心因素。
总结延伸好了，相信通过这一讲，你对传统的 HDD 硬盘应该有了深入的了解。我们来总结一下。
机械硬盘的硬件，主要由盘面、磁头和悬臂三部分组成。我们的数据在盘面上的位置，可以通过磁道、扇区和柱面来定位。实际的一次对于硬盘的访问，需要把盘面旋转到某一个“几何扇区”，对准悬臂的位置。然后，悬臂通过寻道，把磁头放到我们实际要读取的扇区上。
受制于机械硬盘的结构，我们对于随机数据的访问速度，就要包含旋转盘面的平均延时和移动悬臂的寻道时间。通过这两个时间，我们能计算出机械硬盘的 IOPS。
7200 转机械硬盘的 IOPS，只能做到 100 左右。在互联网时代的早期，我们也没有 SSD 硬盘可以用，所以工程师们就想出了 Partial Stroking 这个浪费存储空间，但是可以缩短寻道时间来提升硬盘的 IOPS 的解决方案。这个解决方案，也是一个典型的、在深入理解了硬件原理之后的软件优化方案。
推荐阅读想要对机械硬盘的各种性能指标有更深入的理解，你可以读一读 Symantec 写的 Getting The Hang Of IOPS 的白皮书，以及后面的深入阅读内容，对你应该会很有帮助。我把对应的链接放在这里，你可以看一看。
课后思考如果是用更慢的 5400 转的硬盘，使用 Partial Stroking 技术，只使用一半的硬盘空间，我们的 IOPS 能够提升多少呢？
你可以拿出纸和笔算一算，然后把你的答案写在留言区。如果觉得有帮助，你可以把这篇文章分享给你的朋友，和他一起学习。

分享给需要的人，Ta购买本课程，你将得20元

生成海报并分享

赞 23

提建议

44 | 理解IO_WAIT：I/O性能到底是怎么回事儿？

46 | SSD硬盘（上）：如何完成性能优化的KPI？

 写留言

精选留言(31)

penbox
2019-08-12
这个解决方案真的太妙了，简单有效又容易操作。有点编程珠玑里面的位图排序算法的感觉。机械硬盘分区是由外到内的，C盘在最外侧依次类推，所以机械硬盘里面C盘的性能是所有分区里最好的。要想只用最外侧1/4的磁道，只需要简单地把C盘分成整个硬盘1/4的容量，剩下的容量弃而不用就可以达到文章里面的效果了！
展开
作者回复: 哈哈，的确是，第一次听到这种方式的时候我也觉得自己解决问题的思路不够奔放。
共 7 条评论
90
许童童
2019-08-09
老师，Partial Stroking技术不就是用空间换时间吗，原来计算机优化的本质都是一样的。 5400 转的硬盘，只使用一半的硬盘空间，我们的 IOPS 能够提升多少呢？每分钟5400转，每秒可以转180个半圈，平均延时就是5.5ms 只使用一半硬盘空间，平均寻道时间就是9ms/2=4.5ms 总体IOPS就是1s / (5.5ms + 4.5ms) = 100 IOPS
作者回复: 许童童同学，你好。Partial Stroking的确也是一种以空间换时间的技术。计算结果也是对的。👍
40
美美
2019-11-27
文中柱面的说法有误，文中“上下平行的盘面上相同的扇区”是柱面，应该是多个盘面上相同磁道组成的圆柱是柱面。
16
阿卡牛
2019-08-12
HDD 硬盘通常有个磁盘清理的操作，有什么用？
作者回复: HDD硬盘常见又两种功能 1. 磁盘清理，这个主要是清除很多应用程序的临时文件和缓存。 2. 磁盘碎片整理，这个主要是尽量让数据在磁盘的物理位置上连续存放。这样新的输入写入以及旧的数据读取都会是以顺序读和顺序写的概率变大，能提升实际的性能表现。
16
雲至
2019-08-09
也许可以用另外一方法就是多加几个磁头每个负责一部分就快了就好像几个人一块找东西
作者回复: 雲至同学，你好，因为磁头是一个机械结构，要多几个磁头其实工程技术上的挑战更大。
共 4 条评论
11
David
2019-10-14
5400/60=90圈=180半圈 1s/180=5.55ms 平均延时 4-10ms 平均寻道时间全部空间： 1s/9.55 = 104 iops，1s/15.55 =64 iops 一半空间： 1s/7.55 = 132 iops，1s/10.55 = 94 iops
展开
7
有铭
2019-08-09
这个只用最外面磁道的方法还真是奇思妙想，不过老师，实际上能用什么软件通过格式化的方式屏蔽内侧磁道，只保留外部磁道呢？
共 3 条评论
5
Only now
2019-09-18
本科的操作系统课程上还有一个电梯算法, 操作系统对于无重叠的磁盘IO操作进行排序, 然后在单向的寻道行程里完成这些数据的访存。就像电梯一样, 从1层到100层, 按一个顺序送所有乘客, 而不是先来先送让电梯往复运动。个人感觉在高并发的数据中心上, 这个方案要比谷歌的做法更高效。
作者回复: Only now同学，你好，这个思路的确也是一个可行的优化。但是在应用层没有局部性的随机读，还要有响应时间要求情况下，其实一样还会面临IOPS不够的问题。
3
大明
2019-08-15
老师，是不是漏了一节了呢，dma，kafka为什么快。
作者回复: 大明同学，你好，那个在第48讲，专栏的一些文章我在写的时候调整了一下先后顺序来保障逻辑线清晰。
3
吴贤龙
2020-07-22
老师，请教一下，我理解的是，机械硬盘在开机通电以后，应该是一直在高速转动，所以这么理解的话，这个文章里描述的读写扇区的逻辑，我梳理不通呢？磁盘再转动，存储数据的扇区也在转动，怎么定位呢？我是不是哪里的理解有误？
共 1 条评论
2
山间竹
2020-01-05
文中“实践当中，我们可以只用 1/2 或者 1/4 的磁道，也就是最外面 1/4 或者 1/2 的磁道。这样，我们硬盘可以使用的容量可能变成了 1/2 或者 1/4。” 这个容量计算有误吧，现在硬盘大体实现了等密度了，不是正比例关系。
作者回复: 山间竹，你好，等密度下，内圈空间比较小，但是理论上我们可以只用外圈，这样可以在缩短行程的情况下，使用更多的磁盘空间了。
共 2 条评论
3
王加武
2019-12-25
99IOPS左右，大概也就是100 草稿纸上算的，计算过程就不写了！不知道结果对不对
作者回复: Hash同学，你好，👍回答正确，可以和其他同学留言的计算过程做个对照
2
活的潇洒
2019-08-12
老师，Partial Stroking技术不就是用空间换时间吗，按照老师的推算公式。 5400 转的硬盘，只使用一半的硬盘空间，我们的 IOPS 能够提升多少呢？每分钟5400转，每秒可以转180个半圈，平均延时就是5.56ms 优化前 1000/（5.56+9）= 68.68 优化后 1000/（5.56+9/2）= 99.4 提升了 (99.4-68.68)/68.68*100=44.7%
展开
作者回复: 活得潇洒同学，你好，的确就是空间换时间，你的计算没错，👍。
2
阿锋
2019-08-09
扇区的大小是固定的，但是越在外面的扇区面积越大，感觉可以比里面的扇区多存储数据。那么扇区的面积跟能存储多小数据有无关系？
共 2 条评论
2
有米
2020-03-13
应该还有一个整页读的知识点，每页4k
1
haer
2019-08-09
如果是用更慢的 5400 转的硬盘平均延时： 1s / 180 = 5.56 ms 优化前： 1s / (5.56ms + 9ms) = 68.7 IOPS 优化后： 1s / (5.56ms + 9ms/2) = 99.4 IOPS
展开
作者回复: 👍
1
WMX
2022-11-19 来自浙江
想请教一下，磁盘的分区和盘面之间的关系是怎样呢？系统文件和平时新建的文件在磁道上是怎么分布的呢？如果磁盘损坏了，找回数据是连续的吗？比如只能找回某个文件夹下的？
天王
2022-08-22 来自北京
总结:hdd硬盘是如何读取数据的，基本构成，硬盘是由盘面，磁头，悬臂组成，盘面是由金属铝，玻璃，磁作为基础，外面磁性涂层，数据存储到涂层里，硬盘由很多盘面组成，磁头是每个盘面都有对应的磁头，磁头通过放到盘面上，读取数据，悬浮臂是把磁头自动到盘面上磁道上。读取过程:盘面先转到对应的位置上，这叫，悬浮臂把磁头送到几何扇面上，影响读取速度的就是这2个指标。一次随礼访问，由两部分组成，一个是盘面移动到扇面的时间，叫平均延时，一个是悬臂移动到磁道的时间，寻道时间，7200转，240个半圈，1s/240=4ms，寻道时间也是大约4-10ms，也就是一次随机访问的时间8ms，iops=1000/8=125，也就是iops，提升性能有多种方式，一种是顺序读写，减少悬臂寻道的时间，还有一种是减少磁道，用空间换时间。
展开
小杰
2022-06-01
根据老师的方法走了一下。5400原先的IOPS：1/（1 / 5200 / 60 / 2 + 9）= 68.7。只是使用一半磁盘空间，悬臂时间/2: 1/（1 / 5200 / 60 / 2 + 9 /2）= 99.4. 99.4 / 68.7 = 1.45。提升了1.5接近。提升巨大
表酱紫嘛
2022-04-09
很奇怪磁盘旋转和寻道不能同时进行？
1

