77 | 程序员练级攻略:Linux系统、内存和网络
下载APP
关闭
渠道合作
推荐作者
77 | 程序员练级攻略:Linux系统、内存和网络
2018-06-26 陈皓 来自北京
《左耳听风》
课程介绍
讲述:杨超
时长16:27大小15.03M
你好,我是陈皓,网名左耳朵耗子。
这一篇章,是本系列中最长的一篇,其中包括了如下的内容。
系统底层相关。 主要是以 Linux 系统为主,其中有大量的文章可以让你学习到 Linux 内核,以及内存、网络、异步 I/O 模型、Lock-free 的无锁编程,还有其它和系统底层相关的东西。注意,系统底层要是深下去是可以完全不见底的。而且内存方面的知识也是比较多的,所以,这里还是主要给出一些非常有价值的基础性的知识和技术。学好这些东西,你会对系统有很深的理解,而且可以把这些知识反哺到架构设计上来。
数据库相关。数据库方面主要是 MySQL 和各种开源 NoSQL 的一些相关的有价值的文章和导读,主要是让你对这些数据库的内在有一定的了解,但又不会太深。真正的深入是需要扎入到源代码中的。需要说明的是,这块技术不是我的长项,但又是每个架构师需要知道的,所以,我在这里给的学习资源可能会比较浅,这点还希望你来补充和指正。
分布式架构。这一部分是最长最多的。其中有架构入门、分布式理论中各种非常有价值的经典论文,然后是一些分布式工程设计方面的文章,其中包括设计模式和工程应用,最后还有各大公司的架构供参考。
微服务。有了分布式架构理论和工程的基础,接下来是对微服务的学习。在这部分内容中,我会罗列几个介绍微服务架构非常系统的文章,然后比较一下微服务和 SOA 的差别,最后则是一些工程实践和最佳实践。
容器化和自动化运维。在容器化和自动化运维中,主要是学习 Docker 和 Kubernetes 这两个自动化运维的杀手型技术。而不是 Salt、Puppet、Chef 和 Ansible 这样比较传统的工具。原因很简单,因为自动化部署根本不够,还需要对环境和运行时的管理和运维才够,而只有 Docker 和 Kubernetes 才是未来。所以,这里重点让你学习这两个技术,其中有很多文章需要一些系统底层的知识。
机器学习和人工智能。机器学习和人工智能,也不是我的长项,我也只是一个入门者。这里,我主要给了一些基础性的知识,其中包括基本原理、图书、课程、文章和相关的算法。你顺着我画的这路走,不能说能成为一个人工智能专家,但成为一个机器学习的高级工程师甚至准专家还是可能的。
前端开发。这里的前端主要是 HTML 5 的前端了,这一节会带你学习一下前端开发所需要知道的基础知识,尤其是对前端开发语言 JavaScript 的学习,我花费了相当的篇幅列出了很多很经典的学习资料,必定会让你成为一个 JavaScript 高手。然后你还需要了解浏览器是怎样工作的,还有相关的网络协议和一些性能优化的技巧。最后则是 JavaScript 框架的学习,这里我只给了 React.js 和 Vue.js,并通过 React.js 带出来函数式编程的学习。我虽然不是一个前端程序员,但是,我相信我这个后端程序员给出来的这组前端开发的学习资料和路径会比前端程序员更靠谱一些。
信息源。最后,则是一些信息源,其中包括各大公司的技术 Blog,还有相关的论文集散地。
另外,这里需要说明几点。
我假设你在前面已经打下了非常扎实的基础,但是要成为一个高手,基础知识只是一个地基,你还需要很多更为具体的技术。对我来说,就是看各种各样的文章、手册、论文、分享…… 其实,学习到一定程度,就是要从书本中走出去,到社区里和大家一起学习,而且还需要自己找食吃了。所以,对于这里面的文章,有很多都是在罗列各种文章和资源,只是为你梳理信息源,而不是喂你吃饭。
老实说,我已经为你梳理并过滤掉了很多的信息,这里只留下了 30% 我觉得最经济也最有价值的信息。虽然对于不同定位和不同需求的人还可以再对这些信息进行删减,但是觉得我这么一做就会对其它人不公平了。所以,这也是我觉得最小数量集的信息和资源吧。你也可以把我这里的东西当成一个索引来对待。
这些内容,不能说是隔离开来的,应该说是相辅相成的。也没什么顺序,可以各取所需。虽然看上去内容很多,但你也别害怕,真的不用害怕,你会越学越快,越实践越有感觉,也越有效率。在一开始可能会很慢,但是坚持住,积累一段时间后就会越来越快的。 而且,我要告诉你,绝大多数人是坚持不下来的。只要你能坚持下来,我保证,你一定会成为各个大公司的抢手货,这点你一定要相信我。你不需要特别努力,只需要日进一步,3-5 年后,你就会发现,绝大多数人都在你身后很远的地方了。
今天分享的内容为系统底层知识中的 Linux 系统、内存和网络等方面的相关知识及推荐的学习资料。
Linux 系统相关
学习 Linux 操作系统的原理是通向系统工程师的必经之路。我觉得,Unix/Linux 操作系统里的东西并不难学。你千万不要一下子扎到源代码里去,那样没用——你还是要在上层先通过读一些不错的文档来学习。下面我罗列了一些很不错的站点,其中有很多内容供你去钻研和探索。
我在这里默认你前面已经读过并读懂了我推荐的那些和 Unix/Linux 相关的图书了。所以,我相信你对 Unix/Linux 下的编程已经是有一些基础了,因此,你继续深挖 Linux 下的这些知识应该也不是很难的事了。
Red Hat Enterprise Linux 文档 。Red Hat Enterprise Linux(RHEL)是老牌 Linux 厂商 Red Hat 出品的面向商业的 Linux 发行版。Red Hat 网站上的这个文档中有很多很有价值的内容,值得一看。
Linux Insides ,GitHub 上的一个开源电子书,其中讲述了 Linux 内核是怎样启动、初始化以及进行管理的。
LWN’s kernel page ,上面有很多非常不错的文章来解释 Linux 内核的一些东西。
Learn Linux Kernel from Android Perspective ,从 Android 的角度来学习 Linux 内核,这个站点上的 Blog 相对于前面的比较简单易读一些。
Linux Kernel Doc, Linux 的内核文档也可以浏览一下。
Kernel Planet ,Linux 内核开发者的 Blog,有很多很不错的文章和想法。
Linux Performance and Tuning Guidelines ,这是 IBM 出的红皮书,虽然有点老了,但还是非常值得一读的。
TLK: The Linux Kernel ,这是一本相对比较老的书了,Linux 内核版本为 2.0.33,但了解一下前人的思路,也是很有帮助的。
Linux Performance ,这个网站上提供了和 Linux 系统性能相关的各种工具和文章收集,非常不错。
Optimizing web servers for high throughput and low latency ,这是一篇非常底层的系统调优的文章,来自 DropBox,从中你可以学到很多底层的性能调优的经验和知识。
内存相关
计算机内存管理是每一个底层程序员需要了解的非常重要的事儿。当然,这里我们重点还是 Linux 操作系统相关的内存管理上的知识。
首先,LWN.net 上有一系列的 “What every programmer should know about memory” 文章你需要读一下。当然,你可以直接访问一个完整的 PDF 文档。下面是这个系列文章的网页版列表。读完这个列表的内容,你基本上就对内存有了一个比较好的知识体系了。
然后是几篇和内存相关的论文。下面这三篇论文是我个人觉得能对你非常有帮助的文章,尤其是你要做一些程序的性能优化方面。
Memory Barriers: a Hardware View for Software Hackers。内存的读写屏障是线程并发访问共享的内存数据时,从程序本身、编译器到 CPU 都必须遵循的一个规范。有了这个规范,才能保证访问共享的内存数据时,一个线程对该数据的更新能被另一个线程以正确的顺序感知到。在 SMP(对称多处理)这种类型的多处理器系统(包括多核系统)上,这种读写屏障还包含了复杂的缓存一致性策略。这篇文章做了详细解释。
A Tutorial Introduction to the ARM and POWER Relaxed Memory Models,对 ARM 和 POWER 的宽松内存模型的一个教程式的简介。本篇文章的焦点是 ARM 和 POWER 体系结构下多处理器系统内存并发访问一致性的设计思路和使用方法。与支持较强的 TSO 模型的 x86 体系结构不同,ARM 和 POWER 这两种体系结构出于对功耗和性能的考虑,使用了一种更为宽松的内存模型。本文详细讨论了 ARM 和 POWER 的模型。
x86-TSO: A Rigorous and Usable Programmer’s Model for x86 Multiprocessors,介绍 x86 的多处理器内存并发访问的一致性模型 TSO。
接下来是开发者最关心的内存管理方面的 lib 库。通常来说,我们有三种内存分配管理模块。就目前而言,BSD 的 jemalloc 有很大的影响力。后面我们可以看到不同公司的实践性文章。
ptmalloc 是 glibc 的内存分配管理。
tcmalloc 是 Google 的内存分配管理模块,全称是 Thread-Caching malloc,基本上来说比 glibc 的 ptmalloc 快两倍以上。
jemalloc 是 BSD 提供的内存分配管理。其论文为 A Scalable Concurrent malloc(3) Implementation for FreeBSD,这是一个可以并行处理的内存分配管理器。
下面是几篇不错的文章,让你感觉一下上面那三种内存分配器的一些比较和工程实践。
计算机网络
网络学习
首先,推荐一本书——《计算机网络(第五版)》,这本“计算机网络”和前面推荐的那本计算机网络不一样,前面那本偏扫盲,这本中有很多细节。这本书是国内外使用最广泛、最权威的计算机网络经典教材。全书按照网络协议模型自下而上(物理层、数据链路层、介质访问控制层、网络层、传输层和应用层)有系统地介绍了计算机网络的基本原理,并结合 Internet 给出了大量的协议实例。
这本书还与时俱进地引入了最新的网络技术,包括无线网络、3G 蜂窝网络、RFID 与传感器网络、内容分发与 P2P 网络、流媒体传输与 IP 语音,以及延迟容忍网络等。另外,本书针对当前网络应用中日益突出的安全问题,用了一整章的篇幅对计算机网络的安全性进行了深入讨论,而且把相关内容与最新网络技术结合起来阐述。这本书读起来并不枯燥,因为其中有很多小故事和小段子。
然后,有两个网上的教程和讲义也可以让人入门。
网络调优
接下来,你可能需要一些非常实用的可以操作的技术,下面的几篇文章相信可以帮助到你。
《Linux 的高级路由和流量控制 HowTo》(Linux Advanced Routing & Traffic Control HOWTO ),这是一个非常容易上手的关于 iproute2、流量整形和一点 netfilter 的指南。
Making Linux TCP Fast ,一篇非常不错的 TCP 调优的论文。
下面是在 PackageCloud 上的两篇关于 Linux 网络栈相关的底层文章,非常值得一读。
网络协议
接下来,想要学习网络协议最好的方式就是学习通讯相关的 RFC。所以,在这里我会推荐一系列值得读的 RFC 给你。读 RFC 有几个好处,一方面可以学习技术,另一方面,你可以通过 RFC 学习到一个好的技术文档是怎么写的,还能看到各种解决问题的方案和思路。
对于第 2 层链路层,你可能需要了解一下 ARP:
以及 Tunnel 相关的协议:
对于第 4 层,你最需要了解的是 TCP/IP 了。和 TCP 相关的 RFC 相当多,这里给一系列经典的 RFC。这些 RFC 我都引用在了我在 CoolShell 上的《TCP 的那些事儿(上)》和《TCP 的那些事儿(下)》两篇文章中。如果你看不懂 RFC,你也可以去看我上述的文章。
RFC 793 - Transmission Control Protocol - 最初的 TCP 标准定义,但不包括 TCP 相关细节。
RFC 813 - Window and Acknowledgement Strategy in TCP - TCP 窗口与确认策略,并讨论了在使用该机制时可能遇到的问题及解决方法。
RFC 879 - The TCP Maximum Segment Size and Related Topics - 讨论 MSS 参数对控制 TCP 分组大小的重要性,以及该参数与 IP 分段大小的关系等。
RFC 896 - Congestion Control in IP/TCP Internetworks - 讨论拥塞问题和 TCP 如何控制拥塞。
RFC 2581 - TCP Congestion Control - 描述用于拥塞控制的四种机制:慢启动、拥塞防御、快重传和快恢复。后面这个 RFC 被 RFC 5681 所更新。还有 RFC 6582 - The NewReno Modification to TCP’s Fast Recovery Algorithm 中一个改进的快速恢复算法。
RFC 2018 - TCP Selective Acknowledgment Options - TCP 的选择确认。
RFC 2988 - Computing TCP’s Retransmission Timer - 讨论与 TCP 重传计时器设置相关的话题,重传计时器控制报文在重传前应等待多长时间。也就是经典的 TCP Karn/Partridge 重传算法。
RFC 6298 - Computing TCP’s Retransmission Timer - TCP Jacobson/Karels Algorithm 重传算法。
对于第 7 层协议,HTTP 协议是重点要学习的。
HTTP/2 的两个 RFC:
RFC 7541 - HPACK: Header Compression for HTTP/2 ,HTTP/2 的压缩算法
小结
好了,总结一下今天的内容。这是程序员练级攻略 2018 版第五篇章——高手成长篇的第一篇文章。前面的内容先介绍了一些这一系列内容的总体构成,及每一部分的学习重点。后面是这一篇章第一个主题系统底层知识中的部分内容,即 Linux 系统、内存和计算机网络,并给出了相应的学习资料。
我认为,学习到一定程度,就是要从书本中走出去,到社区里和大家一起学习,而且还需要自己找食吃了。所以,这篇文章中,我罗列了各种文章和资源,并给出了简短的推荐语言,就是在为你梳理信息源,而不是喂你吃饭。我更希望看到你自趋势地成长。
下篇文章中,我们分享的内容为系统底层知识中的异步 I/O 模型、Lock-Free 编程以及其他一些相关的知识点和学习资源。敬请期待。
下面是《程序员练级攻略》系列文章的目录。
分享给需要的人,Ta购买本课程,你将得29元
生成海报并分享
赞 18
提建议
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
上一篇
76 | 程序员练级攻略:软件设计
下一篇
78 | 程序员练级攻略:异步I/O模型和Lock-Free编程
精选留言(66)
- 颇忒妥2018-06-26学无止境,33岁developer再出发!共 6 条评论105
- 每日开箱测评2018-06-26你感觉写这么多有什么意义,一篇文章就让别人学四五年。四五年之后没公司需要,你管分配吗?
作者回复: 照你这么说,上大学有意义么?四五年后没公司要,还不管分配。 另外,我这篇文章的开篇语不是说的很清楚了么?这条路上没有速成的,现在你怕了吧…… 你要是能把之前的基础吃透,BAT随你去了。不过看到你连四五年都不愿意付出,你也只能平庸下去了
共 9 条评论55 - 寻路之人2018-06-26耗哥,很期待你能介绍一下一些github上源码阅读的方法论和经验,对于想阅读源码的人有个指导方向。期待你的回复
作者回复: 后面,我专门开一篇文章来讲这个事,敬请期待。
45 - yangwnaghoayu2018-06-26特地来感谢下耗子叔解答疑惑,顺便说一下有几个感觉“一篇文章得让人学四五年没啥用”的评论: 没必要花四五年学完一篇文章中提到的知识后才找工作,你学习的过程就在提高,能力高了现公司待遇不够了就跳啊,没有非得四五年学成再跳。 最重要的是,文章的意义在于指引方向,没人指引而自己视野不够宽和远的话 ,自己不知道接下来要干啥,会有些迷茫,甚至有些人停滞不前也不夸张。文章里面的成长框架可以让成长中的程序员思考自己,当你技术停滞不前的时候结合这个看一下,自己可以提高下哪块的技能点展开共 3 条评论33
- Abner2018-07-17突然觉得做了10年开发刚入门共 2 条评论21
- 落叶观禅2018-06-26最爽的一篇总结,用价值连城来形容一点不过!其中一部分已经学习使用过,一部分可以参考这个列表补充学习。耗哥真乃灯塔偶像!12
- 昵称2018-09-23只能感叹刚上大学时没有遇到这个专栏10
- iLeGeND2018-06-26走要这这补 也得小10年吧
作者回复: 前面的基础打好了,这些东西1年左右就搞定,基础沒打好,10年也不行
9 - cc2019-09-02感觉看到这个专栏太晚了,要是上大学看到或者更早看到就好了,现在要继续从入门开始啃书7
- zzz2018-06-26耗子叔,你的极客时间的专栏文章,会一直都在吗?还是过了今年这期就删除了呢?
作者回复: 应该会一直在的
8 - Terence2018-06-26各篇文章的超链接,在iPhone上需要长按弹出“拷贝”消息后,再继续长按,才有真正的地址链接拷贝或用Safari打开。 我想,大部分人按住链接,就是为了copy相对应的地址,以便在别的地方查阅。 就这一点来讲,目前这个方面的产品体验非常糟糕。展开
作者回复: 在web上看应该会更好一点
7 - ChickenRun挺2018-10-14这里的文章都看完,无论找工作还是在一般的公司里基本都可以独当一面了共 1 条评论5
- 蛮骨2018-06-26这恐怕是最全的从0到真大佬学习手册了,让人热血沸腾👍5
- 每日开箱测评2018-06-27之前的留言太偏激了,对老师感到十分抱歉。但是还是希望老师能给一些一个月或者三个月左右的学习方法,毕竟四五年对任何人来说都很长。塞班系统被安卓系统干掉也只是很短的时间就完成了,学技术对时间的要求还是挺敏感的。我想大部分都是应用型人才,可能对大多数人来说不太适用。共 3 条评论4
- 随心而至2021-08-25渥汰华大学那个 Computer Network Design应该是换老师教了,但是PDF还是用的前一个人的,可以在这里获取 https://www.site.uottawa.ca/~halos072/CEG4190_files/共 1 条评论3
- 唐朝首都2018-06-28早上读了几篇,醍醐灌顶呀!!将这么多知识勾连起来,还有丰富资料,感谢耗子叔,起码当我觉得哪些方面需要提高的时候有非常清晰的路径。
作者回复: 有收获就好,加油
3 - caiger2021-03-02工作后学习的过程一定是要跟实际工作结合起来的,从工作中用到的知识出发,延伸到之前未接触到的地方,逐步构建自己的知识网络,并不是一切都学完了再去工作,这也是持续学习的应有之意。2
- 第一装甲集群司令克莱...2020-10-29非本专业,已经工作快五年了,已经33岁的Java后端开发工程师还在路上,很难,但是没想过放弃!2
- 记忆犹存2020-03-31初入职场的时候,我们大都是苦于没有专门的网站和师傅的指导,只能是摸着石头过河,遇到一个问题解决一个问题,没有系统深入的学习。感谢这个时代,有这么多优秀资源和平台,更感谢像陈皓老师这样的人无私的付出与分享,让更多的人少走弯路。2
- CodeAllen2020-03-29看了很多前辈的留言都感叹这得多久学完,确实不是一朝一夕,还好现在就先知道而不是十年后2