极客时间已完结课程限时免费阅读

60 | 搭建操作系统实验环境(上):授人以鱼不如授人以渔

60 | 搭建操作系统实验环境(上):授人以鱼不如授人以渔-极客时间

60 | 搭建操作系统实验环境(上):授人以鱼不如授人以渔

讲述:刘超

时长14:48大小13.57M

操作系统的理论部分我们就讲完了,但是计算机这门学科是实验性的。为了更加深入地了解操作系统的本质,我们必须能够做一些上手实验。操作系统的实验,相比其他计算机课程的实验要更加复杂一些。
我们做任何实验,都需要一个实验环境。这个实验环境要搭建在操作系统之上,但是,我们这个课程本身就是操作系统实验,难不成要自己 debug 自己?到底该咋整呢?
我们有一个利器,那就是 qemu 啊,不知道你还记得吗?它可以在操作系统之上模拟一个操作系统,就像一个普通的进程。那我们是否可以像 debug 普通进程那样,通过 qemu 来 debug 虚拟机里面的操作系统呢?
这一节和下一节,我们就按照这个思路,来试试看,搭建一个操作系统的实验环境。
运行一个 qemu 虚拟机,首先我们要有一个虚拟机的镜像。咱们在虚拟机那一节,已经制作了一个虚拟机的镜像。假设我们要基于 ubuntu-18.04.2-live-server-amd64.iso,它对应的内核版本是 linux-source-4.15.0。
当时我们启动虚拟机的过程很复杂,设置参数的时候也很复杂,以至于解析这些参数就花了我们一章的时间。所以,这里我介绍一个简单的创建和管理虚拟机的方法。
CPU 虚拟化那一节,我留过一个思考题,OpenStack 是如何创建和管理虚拟机的?当时我给了你一个提示,就是用 libvirt。没错,这一节,我们就用 libvirt 来创建和管理虚拟机。

创建虚拟机

首先,在宿主机上,我们需要一个网桥。我们用下面的命令创建一个网桥,并且设置一个 IP 地址。
brctl addbr br0
ip link set br0 up
ifconfig br0 192.168.57.1/24
为了访问外网,这里还需要设置 /etc/sysctl.conf 文件中 net.ipv4.ip_forward=1 参数,并且执行以下的命令,设置 NAT。
iptables -t nat -A POSTROUTING -o eth0 -j MASQUERADE
接下来,就要创建虚拟机了。这次我们就不再一个个指定虚拟机启动的参数,而是用 libvirt。首先,使用下面的命令,安装 libvirt。
apt-get install libvirt-bin
apt-get install virtinst
libvirt 管理 qemu 虚拟机,是基于 XML 文件,这样容易维护。
<domain type='qemu'>
<name>ubuntutest</name>
<uuid>0f0806ab-531d-6134-5def-c5b4955292aa</uuid>
<memory unit='GiB'>4</memory>
<currentMemory unit='GiB'>4</currentMemory>
<vcpu placement='static'>2</vcpu>
<os>
<type arch='x86_64' machine='pc-i440fx-trusty'>hvm</type>
<boot dev='hd'/>
</os>
<features>
<acpi/>
<apic/>
<pae/>
</features>
<clock offset='utc'/>
<on_poweroff>destroy</on_poweroff>
<on_reboot>restart</on_reboot>
<on_crash>restart</on_crash>
<devices>
<emulator>/usr/bin/qemu-system-x86_64</emulator>
<disk type='file' device='disk'>
<driver name='qemu' type='qcow2'/>
<source file='/mnt/vdc/ubuntutest.img'/>
<target dev='vda' bus='virtio'/>
</disk>
<controller type='pci' index='0' model='pci-root'/>
<interface type='bridge'>
<mac address='fa:16:3e:6e:89:ce'/>
<source bridge='br0'/>
<target dev='tap1'/>
<model type='virtio'/>
</interface>
<serial type='pty'>
<target port='0'/>
</serial>
<console type='pty'>
<target type='serial' port='0'/>
</console>
<graphics type='vnc' port='-1' autoport='yes' listen='0.0.0.0'>
<listen type='address' address='0.0.0.0'/>
</graphics>
<video>
<model type='cirrus'/>
</video>
</devices>
</domain>
在这个 XML 文件中,/mnt/vdc/ubuntutest.img 就是虚拟机的镜像,br0 就是我们创建的网桥,连接到网桥上的网卡 libvirt 会自动帮我们创建。
接下来,需要将这个 XML 保存为 domain.xml,然后调用下面的命令,交给 libvirt 进行管理。
virsh define domain.xml
接下来,运行 virsh list --all,我们就可以看到这个定义好的虚拟机了,然后我们调用 virsh start ubuntutest,启动这个虚拟机。
# virsh list
Id Name State
----------------------------------------------------
1 ubuntutest running
我们可以通过 ps 查看 libvirt 启动的 qemu 进程。这个命令行是不是很眼熟?我们之前花了一章来讲解。如果不记得了,你可以回去看看前面的内容。
# ps aux | grep qemu
libvirt+ 9343 85.1 34.7 10367352 5699400 ? Sl Jul27 1239:18 /usr/bin/qemu-system-x86_64 -name ubuntutest -S -machine pc-i440fx-trusty,accel=tcg,usb=off -m 4096 -realtime mlock=off -smp 2,sockets=2,cores=1,threads=1 -uuid 0f0806ab-531d-6134-5def-c5b4955292aa -no-user-config -nodefaults -chardev socket,id=charmonitor,path=/var/lib/libvirt/qemu/domain-ubuntutest/monitor.sock,server,nowait -mon chardev=charmonitor,id=monitor,mode=control -rtc base=utc -no-shutdown -boot strict=on -device piix3-usb-uhci,id=usb,bus=pci.0,addr=0x1.0x2 -drive file=/mnt/vdc/ubuntutest.img,format=qcow2,if=none,id=drive-virtio-disk0 -device virtio-blk-pci,scsi=off,bus=pci.0,addr=0x4,drive=drive-virtio-disk0,id=virtio-disk0,bootindex=1 -netdev tap,fd=26,id=hostnet0 -device virtio-net-pci,netdev=hostnet0,id=net0,mac=fa:16:3e:6e:89:ce,bus=pci.0,addr=0x3 -chardev pty,id=charserial0 -device isa-serial,chardev=charserial0,id=serial0 -vnc 0.0.0.0:0 -device cirrus-vga,id=video0,bus=pci.0,addr=0x2 -device virtio-balloon-pci,id=balloon0,bus=pci.0,addr=0x5 -msg timestamp=on
从这里,我们可以看到,VNC 的设置为 0.0.0.0:0。我们可以用 VNCViewer 工具登录到这个虚拟机的界面,但是这样实在是太麻烦了,其实 virsh 有一个特别好的工具,但是需要在虚拟机里面配置一些东西。
在虚拟机里面,我们修改 /boot/grub/ 里面的两个文件,一个是 grub.cfg,另一个是 menu.lst,这里面就是咱们在系统初始化的时候,讲过的那个启动列表。
在 grub.cfg 中,在 submenu ‘Advanced options for Ubuntu’ 这一项,在这一行的 linux /boot/vmlinuz-4.15.0-55-generic root=UUID=470f3a42-7a97-4b9d-aaa0-26deb3d234f9 ro console=ttyS0 maybe-ubiquity 中,加上了 console=ttyS0。
submenu 'Advanced options for Ubuntu' $menuentry_id_option 'gnulinux-advanced-470f3a42-7a97-4b9d-aaa0-26deb3d234f9' {
menuentry 'Ubuntu, with Linux 4.15.0-55-generic' --class ubuntu --class gnu-linux --class gnu --class os $menuentry_id_option 'gnulinux-4.15.0-55-generic-advanced-470f3a42-7a97-4b9d-aaa0-26deb3d234f9' {
recordfail
load_video
gfxmode $linux_gfx_mode
insmod gzio
if [ x$grub_platform = xxen ]; then insmod xzio; insmod lzopio; fi
insmod part_gpt
insmod ext2
set root='hd0,gpt2'
if [ x$feature_platform_search_hint = xy ]; then
search --no-floppy --fs-uuid --set=root --hint-bios=hd0,gpt2 --hint-efi=hd0,gpt2 --hint-baremetal=ahci0,gpt2 470f3a42-7a97-4b9d-aaa0-26deb3d234f9
else
search --no-floppy --fs-uuid --set=root 470f3a42-7a97-4b9d-aaa0-26deb3d234f9
fi
echo 'Loading Linux 4.15.0-55-generic ...'
linux /boot/vmlinuz-4.15.0-55-generic root=UUID=470f3a42-7a97-4b9d-aaa0-26deb3d234f9 ro console=ttyS0 maybe-ubiquity
echo 'Loading initial ramdisk ...'
initrd /boot/initrd.img-4.15.0-55-generic
}
在 menu.lst 文件中,在 Ubuntu 18.04.2 LTS, kernel 4.15.0-55-generic 这一项,在 kernel /boot/vmlinuz-4.15.0-55-generic root=/dev/hda1 ro console=hvc0 console=ttyS0 这一行加入 console=ttyS0。
title Ubuntu 18.04.2 LTS, kernel 4.15.0-55-generic
root (hd0)
kernel /boot/vmlinuz-4.15.0-55-generic root=/dev/hda1 ro console=hvc0 console=ttyS0
initrd /boot/initrd.img-4.15.0-55-generic
接下来,我们重启虚拟机,重启后上面的配置就起作用了。这时候,我们可以通过下面的命令,进入机器的控制台,可以不依赖于 SSH 和 IP 地址进行登录。
# virsh console ubuntutest
Connected to domain ubuntutest
Escape character is ^]
下面,我们可以配置这台机器的 IP 地址了。对于 ubuntu-18.04 来讲,IP 地址的配置方式为修改 /etc/netplan/50-cloud-init.yaml 文件。
network:
ethernets:
ens3:
addresses: [192.168.57.100/24]
gateway4: 192.168.57.1
dhcp4: no
nameservers:
addresses: [8.8.8.8,114.114.114.114]
optional: true
version: 2
然后,我们可以通过 netplan apply,让配置生效,这样,虚拟机里面的 IP 地址就配置好了。现在,我们应该能 ping 得通公网的一个网站了。
虚拟机就此创建好了,接下来我们需要下载源代码重新编译。

下载源代码

首先,我们先下载源代码。
apt-get install linux-source-4.15.0
这行命令会将代码下载到 /usr/src/ 目录下,我们可以通过下面的命令解压缩。
tar vjxkf linux-source-4.15.0.tar.bz2
至此,路径 /usr/src/linux-source-4.15.0 下,就是解压好的内核代码。
准备工作都做好了。这一节,我们先来做第一个实验,也就是,在原有内核代码的基础上加一个我们自己的系统调用。
在哪里加代码呢?如果你忘了,请出门左转,回顾一下系统调用那一节。
第一个要加的地方是 arch/x86/entry/syscalls/syscall_64.tbl。这里面登记了所有的系统调用号以及相应的处理函数。
332 common statx sys_statx
333 64 sayhelloworld sys_sayhelloworld
在这里,我们找到 332 号系统调用 sys_statx,然后照猫画虎,添加一个 sys_sayhelloworld,这里我们只添加 64 位操作系统的。
第二个要加的地方是 include/linux/syscalls.h,也就是系统调用的头文件,然后添加一个系统调用的声明。
asmlinkage long sys_statx(int dfd, const char __user *path, unsigned flags,
unsigned mask, struct statx __user *buffer);
asmlinkage int sys_sayhelloworld(char * words, int count);
同样,我们找到 sys_statx 的声明,照猫画虎,声明一个 sys_sayhelloworld。其中,words 参数是用户态传递给内核态的文本的指针,count 是数目。
第三个就是对于这个系统调用的实现,方便起见,我们不再用 SYSCALL_DEFINEx 系列的宏来定义了,直接在 kernel/sys.c 中实现。
asmlinkage int sys_sayhelloworld(char * words, int count){
int ret;
char buffer[512];
if(count >= 512){
return -1;
}
copy_from_user(buffer, words, count);
ret=printk("User Mode says %s to the Kernel Mode!", buffer);
return ret;
}
接下来就要开始编译内核了。

编译内核

编译之前,我们需要安装一些编译要依赖的包。
apt-get install libncurses5-dev libssl-dev bison flex libelf-dev gcc make openssl libc6-dev
首先,我们要定义编译选项。
make menuconfig
然后,我们能通过选中下面的选项,激活 CONFIG_DEBUG_INFO 和 CONFIG_FRAME_POINTER 选项。
Kernel hacking --->
Compile-time checks and compiler options --->
[*] Compile the kernel with debug info
[*] Compile the kernel with frame pointers
选择完毕之后,配置会保存在.config 文件中。如果我们打开看,能看到这样的配置:
CONFIG_FRAME_POINTER=y
CONFIG_DEBUG_INFO=y
接下来,我们编译内核。
nohup make -j8 > make1.log 2>&1 &
nohup make modules_install > make2.log 2>&1 &
nohup make install > make3.log 2>&1 &
这是一个非常长的过程,请耐心等待,可能需要数个小时,因而这里用了 nohup,你可以去干别的事情。
当编译完毕之后,grub 和 menu.lst 都会发生改变。例如,grub.conf 里面会多一个新内核的项。
submenu 'Advanced options for Ubuntu' $menuentry_id_option 'gnulinux-advanced-470f3a42-7a97-4b9d-aaa0-26deb3d234f9' {
menuentry 'Ubuntu, with Linux 4.15.18' --class ubuntu --class gnu-linux --class gnu --class os $menuentry_id_option 'gnulinux-4.15.18-advanced-470f3a42-7a97-4b9d-aaa0-26deb3d234f9' {
recordfail
load_video
gfxmode $linux_gfx_mode
insmod gzio
if [ x$grub_platform = xxen ]; then insmod xzio; insmod lzopio; fi
insmod part_gpt
insmod ext2
if [ x$feature_platform_search_hint = xy ]; then
search --no-floppy --fs-uuid --set=root 470f3a42-7a97-4b9d-aaa0-26deb3d234f9
else
search --no-floppy --fs-uuid --set=root 470f3a42-7a97-4b9d-aaa0-26deb3d234f9
fi
echo 'Loading Linux 4.15.18 ...'
linux /boot/vmlinuz-4.15.18 root=UUID=470f3a42-7a97-4b9d-aaa0-26deb3d234f9 ro console=ttyS0 maybe-ubiquity
echo 'Loading initial ramdisk ...'
initrd /boot/initrd.img-4.15.18
}
例如,menu.lst 也多了新的内核的项。
title Ubuntu 18.04.2 LTS, kernel 4.15.18
root (hd0)
kernel /boot/vmlinuz-4.15.18 root=/dev/hda1 ro console=hvc0 console=ttyS0
initrd /boot/initrd.img-4.15.18
别忘了,这里面都要加上 console=ttyS0。
下面,我们要做的就是重启虚拟机。进入的时候,会出现 GRUB 界面。我们选择 Ubuntu 高级选项,然后选择第一项进去,通过 uname 命令,我们就进入了新的内核。
# uname -a
Linux popsuper 4.15.18 #1 SMP Sat Jul 27 13:43:42 UTC 2019 x86_64 x86_64 x86_64 GNU/Linux
进入新的系统后,我们写一个测试程序。
#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
#include <linux/kernel.h>
#include <sys/syscall.h>
#include <string.h>
int main ()
{
char * words = "I am liuchao from user mode.";
int ret;
ret = syscall(333, words, strlen(words)+1);
printf("return %d from kernel mode.\n", ret);
return 0;
}
然后,我们能利用 gcc 编译器编译后运行。如果我们查看日志 /var/log/syslog,就能够看到里面打印出来下面的日志,这说明我们的系统调用已经添加成功了。
Aug 1 06:33:12 popsuper kernel: [ 2048.873393] User Mode says I am liuchao from user mode. to the Kernel Mode!

总结时刻

这一节是一节实战课,我们创建了一台虚拟机,在里面下载源代码,尝试修改了 Linux 内核,添加了一个自己的系统调用,并且进行了编译并安装了新内核。如果你按照这个过程做下来,你会惊喜地发现,原来令我们敬畏的内核,也是能够加以干预,为我而用的呢。没错,这就是你开始逐渐掌握内核的重要一步。

课堂练习

这一节的课堂练习,希望你能够按照整个过程,一步一步操作下来。毕竟看懂不算懂,做出来才算入门啊。
欢迎留言和我分享你的疑惑和见解,也欢迎你收藏本节内容,反复研读。你也可以把今天的内容分享给你的朋友,和他一起学习、进步。
分享给需要的人,Ta购买本课程,你将得20
生成海报并分享

赞 11

提建议

上一篇
59 | 数据中心操作系统:上市敲钟
下一篇
61 | 搭建操作系统实验环境(下):授人以鱼不如授人以渔
 写留言

精选留言(19)

  • 王建峰
    2021-05-10
    希望我的记录能帮助到各位同学 Ubuntu20.04上搭建操作系统实验环境:https://blog.csdn.net/feit2417/article/details/116504341
    8
  • Gnayils
    2020-06-07
    1. apt安装qemu-kvm,使用/usr/bin/kvm作为domain.xml中的emulator, 然后更改domain节点的type值为kvm,这样虚拟机的速度会更快。 2. 创建ubuntutest.img文件时,size至少30G,否则kernel的编译中间结果很大,会造成编译失败。 3. 将虚拟机的内存改大一些,否则在make install后使用带有debug info的内核启动系统时,unpack initramfs会失败。
    展开

    作者回复: 赞,实战派

    共 3 条评论
    7
  • 一栋人
    2020-03-10
    如果使用 virt-install 加上 "--graphics none --extra-args='console=ttyS0'" 就能直接 virsh console 上了。
    2
  • ThisCat
    2020-01-14
    那个xml文件中没有指定硬盘路径,我VNC连接进去后安装系统的时候找不到硬盘
    2
  • LDxy
    2019-08-15
    可以在虚拟机里运行虚拟机吗?

    作者回复: 可以,就是慢的一塌糊涂了

    1
  • leslie
    2019-08-14
    发现老师的课如老师自己介绍的学习方法一样:不是一遍就能学懂的,跟着做跟着反思;要第二遍或者第三遍才能理解和明白老师所讲所授的知识。 看来所谓的第一遍或者第二遍第三遍只是大概:其实应当是三个阶段/层次;努力坚持努力学习,希望多遍之后能尽力掌握其6-8成。

    作者回复: 是的,加油

    1
  • Geek_739cf0
    2022-09-25 来自湖北
    我在自己的Ubuntu20虚拟机上编译了linux-5.4.214。我编译成功的步骤和老师不同的地方: 1. 333 64 sayhelloworld sys_sayhelloworld 按照已经存在的调用格式,在sys_sayhelloworld前面加__64_ ,即__64_sys_sayhelloworld; 2. kernel/sys.c 中的实现也改成了: SYSCALL_DEFINE0(sayhelloworld) { printk("printfmsg SYSTEM CALL IS ALIVE\n"); return 0; } 3. 所以头文件里也改成asmlinkage long sys_(void); 这样就编译通过了,想快速验证可以只编译vmlinux。 使用make vmlinux,总比每次都编译整个内核好。 我遇到的坑: 1. 没有规则可制作“debian/canonical-certs.pem"...... 这个能百度到,在内核的主目录里打开.config 文件,删除CONFIG_SYSTEM_TRUSTED_KEYS =“debian/canonical-certs.pem" 这一项里冒号里的内容就好 2. undefined reference to '__x64_sys_sayhelloworld' 这个错误对我来说最麻烦,试了google找到的好几种方式都不行,最后还是改成宏定义而且没有额外参数的实现最后编译成功
    展开
  • 施天助
    2021-07-13
    老师,选了您两门趣谈课。都很好,我就是在实践环节老碰到各种环境问题,折腾了好几天都不出来,能否加您微信或给您邮箱发送求助? 实在没辙了
  • 听雨听风
    2021-05-25
    qemu 虚拟机 是基于liunx系统上安装的吗?
  • 青年祭司
    2020-07-24
    编译后,内核自动就安装了吗
  • 李海涛
    2020-05-19
    在定义xml文件时, <emulator>/usr/bin/qemu-system-x86_64</emulator>里面为什么是/usr/bin/qemu-system-x86_64?我看还有的文档说用 <emulator>/usr/bin/kvm</emulator>, 或 <emulator>/usr/libexec/qemu-kvm</emulator>? 请问这几个的区别?各个的适合使用场景?谢谢!

    作者回复: ls一下,看是不是指向同一个文件,不同系统安装完,名字不一定一样

  • 扩散性百万咸面包
    2020-04-05
    我们OS课第一个作业也是编译Linux内核,Module是写Fork函数实现一些递归功能和执行
  • 暮鼓晨钟
    2019-12-23
    "在虚拟机里面,我们修改 /boot/grub/ 里面的两个文件,一个是 grub.cfg,另一个是 menu.lst,这里面就是咱们在系统初始化的时候,讲过的那个启动列表。" 老师,还没进入虚拟机,这两文件如何修改啊?
    共 1 条评论
  • 星亦辰
    2019-12-07
    Kvm虚拟机里,配置足够好,是不是也可以完成上边的实验?
  • David
    2019-11-05
    老师 如何进到虚拟机去修改配置呢?
    共 1 条评论
  • 许童童
    2019-08-14
    跟着老师一起动手,实战。

    作者回复: 动手好,印象深刻

  • 郭江伟
    2019-08-14
    请问下老师 每次修改内核都需要全部编译吗? 可以部分编译吗?

    作者回复: 如果是模块,可以部分编译,然后加载,核心的部分,就需要全部编译了

  • 大王叫我来巡山
    2019-08-14
    当年上课的时候只是给了个文档,让增加系统调用,其实并不明白,终于看明白了

    作者回复: 自己尝试一把

  • Marshall
    2019-08-14
    后期准备跟着老师动手一下

    作者回复: 一定要动手哦