使用 Canonical MAAS 部署 openEuler 测试
发表于 2022/08/23
0
Canonical 的 MAAS [https://maas.io/](Metal as a Service)是一款用于服务器自动发现、配置的远程操作系统安装、部署工具,可以将物理服务器转换为类似于虛拟机资源,实现物理物理服务器的自助服务,远程访问。MAAS目前支持 Ubuntu、CentOS、RHEL、Windows、ESXI 和自定义镜像的部署。当在数据中心管理成百上千的物理服务器,比如云、HPC 场景时,使用MAAS 是减少运维成本的最佳选择之一。
在本文的测试 中,展示了如何通过Packer 为 MAAS 构建 openEuler 映像并验证MAAS部署,可使用的临时解决方法以及如MAAS直接支持 openEuler时,cloud-init 和 curtin 可能的加强或修复方法。
测试环境要求
Packer创建openEuler MAAS 映像:
(1)Ubuntu 18.04+,能够运行 KVM 虚拟机
(2)Packer 1.8.0+
(3)外网访问openEuler官网以下载 openEuler ISO 和 git 访问 packer-maas
MAAS验证部署openEuler映像:
(1)MAAS 3.0+
(2)MAAS管理的物理服务器或KVM host
此测试可在Ubuntu Desktop 20.04 的笔记本电脑上进行,其中 MAAS 3.1可安装在 lxd 虚拟机中,主机自身被添加为 KVM host。主机或虚拟机均可用于Packer创建 openEuler 镜像,但需要 20G 可用磁盘空间。在单机上使用MAAS的详细方法可参考附件的文档链接。
Packer构建 openEuler MAAS映像
MAAS 仅在可用于节点的OS映像时才有用。您可以直接从 MAAS GUI 选择和同步Ubuntu、Centos映像。您还可以自己构建 RHEL、Windows、ESXi maas 映像然后上传到 MAAS。有两种方法可以构建要部署到 MAAS 机器的自定义映像:MAAS Image Builder 和 packer。在这个 测试 中,我们使用了packer 借用了rhel8模板。
安装packer:1 curl -fsSL https://apt.releases.hashicorp.com/gpg | sudo apt-key add -
2 sudo apt-add-repository "deb [arch=amd64] https://apt.releases.hashicorp.com $(lsb_release -cs) main"
3 sudo apt-get update && sudo apt-get install packer
安装依赖包
1 sudo apt install qemu-system qemu-utils ovmf cloud-image-utils make
下载packer-maas模板:
1 git clone https://github.com/canonical/packer-maas.git
因为packer-maas目前没有openeuler 模板,可以使用rhel8模板但需适配。如下直接下载已测试过的适用于openEuler 20.03/22.03 LTS的模板。如想直接查看内容,可浏览器访问。
https://git.launchpad.net/~zhanglei-mao/+git/packer-maas-openeuler/tree/
1 cd packer-maas
2 git clone https:// git.launchpad.net/~zhanglei-mao/+git/packer-maas-openeuler openeuler
使用浏览器访问 https://repo.openeuler.org/ 下载openEuler ISO并上传到packer机器。
1 make ISO=/PATH/TO/openeuler-22.03-LTS-x86_64-dvd.iso
2
3 例如:
4 ubuntu@vm-k8s-w2:~/packer-maas/openeuler$ ls /home/ubuntu/*.iso -lhs
5 3.4G -rw-rw-r-- 1 ubuntu ubuntu 3.4G Jun 29 07:20 /home/ubuntu/openEuler-22.03-LTS-x86_64-dvd.iso
6 4.2G -rw-r--r-- 1 ubuntu ubuntu 4.2G Jun 29 01:24 /home/ubuntu/openEuler-20.03-LTS-SP1-x86_64-dvd.iso
7 ubuntu@vm-k8s-w2:~/packer-maas/ openeuler$ make ISO=/home/ubuntu/openEuler-22.03-LTS-x86_64-dvd.iso
8 ...
9 ==> qemu: Waiting 3s for boot...
10 ==> qemu: Connecting to VM via VNC (0.0.0.0:5976)
11 ...
12 ==> qemu: Waiting for shutdown…
13 ...
14 2022/06/29 07:34:54 packer-builder-qemu plugin: VM shut down.
15 ==> qemu: Converting hard drive...
16 ...
17 qemu (shell-local): Mounting root partition...
18 qemu (shell-local): Creating MAAS image openeuler.tar.gz...
19 ...
20 ubuntu@ vm-k8s-w2:~/packer-maas/openeuler$ ls openeuler.tar.gz -lhs
21 690M -rw-r--r-- 1 root root 690M Jun 29 07:36 openeuler.tar.gz
22 ubuntu@vm- k8s-w2:~/packer-maas/openeuler$ mv openeuler.tar.gz openeuler2203.tar.gz
23 ubuntu@vm-k8s-w2:~/packer-maas/ openeuler$ make ISO=/home/ubuntu//home/ubuntu/openEuler-20.03-LTS-SP1-x86_64-dvd.iso
24 ...
25 ubuntu@vm- k8s-w2:~/packer-maas/openeuler$ mv openeuler.tar.gz openeuler2003.tar.gz
openeuler.tar.gz 就是创建好的 MAAS 映像,需要上传到MAAS服务器以便导入。packer输出中的vnc 端口可用于vnc访问,注意每次的端口号都不同。
上传openEuler映像到MAAS和部署验证
如下方法将镜像上传到MAAS:
1 maas $PROFILE boot-resources create \
2 name='rhel/rhel8' title='openEuler 22.03' architecture='amd64/generic' filetype='tgz' \ content@ =openeuler.tar.gz #
3
4 #例如
5 zlmao@p14s:~/tmp$ scp ubuntu@192.168.122.105:~/packer-maas/openeuler/*.gz ./
6 Openeuler.tar.gz 100% 689MB 209.9MB/s 00 :03
7 zlmao@p14s:~/tmp$ lxc file push openeuler.tar.gz maas2/home/ubuntu/
8 zlmao@p14s:~/tmp$ lxc exec maas2 bash
9 root@maas2:~# su - ubuntu
10 ubuntu@maas2:~$ maas login root http://192.168.122.12:5240/maas/ $(sudo maas apikey --username root)
11 ubuntu@maas2:~$ maas root boot-resources create name=rhel/8 title="openEuler 22.03 LTS" architecture=amd64/generic content@=openeuler2203.tar.gz
12 ubuntu@maas2:~$ maas root boot-resources create name=rhel/8.2 title="openEuler 20.03 LTS" architecture=amd64/generic content@=openeuler2003.tar.gz
注意,如果你有更多的不同版本的openEuler映像,请使用不同的rhel/8.x。
在 MAAS图形管理介面中,您可以找到上传的像已同步。
部署,请从“Redhat Enterprise Linux”中选择操作系统,然后选择“openEuler 22.03 LTS”
约4-10分钟后, 会显示”Deployed”部署成功。可找到所分配的 IP 地址用于ssh远程访问。
注意对于openEuler 22.04,要使用默认的“openeuler”用户名和ssh密钥进行远程访问。对于openEuler 20.03默认用户为”openEuler”。
1 zlmao@p14s:~$ ssh openeuler@192.168.122.106
2 Authorized users only. All activities may be monitored and reported.
3 Welcome to 5.10.0-60.18.0.50.oe2203.x86_64
4 System information as of time: Wednesday, June 29, 2022 AM08:23:20 UTC
5 System load: 0.05
6 Processes: 97
7 Memory used: 8.9%
8 Swap used: 0%
9 Usage On: 48%
10 IP address: 192.168.122.106
11 Users online: 1
12 To run a command as administrator(user "root"),use "sudo ".
13 [openeuler@vm-test3 ~]$ uname -a
14 Linux vm-test3.maas 5.10.0-60.18.0.50.oe2203.x86_64 #1 SMP Wed Mar 30 03:12:24 UTC 2022 x86_64 x86_64 x86_64 GNU/Linux
15 [openeuler@vm-test3 ~]$
16
17 zlmao@p14s:~$ ssh openEuler@192.168.122.107
1 Authorized users only. All activities may be monitored and reported.
2 Welcome to 4.19.90-2109.1.0.0108.oe1.x86_64
3 System information as of time: Thu Jun 30 13:40:24 UTC 2022
4 System load: 0.06
5 Processes: 94
6 Memory used: 6.8%
7 Swap used: 0.0%
8 Usage On: 31%
9 IP address: 192.168.122.107
10 Users online: 1
11 [openEuler@vm-k8s-m1 ~]$ uname -a
12 Linux vm-k8s-m1.maas 4.19.90-2109.1.0.0108.oe1.x86_64 #1 SMP Mon Sep 6 05:27:07 UTC 2021 x86_64 x86_64 x86_64 GNU/Linux
13 [openEuler@vm-k8s-m1 ~]$
如何定制packer模板和发现的问题
Packer在构建时,它读取配置文件(openeuler.js)并创建一个qemu-kvm虛拟机, 使用 ISO 引导及 http/openeuler.ks 的作为自动安装配置文件。一旦自动安装成功完成并关闭电源后,Packer就会调用脚本setup-nbd 和 tar-root 生成最终映像文件。
对于所使用如下openeuler.js 模板,与 rhel8 的区别在于 console=tty0 和 vnc_ind_address, 以使虛拟机输出重定向到 vnc 客户端及可以从网络而不仅仅是本机(127.0.0.1)进行vnc访问。
1 ubuntu@vm-k8s-w2:~/packer-maas/openeuler$ cat openeuler.json
2 {
3 "variables":
4 {
5 "openeuler_iso_path": "{{env `OPENEULER_ISO_PATH`}}"
6 },
7 "builders": [
8 {
9 "type": "qemu",
10 "communicator": "none",
11 "iso_url": "{{user `openeuler_iso_path`}}",
12 "iso_checksum": "none",
13 "boot_command": [
14 " ",
15 "inst.ks=http://{{ .HTTPIP }}:{{ .HTTPPort }}/openeuler.ks ",
16 "console=ttyS0 console=tty0 inst.cmdline",
17 ""
18 ],
19 "boot_wait": "3s",
20 "disk_size": "4G",
21 "headless": true,
22 "vnc_bind_address": "0.0.0.0",
23 "memory": 2048,
24 "http_directory": "http",
25 "qemuargs": [
26 [ "-serial", "stdio" ]
27 ],
28 "shutdown_timeout": "1h"
29 }
30 ],
31 "post-processors": [
32 {
33 "type": "shell-local",
34 "inline_shebang": "/bin/bash -e",
35 "inline": [
36 "source ../scripts/setup-nbd",
37 "OUTPUT=${OUTPUT:-openeuler.tar.gz}",
38 "source ../scripts/tar-root"
39 ]
40 }
41 ]
42 }
43 ubuntu@vm-k8s-w2:~/packer-maas/openeuler$
“http/ openeuler.ks”则基于“rhel8.ks”并删除那些在openeuler下会失败的配置。其中最重要修改如下:
1 ubuntu@vm-k8s-w2:~/packer-maas/openeuler$ cat -n http/openeuler.ks
2 ...
3 39 yum clean all
4 40 echo "%rhel 8" >> /etc/rpm/ macros.dist
5 41 sed -i s/\^ID=.*\$/ID=\"rhel\"/ /etc/os-release
6 42 %end
7 ...
这是针对以下2个问题的临时解决方法,它会欺骗 curtin和 cloud-init正处理的是 rhel 操作系统从完成部署而不出错。
部署openEuler时出现的错误及可能修复方法
MAAS使用curtin 解压上传到 MAAS 的 openeuler 映像并在 MAAS 部署期间安装 grub程序等。cloud-init 则是在 MAAS 部署后的首次启动期间来初始化机器,比如机器名,网络地址,注入ssh pub key等。cloud-int所使用的user-data由MAAS管理及自动提供。如果没有上面的临时解决方法将openeuler 映像假装为rhel, 则在部署时会出现如下2个报错。更详细信息及问題跟踪可访问: https://bugs.launchpad.net/curtin/+bug/1975922
1 # during deploy, the curtin failed with
2 finish: cmd-install/stage-curthooks/builtin/cmd-curthooks: FAIL: curtin command curthooks
3 Traceback (most recent call last):
4 File "/curtin/curtin/distro.py", line 120, in get_distroinfo
5 variant = name_to_distro(variant_name)
6 File "/curtin/curtin/distro.py", line 57, in name_to_distro
7 return DISTROS[DISTROS.index(distname)]
8 ValueError: tuple.index(x): x not in tuple
9
10 # after deploy, cloud-init failed with:
11 2022-06-21 02:30:15,216 - stages.py[ERROR]: Unable to render networking. Network config is likely broken: No available network renderers found. Searched through list: ['eni', 'sysconfig', 'netplan']
以下对于 curtin 和 cloud-init 的代码的修改可以测试通过:
1 #In curtin/curtin/distro.py
2 DISTRO_NAMES = ['arch', 'centos', 'debian', 'fedora', 'freebsd', 'gentoo',
3 'opensuse', 'redhat', 'rhel', 'sles', 'suse', 'ubuntu', 'openEuler']
4 ...
5 OS_FAMILIES = {
6 DISTROS.debian: [DISTROS.debian, DISTROS.ubuntu],
7 DISTROS.redhat: [DISTROS.centos, DISTROS.fedora, DISTROS.redhat,
8 DISTROS.rhel, DISTROS.openEuler],
9
10 #Make openEuler be detected as rhel8 (rpm -E "%rhel")
11 echo "%rhel 8" >> /etc/rpm/macros.dist
12
13 # In /usr/lib/python3.7/site-packages/cloudinit/net/sysconfig.py, change openEuler to openeuler
14 KNOWN_DISTROS = ['centos', 'fedora', 'rhel', 'suse', 'openeuler']
15
16 # In /usr/lib/python3.7/site-packages/cloudinit/util.py, add ‘openeuler’
17 'arch', 'centos', 'debian', 'fedora', 'rhel', 'suse', 'openeuler'):
通过vnc来监控packer构建过程
Packer 构建依赖于 kickstart配置文件并等待其所创建的虛拟机在完成安装之后自动关机,通过 vnc 来监控日志输出的错误对调试问题极其有用。如果有Ubuntu 桌面系统,可以使用 Remmina 等 VNC 客户端进行访问。vnc 端口可以在packer构建的输出中找到。
注意可以使用ctrl+b 1-5来切换tmux窗口。
附录-参考文档
(1)如何在一台及其上测试MAAS
第1篇安装
https://cn.ubuntu.com/blog/ubuntu-maas-installation-tutorial
第2篇初始化
https://cn.ubuntu.com/blog/ubuntu-maas-installation-tutorial-1
第3篇 KVM POD/host
https://cn.ubuntu.com/blog/ubuntu-maas-installation-tutorial-2
(2)MAAS安装(英文)
https://maas.io/docs/how-to-install-maas#heading--fresh-install-3-1-packages
(3)增加VM host(英文)
https://maas.io/docs/how-to-manage-vm-hosts
(4)MAAS官方手册(英文)
---
本博文由Canonical的Senior Field Engineer: Mao Zhanglei 所写。
原文链接:
https://cn.ubuntu.com/blog/use-canonical-maas-deploy-openeuler-test