create-image

   1 #!/usr/bin/ruby
   2 require 'pp'
   3 require 'shellwords'
   4 require 'tmpdir'
   5 require 'yaml'
   6 require 'json'
   7
   8 class SyncDirDef
   9   DEFAULT_EXCLUDE = %w[/proc/* /sys/* /dev/mqueue /dev/hugepages /run/* /var/lib/os-prober/mount /swap /dev/shm/* /var/lib/lxcfs/*]
  10   attr_accessor :path, :size, :exclude, :size, :srcpath, :fs_features, :device, :fs_uuid
  11   def initialize(path: '/', size: 8, exclude: DEFAULT_EXCLUDE, srcpath: nil, fs_features: nil)
  12     @path = path
  13     @size = size.to_f
  14     @exclude = (DEFAULT_EXCLUDE + [*exclude]).uniq
  15     @srcpath = srcpath || path
  16     @fs_features = fs_features
  17     @device = nil
  18     @fs_uuid = nil
  19   end
  20 end
  21
  22 class ImageCreator
  23   attr_accessor :name, :dirs, :src_host, :img_path_base
  24   MiB = 1024 ** 2
  25   GiB = 1024 ** 3
  26
  27   def initialize(name, dirs, src_host: nil)
  28     @name = name
  29     @dirs = dirs
  30     @src_host = src_host || name
  31     @img_path_base = "#{name}_#{Time.now.strftime '%FT%T%z'}"
  32   end
  33
  34   def imgpath(idx)
  35     "#{img_path_base}_#{idx}.img"
  36   end
  37
  38   def create_disk
  39     dirs.each_with_index do |di, idx|
  40       _create_disk imgpath(idx), di, idx != 0
  41     end
  42   end
  43
  44   def _create_disk path, di, use_gpt = false
  45     size_gb = di.size
  46     raise "Disk image #{path} is already exists!" if File.exists? path
  47     puts "Creating disk image #{path} (#{'%5.2f' % size_gb.to_f} GiB)..."
  48     File.open(path, "w") do |f|
  49       f.truncate(size_gb * GiB)
  50     end
  51     system("parted", "-s", path, "mklabel", use_gpt ? 'gpt' : 'msdos') or raise "Failed to create partition label"
  52     system("parted", "-s", path, "mkpart", "primary", "1MiB", "#{size_gb * 1024 - 1}MiB") or raise "Failed to create partition"
  53     if !use_gpt
  54       system("parted", "-s", path, "set", "1", "boot", "on") or raise "Failed to set bios boot partition"
  55     end
  56     puts "Image partition has been created."
  57   end
  58
  59   def with_loopdev &block
  60     begin
  61       devices = []
  62       dirs.each_with_index do |di, idx|
  63         system("kpartx", "-as", imgpath(idx)) or raise "Failed to map loop device"
  64         di.device = "/dev/mapper/" + `kpartx -l #{Shellwords.escape imgpath(idx)}`.split("\n").first[/loop\d+p\d+/]
  65         devices << di.device
  66       end
  67       yield devices
  68     ensure
  69       dirs.each_with_index do |di, idx|
  70         system "kpartx", "-d", imgpath(idx), err: "/dev/null"
  71         di.device = nil
  72       end
  73     end
  74   end
  75
  76   def create_fs
  77     with_loopdev do |devices|
  78       dirs.each_with_index do |di, index|
  79         dev = di.device
  80         puts "Creating filesystem on #{dev}..."
  81         cmd = %w(mkfs.ext4 -q)
  82         di = dirs[index]
  83         if di.fs_features
  84           cmd << '-O' << di.fs_features
  85         end
  86         cmd << dev
  87         system(*cmd) or raise "Failed to create file system on #{dev}"
  88         system "e2label", dev, di.path == '/' ? 'ROOT' : di.path[1..-1].tr('/', '-')
  89         di.fs_uuid = `blkid -o value -s UUID #{di.device}`.chomp("\n")
  90       end
  91     end
  92   end
  93
  94   def sync_dirs
  95     with_loopdev do |devices|
  96       devices.each_with_index do |dev, idx|
  97         di = dirs[idx]
  98         mount_point = "/mnt/ci-#{$$}-#{name}-#{idx}"
  99         system("mkdir", "-p", mount_point)
 100         begin
 101           system("mount", dev, mount_point) or raise "Failed to mount file system #{dev} on #{mount_point}"
 102           puts "Copying #{src_host}:#{di.srcpath} to #{dev}..."
 103           unless system("rsync", "-azHSAX", "--numeric-ids", "--info=progress2", "#{src_host}:#{di.srcpath}/", "#{mount_point}/", *((["--exclude"] * di.exclude.size).zip(di.exclude).flatten))
 104             warn "rsync exit with error, file transfer may not be completed."
 105           end
 106         ensure
 107           system("umount", mount_point)
 108           File.directory?(mount_point) and
 109             Dir.rmdir mount_point
 110         end
 111       end
 112     end
 113   end
 114
 115   def fix_boot
 116     puts "Fixing boot environments..."
 117     Dir.mktmpdir("ci-#{$$}-#{name}") do |dir|
 118       with_loopdev do |devices|
 119         puts "Override grub with host version..."
 120         root_dev = "/dev/#{devices.first[/loop\d+/]}"
 121         rootfs_uuid = dirs.find { |d| d.path == '/'}.fs_uuid
 122         puts "New rootfs UUID=#{rootfs_uuid}"
 123         begin
 124           system("mount", devices.first, dir) or raise "Failed to mount #{devices.first} to #{dir}"
 125           system("mount", "--bind", "/dev", "#{dir}/dev") or raise "Failed to mount /dev to #{dir}/dev"
 126           system("mount", "--bind", "/proc", "#{dir}/proc") or raise "Failed to mount /proc to #{dir}/proc"
 127
 128           dirs[1..-1].each_with_index do |di, idx|
 129             system "mkdir", "-p", "#{dir}#{di.path}"
 130             system("mount", di.device, "#{dir}#{di.path}") or raise "Failed to mount #{di.device} to #{dir}#{path}"
 131           end
 132
 133           system "rm", "-f", "#{dir}/etc/systemd/system/udev.service", "#{dir}/etc/systemd/system/systemd-udevd.service"
 134
 135           puts "Rewrite fstab..."
 136           File.open "#{dir}/etc/fstab", "w" do |f|
 137             dirs.each_with_index do |di, idx|
 138               f << %W(UUID=#{di.fs_uuid} #{di.path} ext4 defaults,noatime 0 #{di.path == '/' ? 1 : 2}).join("\t")
 139               f << "\n"
 140             end
 141           end
 142
 143           system("chroot", dir, "apt-get", "-qy", "update")
 144           if File.read("#{dir}/etc/debian_version").to_f >= 9.0
 145             # Note: 2019-10-08 時点で Debian9 のカーネルバージョンに対応していないので、エラー回避のために既存のカーネルを全て削除し、強制的に jessie のカーネルをイントールする
 146             system("rm", "-f", "#{dir}/var/lib/dpkg/info/linux-image-#{`uname -r`.chomp}.prerm")
 147             system({'DEBIAN_FRONTEND' => 'noninteractive'}, "chroot", dir, "apt", "remove", "--purge", "-y", "linux-image-*")
 148             system("wget", "-O", "#{dir}/tmp/linux.deb", "http://security-cdn.debian.org/debian-security/pool/updates/main/l/linux/linux-image-3.16.0-10-amd64_3.16.81-1_amd64.deb") or raise "Failed to get jessie kernel"
 149             system("chroot", dir, "dpkg", "-i", "/tmp/linux.deb")
 150             system({'DEBIAN_FRONTEND' => 'noninteractive'}, "chroot", dir, "apt", "install", "-f", "-y") or raise "Failed to install jessie kernel"
 151           else
 152             system({'DEBIAN_FRONTEND' => 'noninteractive'}, "chroot", dir, "apt-get", "-y", "install", "linux-image-amd64")
 153           end
 154
 155           puts "Update grub..."
 156           if File.exists? "#{dir}/var/lib/dpkg/info/grub-efi-amd64.list"
 157             system({'DEBIAN_FRONTEND' => 'noninteractive'}, "chroot", dir, "apt", "remove", "--purge", "-y", "grub-efi-amd64") or raise "Failed to purge grub-efi"
 158           end
 159           unless File.exists? "#{dir}/var/lib/dpkg/info/grub-pc.list"
 160             system("chroot", dir, "apt-get", "-qy", "update") or raise "Failed to install grub-pc"
 161             system({'DEBIAN_FRONTEND' => 'noninteractive'}, "chroot", dir, "apt-get", "-y", "install", "grub-pc")
 162           end
 163           File.open "#{dir}/boot/grub/device.map", "w" do |f|
 164             f.puts "(hd0)\t#{root_dev}"
 165           end
 166           system("chroot", dir, "grub-mkconfig", "-o", "/boot/grub/grub.cfg") or raise "grub-mkconfig fails."
 167           system(*%W(grub-install --no-floppy --grub-mkdevicemap=#{dir}/boot/grub/device.map --root-directory=#{dir} #{root_dev})) or raise "grub-install failed."
 168         ensure
 169           system("umount", "#{dir}/dev")
 170           system("umount", "#{dir}/proc")
 171           dirs.reverse[0..-2].each do |di, idx|
 172             system("umount", "#{dir}#{di.path}")
 173           end
 174           system("umount", dir)
 175         end
 176       end
 177     end
 178   end
 179
 180   def write_json
 181     jdef = []
 182     dirs.each_with_index do |dir, idx|
 183       jdef.push({
 184         "Description" => dir.path == '/' ? 'root' : dir.path[1..-1].tr('/', '-'),
 185         "Format" => "raw",
 186         "UserBucket" => {
 187           "S3Bucket" => ENV.fetch("S3_BUCKET", "osdn-base-images"),
 188           "S3Key" => "#{ENV.fetch("S3_KEY_PREFIX", "src-disks/")}#{img_path_base}_#{idx}.img"
 189         }
 190       })
 191     end
 192     File.write "#{img_path_base}.json", JSON.pretty_generate(jdef)
 193   end
 194
 195
 196   def run
 197     create_disk
 198     create_fs
 199     sync_dirs
 200     fix_boot
 201     write_json
 202     puts "Image creation has been complated (#{name})"
 203   end
 204 end
 205
 206 if $0 == __FILE__
 207   require 'optparse'
 208
 209   opts = ARGV.getopts('l:', 'limit:', 'skip:')
 210   limit_pat = opts['limit'] || opts['l']
 211   limit_pat and
 212     limit_pat = Regexp.new(limit_pat)
 213
 214   list = YAML.load_file(ARGV[0] || 'image-list.yml')
 215   list.each do |imgdef|
 216     name = nil
 217     dirs = []
 218     if imgdef.kind_of?(Hash)
 219       name = imgdef['name']
 220       (imgdef['dirs'] || {}).each do |path, opts|
 221         opts.kind_of?(Hash) or opts = {size: opts}
 222         dirs << SyncDirDef.new({path: path}.merge(opts.keys.map(&:to_sym).zip(opts.values).to_h))
 223       end
 224     else
 225       name = imgdef
 226     end
 227     if limit_pat
 228       limit_pat.match?(name) or next
 229     end
 230     dirs.empty? and dirs << SyncDirDef.new
 231     ImageCreator.new(name, dirs).run
 232   end
 233 end