UDN-企业互联网技术人气社区

板块导航

浏览  : 1463
回复  : 0

[教程技巧] Docker源码分析(四):Docker Daemon之NewDaemon实现

[复制链接]
旺财的头像 楼主
发表于 2015-7-3 14:41:25 | 显示全部楼层 |阅读模式
本帖最后由 旺财 于 2015-7-3 14:50 编辑

  【编者按】在《深入浅出Docker》系列文章的基础上,InfoQ推出了《Docker源码分析》系列文章。《深入浅出Docker》系列文章更 多的是从使用角度出发,帮助读者了解Docker的来龙去脉,而《Docker源码分析》系列文章通过分析解读Docker源码,来让读者了解 Docker的内部实现,以更好的使用Docker。总之,我们的目标是促进Docker在国内的发展以及传播。

  1. 前言
  Docker的生态系统日趋完善,开发者群体也在日趋庞大,这让业界对Docker持续抱有极其乐观的态度。如今,对于广大开发者而言,使用 Docker这项技术已然不是门槛,享受Docker带来的技术福利也不再是困难。然而,如何探寻Docker适应的场景,如何发展Docker周边的技 术,以及如何弥合Docker新技术与传统物理机或VM技术的鸿沟,已经占据Docker研究者们的思考与实践。

  本文为《Docker源码分析》第四篇——Docker Daemon之NewDaemon实现,力求帮助广大Docker爱好者更多得理解Docker 的核心——Docker Daemon的实现。

  2. NewDaemon作用简介
  在Docker架构中有很多重要的概念, 如:graph,graphdriver,execdriver,networkdriver,volumes,Docker containers等。Docker在实现过程中,需要将以上实体进行统一化管理,而Docker Daemon中的daemon实例就是设计用来完成这一任务的实体。

  从源码的角度,NewDaemon函数的执行完成了Docker Daemon创建并加载daemon的任务,最终实现统一管理Docker Daemon的资源。

  3. NewDaemon源码分析内容安排
  本文从源码角度,分析Docker Daemon加载过程中NewDaemon的实现,整个分析过程如下图:

图3.1 Docker Daemon中NewDaemon执行流程图

  由上图可见,Docker Daemon中NewDaemon的执行流程主要包含12个独立的步骤:处理配置信息、检测系统支持及用户权限、配置工作路径、加载并配置 graphdriver、创建Docker Daemon网络环境、创建并初始化graphdb、创建execdriver、创建daemon实例、检测DNS配置、加载已有container、设 置shutdown处理方法、以及返回daemon实例。

  下文会在NewDaemon的具体实现中,以12节分别分析以上内容。

  4. NewDaemon具体实现
  在《Docker源码分析》系列第三篇中,有一个重要的环节:使用goroutine加载daemon对象并运行。在加载并运行daemon对象时,所做的第一个工作即为:
  1. d, err := daemon.NewDaemon(daemonCfg, eng)
复制代码

  该部分代码分析如下:
  • 函数名:NewDaemon;
  • 函数调用具体实现所处的包位置:./docker/daemon;
  • 函数具体实现源文件:./docker/daemon/daemon.go;
  • 函数传入实参:daemonCfg,定义了Docker Daemon运行过程中所需的众多配置信息;eng,在mainDaemon中创建的Engine对象实例;
  • 函数返回类型:d,具体的Daemon对象实例;err,错误状态。

  进入./docker/daemon/daemon.go中NewDaemon的具体实现,代码如下:
  1. func NewDaemon(config *Config, eng *engine.Engine) (*Daemon, error) {
  2.         daemon, err := NewDaemonFromDirectory(config, eng)
  3.         if err != nil {
  4.                 return nil, err
  5.         }
  6.         return daemon, nil
  7. }
复制代码

  可见,在实现NewDaemon的过程中,通过NewDaemonFromDirectory函数来实现创建Daemon的运行环境。该函数的实 现,传入参数以及返回类型与NewDaemon函数相同。下文将大篇幅分析NewDaemonFromDirectory的实现细节。

  4.1. 应用配置信息
  在NewDaemonFromDirectory的实现过程中,第一个工作是:如何应用传入的配置信息。这部分配置信息服务于Docker Daemon的运行,并在Docker Daemon启动初期就初始化完毕。配置信息的主要功能是:供用户自由配置Docker的可选功能,使得Docker的运行更贴近用户期待的运行场景。

  配置信息的处理包含4部分:
  • 配置Docker容器的MTU;
  • 检测网桥配置信息;
  • 查验容器通信配置;
  • 处理PID文件配置。

  4.1.1. 配置Docker容器的MTU
  config信息中的Mtu应用于容器网络的最大传输单元(MTU)特性。有关MTU的源码如下:
  1. if config.Mtu == 0 {
  2. config.Mtu = GetDefaultNetworkMtu()
复制代码

  可见,若config信息中Mtu的值为0的话,则通过GetDefaultNetworkMtu函数将Mtu设定为默认的值;否则,采用config中的Mtu值。由于在默认的配置文件./docker/daemon/config.go(下文简称为默认配置文件)中,初始化时Mtu属性值为0,故执行GetDefaultNetworkMtu。
  1. GetDefaultNetworkMtu函数的具体实现位于./docker/daemon/config.go:

  2. func GetDefaultNetworkMtu() int {
  3.         if iface, err := networkdriver.GetDefaultRouteIface(); err == nil {
  4.                 return iface.MTU
  5.         }
  6.         return defaultNetworkMtu
  7. }
复制代码

  GetDefaultNetworkMtu的实现中,通过networkdriver包的GetDefaultRouteIface方法获取具体的 网络设备,若该网络设备存在,则返回该网络设备的MTU属性值;否则的话,返回默认的MTU值defaultNetworkMtu,值为1500。

  4.1.2. 检测网桥配置信息
  处理完config中的Mtu属性之后,马上检测config中BridgeIface和BridgeIP这两个信息。BridgeIface和BridgeIP的作用是为创建网桥的任务”init_networkdriver”提供参数。代码如下:
  1. if config.BridgeIface != "" && config.BridgeIP != "" {
  2.         return nil, fmt.Errorf("You specified -b & --bip, mutually exclusive options.
  3. Please specify only one.")
  4. }
复制代码

  以上代码的含义为:若config中BridgeIface和BridgeIP两个属性均不为空,则返回nil对象,并返回错误信息,错误信息内容为:用户同时指定了BridgeIface和BridgeIP,这两个属性属于互斥类型,只能至多指定其中之一。而在默认配置文件中,BridgeIface和BridgeIP均为空。

  4.1.3. 查验容器通信配置
  检测容器的通信配置,主要是针对config中的EnableIptables和InterContainerCommunication这两个属 性。EnableIptables属性的作用是启用Docker对iptables规则的添加功 能;InterContainerCommunication的作用是启用Docker container之间互相通信的功能。代码如下:
  1. if !config.EnableIptables && !config.InterContainerCommunication {
  2.         return nil, fmt.Errorf("You specified --iptables=false with --icc=
  3. false. ICC uses iptables to function. Please set --icc or --iptables to true.")
  4. }
复制代码

  代码含义为:若EnableIptables和InterContainerCommunication两个属性的值均为false,则返回nil 对象以及错误信息。其中错误信息为:用户将以上两属性均置为false,container间通信需要iptables的支持,需设置至少其中之一为 true。而在默认配置文件中,这两个属性的值均为true。

  4.1.4. 处理网络功能配置
  接着,处理config中的DisableNetwork属性,以备后续在创建并执行创建Docker Daemon网络环境时使用,即在名为”init_networkdriver”的job创建并运行中体现。
  1. config.DisableNetwork = config.BridgeIface == DisableNetworkBridge
复制代码

  由于config中的BridgeIface属性值为空,另外DisableNetworkBridge的值为字符串”none”,因此最终 config中DisableNetwork的值为false。后续名为”init_networkdriver”的job在执行过程中需要使用该属性。

  4.1.5. 处理PID文件配置
  处理PID文件配置,主要工作是:为Docker Daemon进程运行时的PID号创建一个PID文件,文件的路径即为config中的Pidfile属性。并且为Docker Daemon的shutdown操作添加一个删除该Pidfile的函数,以便在Docker Daemon退出的时候,可以在第一时间删除该Pidfile。处理PID文件配置信息的代码实现如下:
  1. if config.Pidfile != "" {
  2.         if err := utils.CreatePidFile(config.Pidfile); err != nil {
  3.                 return nil, err
  4.         }
  5.         eng.OnShutdown(func() {
  6.                 utils.RemovePidFile(config.Pidfile)
  7.         })
  8. }
复制代码

  代码执行过程中,首先检测config中的Pidfile属性是否为空,若为空,则跳过代码块继续执行;若不为空,则首先在文件系统中创建具体的 Pidfile,然后向eng的onShutdown属性添加一个处理函数,函数具体完成的工作为 utils.RemovePidFile(config.Pidfile),即在Docker Daemon进行shutdown操作的时候,删除Pidfile文件。在默认配置文件中,Pidfile文件的初始值为” /var/run/docker.pid”。
以上便是关于配置信息处理的分析。

  4.2. 检测系统支持及用户权限
  初步处理完Docker的配置信息之后,Docker对自身运行的环境进行了一系列的检测,主要包括三个方面:
  • 操作系统类型对Docker Daemon的支持;
  • 用户权限的级别;
  • 内核版本与处理器的支持。
  系统支持与用户权限检测的实现较为简单,实现代码如下:
  1. if runtime.GOOS != "linux" {
  2.         log.Fatalf("The Docker daemon is only supported on linux")
  3. }
  4. if os.Geteuid() != 0 {
  5.         log.Fatalf("The Docker daemon needs to be run as root")
  6. }
  7. if err := checkKernelAndArch(); err != nil {
  8.         log.Fatalf(err.Error())
  9. }
复制代码

  首先,通过runtime.GOOS,检测操作系统的类型。runtime.GOOS返回运行程序所在操作系统的类型,可以是 Linux,Darwin,FreeBSD等。结合具体代码,可以发现,若操作系统不为Linux的话,将报出Fatal错误日志,内容为“Docker Daemon只能支持Linux操作系统”。
接着,通过os.Geteuid(),检测程序用户是否拥有足够权限。os.Geteuid()返回调用者所在组的group id。结合具体代码,也就是说,若返回不为0,则说明不是以root用户的身份运行,报出Fatal日志。
最后,通过checkKernelAndArch(),检测内核的版本以及主机处理器类型。checkKernelAndArch()的实现同样位于./docker/daemon/daemon.go。 实现过程中,第一个工作是:检测程序运行所在的处理器架构是否为“amd64”,而目前Docker运行时只能支持amd64的处理器架构。第二个工作 是:检测Linux内核版本是否满足要求,而目前Docker Daemon运行所需的内核版本若过低,则必须升级至3.8.0。

  4.3. 配置工作路径
  配置Docker Daemon的工作路径,主要是创建Docker Daemon运行中所在的工作目录。实现过程中,通过config中的Root属性来完成。在默认配置文件中,Root属性的值为”/var/lib/docker”。
  在配置工作路径的代码实现中,步骤如下:
  (1) 使用规范路径创建一个TempDir,路径名为tmp;
  (2) 通过tmp,创建一个指向tmp的文件符号连接realTmp;
  (3) 使用realTemp的值,创建并赋值给环境变量TMPDIR;
  (4) 处理config的属性EnableSelinuxSupport;
  (5) 将realRoot重新赋值于config.Root,并创建Docker Daemon的工作根目录。

  4.4. 加载并配置graphdriver
  加载并配置存储驱动graphdriver,目的在于:使得Docker Daemon创建Docker镜像管理所需的驱动环境。Graphdriver用于完成Docker容器镜像的管理,包括存储与获取。

  4.4.1. 创建graphdriver
  这部分内容的源码位于./docker/daemon/daemon.go#L743-L790,具体细节分析如下:
  1. graphdriver.DefaultDriver = config.GraphDriver
  2. driver, err := graphdriver.New(config.Root, config.GraphOptions)
复制代码

  首先,为graphdriver包中的DefaultDriver对象赋值,值为config中的GraphDriver属性,在默认配置文件中,GraphDriver属性的值为空;同样的,属性GraphOptions也为空。然后通过graphDriver中的new函数实现加载graph的存储驱动。

  创建具体的graphdriver是相当重要的一个环节,实现细节由graphdriver包中的New函数来完成。进入./docker/daemon/graphdriver/driver.go中,实现步骤如下:
第一,遍历数组选择graphdriver,数组内容为os.Getenv(“DOCKER_DRIVER”)和DefaultDriver。若不 为空,则通过GetDriver函数直接返回相应的Driver对象实例,若均为空,则继续往下执行。这部分内容的作用是:让graphdriver的加 载,首先满足用户的自定义选择,然后满足默认值。代码如下:

  1. for _, name := range []string{os.Getenv("DOCKER_DRIVER"), DefaultDriver} {
  2.         if name != "" {
  3.                 return GetDriver(name, root, options)
  4.         }
  5. }
复制代码

  第二,遍历优先级数组选择graphdriver,优先级数组的内容为依次为”aufs”,”brtfs”,”devicemapper” 和”vfs”。若依次验证时,GetDriver成功,则直接返回相应的Driver对象实例,若均不成功,则继续往下执行。这部分内容的作用是:在没有 指定以及默认的Driver时,从优先级数组中选择Driver,目前优先级最高的为“aufs”。代码如下:
  1. for _, name := range priority {
  2.         driver, err = GetDriver(name, root, options)
  3.         if err != nil {
  4.                 if err == ErrNotSupported || err == ErrPrerequisites || err == ErrIncompatibleFS {
  5.                         continue
  6.                 }
  7.                 return nil, err
  8.         }
  9.         return driver, nil
  10. }
复制代码

  第三,从已经注册的drivers数组中选择graphdriver。在”aufs”,”btrfs”,”devicemapper”和”vfs” 四个不同类型driver的init函数中,它们均向graphdriver的drivers数组注册了相应的初始化方法。分别位于./docker/daemon/graphdriver/aufs/aufs.go,以及其他三类driver的相应位置。这部分内容的作用是:在没有优先级drivers数组的时候,同样可以通过注册的driver来选择具体的graphdriver。

  4.4.2. 验证btrfs与SELinux的兼容性
  由于目前在btrfs文件系统上运行的Docker不兼容SELinux,因此当config中配置信息需要启用SELinux的支持并且driver的类型为btrfs时,返回nil对象,并报出Fatal日志。代码实现如下:
  1. // As Docker on btrfs and SELinux are incompatible at present, error on both being enabled
  2. if config.EnableSelinuxSupport && driver.String() == "btrfs" {
  3. return nil, fmt.Errorf("SELinux is not supported with the BTRFS graph driver!")
  4. }
复制代码

  4.4.3. 创建容器仓库目录
  Docker Daemon在创建Docker容器之后,需要将容器放置于某个仓库目录下,统一管理。而这个目录即为daemonRepo,值为:/var/lib/docker/containers,并通过daemonRepo创建相应的目录。代码实现如下:
  1. daemonRepo := path.Join(config.Root, "containers")
  2. if err := os.MkdirAll(daemonRepo, 0700); err != nil && !os.IsExist(err) {
  3.         return nil, err
  4. }
复制代码

  4.4.4. 迁移容器至aufs类型
  当graphdriver的类型为aufs时,需要将现有graph的所有内容都迁移至aufs类型;若不为aufs,则继续往下执行。实现代码如下:
  1. if err = migrateIfAufs(driver, config.Root); err != nil {
  2. return nil, err
  3. }
复制代码

  这部分的迁移内容主要包括Repositories,Images以及Containers,具体实现位于./docker/daemon/graphdriver/aufs/migrate.go。
  1. func (a *Driver) Migrate(pth string, setupInit func(p string) error) error {
  2.         if pathExists(path.Join(pth, "graph")) {
  3.                 if err := a.migrateRepositories(pth); err != nil {
  4.                         return err
  5.                 }
  6.                 if err := a.migrateImages(path.Join(pth, "graph")); err != nil {
  7.                         return err
  8.                 }
  9.                 return a.migrateContainers(path.Join(pth, "containers"), setupInit)
  10.         }
  11.         return nil
  12. }
复制代码

  migrate repositories的功能是:在Docker Daemon的root工作目录下创建repositories-aufs的文件,存储所有与images相关的基本信息。
  migrate images的主要功能是:将原有的image镜像都迁移至aufs driver能识别并使用的类型,包括aufs所规定的layers,diff与mnt目录内容。
  migrate container的主要功能是:将container内部的环境使用aufs driver来进行配置,包括,创建container内部的初始层(init layer),以及创建原先container内部的其他layers。

  4.4.5. 创建镜像graph
  创建镜像graph的主要工作是:在文件系统中指定的root目录下,实例化一个全新的graph对象,作用为:存储所有标记的文件系统镜像,并记录镜像之间的关系。实现代码如下:
  1. g, err := graph.NewGraph(path.Join(config.Root, "graph"), driver)
复制代码

  NewGraph的具体实现位于./docker/graph/graph.go,实现过程中返回的对象为Graph类型,定义如下:
  1. type Graph struct {
  2.         Root    string
  3.         idIndex *truncindex.TruncIndex
  4.         driver  graphdriver.Driver
  5. }
复制代码

  其中Root表示graph的工作根目录,一般为”/var/lib/docker/graph”;idIndex使得检索字符串标识符时,允许使 用任意一个该字符串唯一的前缀,在这里idIndex用于通过简短有效的字符串前缀检索镜像与容器的ID;最后driver表示具体的 graphdriver类型。

  4.4.6. 创建volumesdriver以及volumes graph
  在Docker中volume的概念是:可以从Docker宿主机上挂载到Docker容器内部的特定目录。一个volume可以被多个 Docker容器挂载,从而Docker容器可以实现互相共享数据等。在实现volumes时,Docker需要使用driver来管理它,又由于 volumes的管理不会像容器文件系统管理那么复杂,故Docker采用vfs驱动实现volumes的管理。代码实现如下:
  1. volumesDriver, err := graphdriver.GetDriver("vfs", config.Root, config.GraphOptions)
  2. volumes, err := graph.NewGraph(path.Join(config.Root, "volumes"), volumesDriver)
复制代码

  主要完成工作为:使用vfs创建volumesDriver;创建相应的volumes目录,并返回volumes graph对象。

  4.4.7. 创建TagStore
  TagStore主要是用于存储镜像的仓库列表(repository list)。代码如下:
  1. repositories, err := graph.NewTagStore(path.Join(config.Root, "repositories-"+driver.String()), g)
复制代码

  NewTagStore位于./docker/graph/tags.go,TagStore的定义如下:
  1. type TagStore struct {
  2.         path         string
  3.         graph        *Graph
  4.         Repositories   map[string]Repository
  5.         sync.Mutex
  6.         pullingPool    map[string]chan struct{}
  7.         pushingPool   map[string]chan struct{}
  8. }
复制代码

  需要阐述的是TagStore类型中的多个属性的含义:
  • path:TagStore中记录镜像仓库的文件所在路径;
  • graph:相应的Graph实例对象;
  • Repositories:记录具体的镜像仓库的map数据结构;
  • sync.Mutex:TagStore的互斥锁
  • pullingPool :记录池,记录有哪些镜像正在被下载,若某一个镜像正在被下载,则驳回其他Docker Client发起下载该镜像的请求;
  • pushingPool:记录池,记录有哪些镜像正在被上传,若某一个镜像正在被上传,则驳回其他Docker Client发起上传该镜像的请求;

  4.5. 创建Docker Daemon网络环境
  创建Docker Daemon运行环境的时候,创建网络环境是极为重要的一个部分,这不仅关系着容器对外的通信,同样也关系着容器间的通信。
  在创建网络时,Docker Daemon是通过运行名为”init_networkdriver”的job来完成的。代码如下:
  1. if !config.DisableNetwork {
  2.         job := eng.Job("init_networkdriver")

  3.         job.SetenvBool("EnableIptables", config.EnableIptables)
  4.         job.SetenvBool("InterContainerCommunication", config.InterContainerCommunication)
  5.         job.SetenvBool("EnableIpForward", config.EnableIpForward)
  6.         job.Setenv("BridgeIface", config.BridgeIface)
  7.         job.Setenv("BridgeIP", config.BridgeIP)
  8.         job.Setenv("DefaultBindingIP", config.DefaultIp.String())

  9.         if err := job.Run(); err != nil {
  10.                 return nil, err
  11.         }
  12. }
复制代码

  分析以上源码可知,通过config中的DisableNetwork属性来判断,在默认配置文件中,该属性有过定义,却没有初始值。但是在应用配置信息中处理网络功能配置的时候,将DisableNetwork属性赋值为false,故判断语句结果为真,执行相应的代码块。

  首先创建名为”init_networkdriver”的job,随后为该job设置环境变量,环境变量的值如下:
  • 环境变量EnableIptables,使用config.EnableIptables来赋值,为true;
  • 环境变量InterContainerCommunication,使用config.InterContainerCommunication来赋值,为true;
  • 环境变量EnableIpForward,使用config.EnableIpForward来赋值,值为true;
  • 环境变量BridgeIface,使用config.BridgeIface来赋值,为空字符串””;
  • 环境变量BridgeIP,使用config.BridgeIP来赋值,为空字符串””;
  • 环境变量DefaultBindingIP,使用config.DefaultIp.String()来赋值,为”0.0.0.0”。
  设置完环境变量之后,随即运行该job,由于在eng中key为”init_networkdriver”的handler,value为bridge.InitDriver函数,故执行bridge.InitDriver函数,具体的实现位于./docker/daemon/networkdriver/bridge/dirver.go,作用为:
  • 获取为Docker服务的网络设备的地址;
  • 创建指定IP地址的网桥;
  • 启用Iptables功能并配置;
  • 另外还为eng实例注册了4个Handler,如 ”allocate_interface”, ”release_interface”, ”allocate_port”,”link”。

  4.5.1. 创建Docker网络设备
  创建Docker网络设备,属于Docker Daemon创建网络环境的第一步,实际工作是创建名为“docker0”的网桥设备。
  在InitDriver函数运行过程中,首先使用job的环境变量初始化内部变量;然后根据目前网络环境,判断是否创建docker0网桥,若Docker专属网桥已存在,则继续往下执行;否则的话,创建docker0网桥。具体实现为createBridge(bridgeIP),以及createBridgeIface(bridgeIface)。

  createBridge的功能是:在host主机上启动创建指定名称网桥设备的任务,并为该网桥设备配置一个与其他设备不冲突的网络地址。而 createBridgeIface通过系统调用负责创建具体实际的网桥设备,并设置MAC地址,通过libcontainer中netlink包的 CreateBridge来实现。

  4.5.2. 启用iptables功能
  创建完网桥之后,Docker Daemon为容器以及host主机配置iptables,包括为container之间所需要的link操作提供支持,为host主机上所有的对外对内流量制定传输规则等。代码位于./docker/daemon/networkdriver/bridge/driver/driver.go#L133-L137,如下:
  1. // Configure iptables for link support
  2. if enableIPTables {
  3.         if err := setupIPTables(addr, icc); err != nil {
  4.                 return job.Error(err)
  5.         }
  6. }
复制代码

  其中setupIPtables的调用过程中,addr地址为Docker网桥的网络地址,icc为true,即为允许Docker容器间互相访问。假设网桥设备名为docker0,网桥网络地址为docker0_ip,设置iptables规则,操作步骤如下:
  (1) 使用iptables工具开启新建网桥的NAT功能,使用命令如下:
  iptables -I POSTROUTING -t nat -s docker0_ip ! -o docker0 -j MASQUERADE
  (2) 通过icc参数,决定是否允许container间通信,并制定相应iptables的Forward链。Container之间通信,说明数据包从 container内发出后,经过docker0,并且还需要在docker0处发往docker0,最终转向指定的container。换言之,从 docker0出来的数据包,如果需要继续发往docker0,则说明是container的通信数据包。命令使用如下:
  iptables -I FORWARD -i docker0 -o docker0 -j ACCEPT
  (3) 允许接受从container发出,且不是发往其他container数据包。换言之,允许所有从docker0发出且不是继续发向docker0的数据包,使用命令如下:
  iptables -I FORWARD -i docker0 ! -o docker0 -j ACCEPT
  (4) 对于发往docker0,并且属于已经建立的连接的数据包,Docker无条件接受这些数据包,使用命令如下:
  iptables -I FORWARD -o docker0 -m conntrack --ctstate RELATED,ESTABLISHED -j ACCEPT
  4.5.3. 启用系统数据包转发功能
  在Linux系统上,数据包转发功能是被默认禁止的。数据包转发,就是当host主机存在多块网卡的时,如果其中一块网卡接收到数据包,并需要将其 转发给另外的网卡。通过修改/proc/sys/net/ipv4/ip_forward的值,将其置为1,则可以保证系统内数据包可以实现转发功能,代 码如下:
  1. if ipForward {
  2.         // Enable IPv4 forwarding
  3.         if err := ioutil.WriteFile("/proc/sys/net/ipv4/ip_forward", []byte{'1', '\n'}, 0644); err != nil {
  4.                 job.Logf("WARNING: unable to enable IPv4 forwarding: %s\n", err)
  5.         }
  6. }
复制代码

  4.5.4. 创建DOCKER链
  在网桥设备上创建一条名为DOCKER的链,该链的作用是在创建Docker container并设置端口映射时使用。实现代码位于./docker/daemon/networkdriver/bridge/driver/driver.go,如下:
  1. if err := iptables.RemoveExistingChain("DOCKER"); err != nil {
  2.         return job.Error(err)
  3. }
  4. if enableIPTables {
  5.         chain, err := iptables.NewChain("DOCKER", bridgeIface)
  6.         if err != nil {
  7.                 return job.Error(err)
  8.         }
  9.                 portmapper.SetIptablesChain(chain)
  10. }
复制代码

  4.5.5. 注册Handler至Engine
  在创建完网桥,并配置完基本的iptables规则之后,Docker Daemon在网络方面还在Engine中注册了4个Handler,这些Handler的名称与作用如下:
  • allocate_interface:为Docker container分配一个专属网卡;
  • realease_interface:释放网络设备资源;
  • allocate_port:为Docker container分配一个端口;
  • link:实现Docker container间的link操作。
  由于在Docker架构中,网络是极其重要的一部分,因此Docker网络篇会安排在《Docker源码分析》系列的第六篇。

  4.6. 创建graphdb并初始化
  Graphdb是一个构建在SQLite之上的图形数据库,通常用来记录节点命名以及节点之间的关联。Docker Daemon使用graphdb来记录镜像之间的关联。创建graphdb的代码如下:
  1. graphdbPath := path.Join(config.Root, "linkgraph.db")
  2. graph, err := graphdb.NewSqliteConn(graphdbPath)
  3. if err != nil {
  4.         return nil, err
  5. }
复制代码

  以上代码首先确定graphdb的目录为/var/lib/docker/linkgraph.db;随后通过graphdb包内的 NewSqliteConn打开graphdb,使用的驱动为”sqlite3”,数据源的名称为” /var/lib/docker/linkgraph.db”;最后通过NewDatabase函数初始化整个graphdb,为graphdb创建 entity表,edge表,并在这两个表中初始化部分数据。NewSqliteConn函数的实现位于./docker/pkg/graphdb/conn_sqlite3.go,代码实现如下:
  1. func NewSqliteConn(root string) (*Database, error) {
  2.         ……
  3.         conn, err := sql.Open("sqlite3", root)
  4.         ……
  5.         return NewDatabase(conn, initDatabase)
  6. }
复制代码

  4.7. 创建execdriver
  Execdriver是Docker中用来执行Docker container任务的驱动。创建并初始化graphdb之后,Docker Daemon随即创建了execdriver,具体代码如下:
  1. ed, err := execdrivers.NewDriver(config.ExecDriver, config.Root, sysInitPath, sysInfo)
复制代码

  可见,在创建execdriver的时候,需要4部分的信息,以下简要介绍这4部分信息:
  • config.ExecDriver:Docker运行时中指定使用的exec驱动类别,在默认配置文件中默认使用”native”,也可以将这个值改为”lxc”,则使用lxc接口执行Docker container内部的操作;
  • config.Root:Docker运行时的root路径,默认配置文件中为”/var/lib/docker”;
  • sysInitPath:系统上存放dockerinit二进制文件的路径,一般为”/var/lib/docker/init/dockerinit-1.2.0”;
  • sysInfo:系统功能信息,包括:容器的内存限制功能,交换区内存限制功能,数据转发功能,以及AppArmor安全功能等。
  在执行execdrivers.NewDriver之前,首先通过以下代码,获取期望的目标dockerinit文件的路径localPath,以及系统中dockerinit文件实际所在的路径sysInitPath:

  1. localCopy := path.Join(config.Root, "init", fmt.Sprintf("
  2. dockerinit-%s", dockerversion.VERSION))
  3. sysInitPath := utils.DockerInitPath(localCopy)
复制代码

  通过执行以上代码,localCopy为”/var/lib/docker/init/dockerinit-1.2.0”,而 sysyInitPath为当前Docker运行时中dockerinit-1.2.0实际所处的路径,utils.DockerInitPath的实现 位于 ./docker/utils/util.go。若localCopy与sysyInitPath不相等,则说明当前系统中的dockerinit二进制文件,不在localCopy路径下,需要将其拷贝至localCopy下,并对该文件设定权限。

  设定完dockerinit二进制文件的位置之后,Docker Daemon创建sysinfo对象,记录系统的功能属性。SysInfo的定义,位于./docker/pkg/sysinfo/sysinfo.go,如下:
  1. type SysInfo struct {
  2.         MemoryLimit            bool
  3.         SwapLimit              bool
  4.         IPv4ForwardingDisabled bool
  5.         AppArmor               bool
  6. }
复制代码

  其中MemoryLimit通过判断cgroups文件系统挂载路径下是否均存在memory.limit_in_bytes和 memory.soft_limit_in_bytes文件来赋值,若均存在,则置为true,否则置为false。SwapLimit通过判断 memory.memsw.limit_in_bytes文件来赋值,若该文件存在,则置为true,否则置为false。AppArmor通过host 主机是否存在/sys/kernel/security/apparmor来判断,若存在,则置为true,否则置为false。

  执行execdrivers.NewDriver时,返回execdriver.Driver对象实例,具体代码实现位于./docker/daemon/execdriver/execdrivers/execdrivers.go,由于选择使用native作为exec驱动,故执行以下的代码,返回最终的execdriver,其中native.NewDriver实现位于./docker/daemon/execdriver/native/driver.go:
return native.NewDriver(path.Join(root, "execdriver", "native"), initPath)

  至此,已经创建完毕一个execdriver的实例ed。

  4.8. 创建daemon实例
  Docker Daemon在经过以上诸多设置以及创建对象之后,整合众多内容,创建最终的Daemon对象实例daemon,实现代码如下:
  1. daemon := &Daemon{
  2.         repository:     daemonRepo,
  3.         containers:     &contStore{s: make(map[string]*Container)},
  4.         graph:          g,
  5.         repositories:   repositories,
  6.         idIndex:        truncindex.NewTruncIndex([]string{}),
  7.         sysInfo:        sysInfo,
  8.         volumes:        volumes,
  9.         config:         config,
  10.         containerGraph: graph,
  11.         driver:         driver,
  12.         sysInitPath:    sysInitPath,
  13.         execDriver:     ed,
  14.         eng:            eng,
  15. }
复制代码

  以下分析Daemon类型的属性:
属性名
作用
repository
部署所有Docker容器的路径
containers
用于存储具体Docker容器信息的对象
graph
存储Docker镜像的graph对象
repositories
存储Docker镜像元数据的文件
idIndex
用于通过简短有效的字符串前缀定位唯一的镜像
sysInfo
系统功能信息
volumes
管理host主机上volumes内容的graphdriver,默认为vfs类型
config
Config.go文件中的配置信息,以及执行产生的配置DisableNetwork
containerGraph
存放Docker镜像关系的graphdb
driver
管理Docker镜像的驱动graphdriver,默认为aufs类型
sysInitPath
系统dockerinit二进制文件所在的路径
execDriver
Docker Daemon的exec驱动,默认为native类型
eng
Docker的执行引擎Engine类型实例

  4.9. 检测DNS配置
  创建完Daemon类型实例daemon之后,Docker Daemon使用daemon.checkLocaldns()检测Docker运行环境中DNS的配置, checkLocaldns函数的定义位于./docker/daemon/daemon.go,代码如下:
  1. func (daemon *Daemon) checkLocaldns() error {
  2.         resolvConf, err := resolvconf.Get()
  3.         if err != nil {
  4.                 return err
  5.         }
  6.         if len(daemon.config.Dns) == 0 && utils.CheckLocalDns(resolvConf) {
  7.                 log.Infof("Local (127.0.0.1) DNS resolver found in resolv.conf and
  8. containers can't use it. Using default external servers : %v", DefaultDns)
  9.                 daemon.config.Dns = DefaultDns
  10.         }
  11.         return nil
  12. }
复制代码

  以上代码首先通过resolvconf.Get()方法获取/etc/resolv.conf中的DNS服务器信息。若本地DNS 文件中有127.0.0.1,而Docker container不能使用该地址,故采用默认外在DNS服务器,为8.8.8.8,8.8.4.4,并将其赋值给config文件中的Dns属性。

  4.10. 启动时加载已有Docker containers
  当Docker Daemon启动时,会去查看在daemon.repository,也就是在/var/lib/docker/containers中的内容。若有存在 Docker container的话,则让Docker Daemon加载这部分容器,将容器信息收集,并做相应的维护。

  4.11. 设置shutdown的处理方法
  加载完已有Docker container之后,Docker Daemon设置了多项在shutdown操作中需要执行的handler。也就是说:当Docker Daemon接收到特定信号,需要执行shutdown操作时,先执行这些handler完成善后工作,最终再实现shutdown。实现代码如下:
  1. eng.OnShutdown(func() {
  2.         if err := daemon.shutdown(); err != nil {
  3.                 log.Errorf("daemon.shutdown(): %s", err)
  4.         }
  5.         if err := portallocator.ReleaseAll(); err != nil {
  6.                 log.Errorf("portallocator.ReleaseAll(): %s", err)
  7.         }
  8.         if err := daemon.driver.Cleanup(); err != nil {
  9.                 log.Errorf("daemon.driver.Cleanup(): %s", err.Error())
  10.         }
  11.         if err := daemon.containerGraph.Close(); err != nil {
  12.                 log.Errorf("daemon.containerGraph.Close(): %s", err.Error())
  13.         }
  14. })
复制代码

  可知,eng对象shutdown操作执行时,需要执行以上作为参数的func(){……}函数。该函数中,主要完成4部分的操作:
  • 运行daemon对象的shutdown函数,做daemon方面的善后工作;
  • 通过portallocator.ReleaseAll(),释放所有之前占用的端口资源;
  • 通过daemon.driver.Cleanup(),通过graphdriver实现unmount所有layers中的挂载点;
  • 通过daemon.containerGraph.Close()关闭graphdb的连接。

  4.12. 返回daemon对象实例
  当所有的工作完成之后,Docker Daemon返回daemon实例,并最终返回至mainDaemon()中的加载daemon的goroutine中继续执行。

  5. 总结
  本文从源码的角度深度分析了Docker Daemon启动过程中daemon对象的创建与加载。在这一环节中涉及内容极多,本文归纳总结daemon实现的逻辑,一一深入,具体全面。

  在Docker的架构中,Docker Daemon的内容是最为丰富以及全面的,而NewDaemon的实现而是涵盖了Docker Daemon启动过程中的绝大部分。可以认为NewDaemon是Docker Daemon实现过程中的精华所在。深入理解NewDaemon的实现,即掌握了Docker Daemon运行的来龙去脉。

  6. 作者简介
  孙宏亮,浙江大学VLIS实验室硕士研究生。两年来在云计算方面主要研究PaaS领域的相关知识与技术。坚信轻量级虚拟化容器的技术,会给PaaS领域带来深度影响,甚至决定未来PaaS技术的走向。邮箱:shlallen@zju.edu.cn


您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关于我们
联系我们
  • 电话:010-86393388
  • 邮件:udn@yonyou.com
  • 地址:北京市海淀区北清路68号
移动客户端下载
关注我们
  • 微信公众号:yonyouudn
  • 扫描右侧二维码关注我们
  • 专注企业互联网的技术社区
版权所有:用友网络科技股份有限公司82041 京ICP备05007539号-11 京公网网备安1101080209224 Powered by Discuz!
快速回复 返回列表 返回顶部