Nvidia GPU新战略2：卡位新世代IT架构布局，GPU将全面支援Docker

    Nvidia让企业现在也能在GPU架构内开始使用Docker，来部署GPU加速应用，甚至未来还计画让DGX-1执行环境也能支援Docker


Nvdia不只为了抢攻AI市场而推出了整套式GPU伺服器，甚至为了加速建立深度学习与AI所需开发和测试的基础设施环境，因而赶在今年1月抢先开源释出了Nvidia Docker函式库工具测试版，目的是希望让GPU也能支援新世代IT架构关键技术Docker，好让企业能轻易地调度分配伺服器里的GPU资源。

这个新释出的Nvidia Docker储存库，内含有用来建立和执行Docker影像档所需的工具。用户只需安装Nvidia driver与Docker后，即可将每一个从CPU转移到GPU执行的运算任务，各别打包至隔离的虚拟环境之中，除了可以更弹性灵活分派和调度GPU内的运算资源，以提供大量密集运算需求的使用外，并也可跨不同OS平台使用。

GPU加速应用开始能支援Docker

Nvidia Docker至今已历经了3个测试版本的更新，在最新释出的1.0.0 beta 3版中，除了正式支援Docker 1.10和Docker plugin API v1.2以外，也扩大支援364个驱动程式和提供REST API的优化。截至目前，企业已经可以在Nvidia的统一计算架构（Compute Unified Device Architecture，CUDA）当中开始支援Docker，并且可在任一个GPU架构的基础设施内，来部署Docker化的GPU加速应用。

目前也开始有一些新创公司打算将GPU与Docker结合，例如一家英国系统软体新创Cake Solutions去年就在官方部落格示范用Nvidia 的深度学习GPU训练系统（Deep Learning GPU Training System，DIGITS)，来安装执行Nvidia Docker。

此外，今年GTC大会中也有一些关于结合容器技术的应用实例，例如Bitfusion这家以提供自动加速应用为主的网路公司，就现场介绍可结合容器技术的GPU加速应用。

不过即便GPU开始支援Docker，Nvidia解决方案架构暨工程副总裁Marc Hamilton也坦言，至今GPU只能部份支援Docker，还无法做到全面支援。

Marc Hamilton解释，这是因为Docker原本就是设计在CPU当中使用，所以运用在CPU时可以获得很好的利用，但当使用于GPU时，因为GPU与CPU两者晶片设计架构的不同，所以在使用上就会遇到一些限制。

不过他表示，接下来将扩大与Docker社群的合作，来持续优化在GPU内执行Docker的环境，并以让GPU能全面支援Docker为目标，最终希望让GPU做到跟CPU一样的Docker化。

未来DGX-1执行环境也能用Docker

此外，Marc Hamilton表示，未来也计画在Nvidia Docker新版本释出时，开始让DGX-1执行环境也能支援Docker，希望让企业未来在以DGX-1来进行深度学习与AI应用时，可以迅速地将一些深度学习框架，例如TensorFlow、Caffe等，通通打包并移转至新系统当中。

甚至，Nvidia未来更进一步要做到的是，还打算将目前存有超过400个科学相关运算应用，之后也都能在DGX-1 上使用Docker。



Nvidia解决方案架构暨工程副总裁Marc Hamilton坦言，至今GPU只能做到部份支援Docker，还无法做到全面支援，他解释，这是因为Docker原本就是设计在CPU当中使用，所以可以获得很好的利用，但GPU就不是如此。不过他也表示，接下来将持续和Docker社群来合作，未来将以让GPU全面支援Docker为目标。