浅谈GPU虚拟化的运用

深度学习是模拟人脑的神经系统组成，通过设定一些规则和数学网络模型而发展起来的一门学科，目的是为了让计算机能够像人脑一样去思考，去认识和理解这个世界。由于计算机本身没有思维能力，因此需要大量的数据去训练它，因此，它对电脑处理器的要求就必须具备高效的并行计算能力，这一点对于以串行为主、核心数基本在2位数的CPU而言是不具备的。因此，GPU凭借其千级核心，高效运算的特点，成为了深度学习、模型训练的最理想选择。

我所在公司也在涉及人工智能领域，GPU显卡的数目也有了一定规模，如Tesla的M40、P40、P100等显卡都有所应用，当前这些显卡主要用于算法与Demo的训练。我们通过Docker虚拟化形式实现对GPU资源的分发利用。

首先在搭载有GPU的宿主机上安装CUDA架构环境，进入CUDA Tookit Download官网，现在对应的版本。安装完成后，还需要安装 出DNN，这个是专门对深度学习框架设计的一套GPU加速方案，支持Caffe和TensorFlow等框架。

基础环境安装完毕后，即可以利用nvidia提供的nvidia-docker进行GPU的Docker虚拟化了。官方提供了这些包的安装源列表，安装起来还是比较简单的，安装完毕后，可以通过

docker run --runtime=nvidia --rm nvidia/cuda nvidia-smi

查看docker GPU容器的运行情况。

***可以通过 learningtensorflow.com 官方提供的基于TensorFlow的基准测试脚本，进行GPU与CPU的对比测试，可以发现，GPU在并行运算上，性能要由于CPU很多的。

（编辑：应用网_丽江站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!