问答 | GPU虚拟化和容器技术是否支持一对多？

这里是 AI 研习社，我们的问答版块已经正式推出了！欢迎大家来多多交流~

https://club.leiphone.com/page/question

（戳文末阅读原文直接进）

社长为你推荐来自 AI 研习社问答社区的精华问答。如有你也有问题，欢迎进社区提问。 

  话不多说，直接上题  

@roke 问：GPU虚拟化和容器技术是否支持一对多？

请问大家 一块物理GPU上能否安装多个虚拟机或容器 以支持不同的CUDA RUNTIME API版本？

来自社友的回答

▼▼▼  

余杭：

GPU 虚拟化是把 GPU 进行切片，然后把 GPU 时间片分配给虚拟机使用， 所以 GPU 虚拟化支持一对多 。原理就是应用层接口虚拟化，在应用层拦截与 GPU 相关的 API，通过 GPU 重定向完成相应功能，再将执行结果返回应用。 vCUDA 在用户层拦截和重定向 CUDA API ,在虚拟机中构建 GPU 逻辑映像。

另外， 虚拟机的操作系统内装着原生的 CUDA 库和 GPU-driven ，所以 Host OS 可以直接调用 CUDA 和 物理 GPU 。

姬儿•奥斯汀：

可以的，nvidia docker 里面的 cuda 和 cudnn 可以与外面不同。

有技术问题需要求助？

欢迎点击“阅读原文”

或者移步 AI 研习社社区

我们会把你的问题对接给技术大牛