趋动科技发布猎户座AI计算平台,助力实现更高效的GPU资源池

人工智能的快速发展和普及,正在催生一种新型的AI加速器虚拟化平台。

日前,国内虚拟化计算领域的技术领先者“趋动科技(VirtAI Tech,https://virtai.tech/)”正式推出AI加速虚拟化平台——猎户座AI计算平台(Orion AI计算平台)。该平台包括AI加速器虚拟化软件,以及异构加速器管理和调度软件等两大组件,可以帮助企业和开发者实现更高效的数据中心级GPU资源池化管理,有效提高GPU利用率,降低研发和运营成本。

《趋动科技发布猎户座AI计算平台,助力实现更高效的GPU资源池》

对于AI领域的企业和开发者而言,Orion AI计算平台可以说是目前市场上比较亲民的选择,它能够提供较为完整的虚拟化解决方案。目前,Orion AI计算平台社区版v1.0已正式在GitHub上线,支持GPU的虚拟化,可供AI、互联网和公有云等企业试用,开发者可免费通过https://github.com/virtaitech/orion下载和使用。

AI加速器虚拟化渐成“刚需”

得益于人工智能技术和应用的爆发,AI加速器被冠上了“机器学习心脏”这个高大上的名字。企业和开发者对于AI加速器的需求呈爆发式增长,越来越多开发者开始使用高性能的AI加速器,包括GPU、FPGA和ASIC芯片等。

然而,目前市场上的AI加速器价格普遍偏高。以知名的英伟达V100 GPU为例,价格在8万元人民币左右,高性能FPGA卡,价位也在5万元人民币。随着机器学习、深度学习的进一步发展,对GPU、FPGA等专业计算芯片也提出了虚拟化的需求。越来越多的企业和开发者需要高效的AI加速器虚拟化软件,来提高加速器资源的利用率,以及高效的异构加速器管理和调度软件,来更好地利用多种不同的加速器。

传统的GPU虚拟化技术只能对本地物理机上的GPU进行虚拟切割,分配给不同的虚拟机使用,从而实现计算资源的灵活分配和利用。而趋动科技最新推出的Orion AI计算平台,不仅可以支持本地GPU虚拟化,而且还能打破资源调度的物理边界,让用户的AI应用无需修改代码即可透明地使用其他物理机上的远程GPU资源,从而实现数据中心级的GPU资源池化管理和弹性调度,极大地提升了整个GPU资源池的利用率和管理灵活度。

虚拟化技术的目标之一,就是提供与工作人员在物理机上使用时一样的体验。Orion AI计算平台可以帮助每个用户改进AI加速器资源分配,支持用户通过多个虚拟机或者容器,来共享本地以及远程GPU资源,并且更灵活地部署AI应用,实现更优的生产力、安全性和IT可管理性。

Orion AI助力实现更优化的计算资源分配

从产品功能上来说,整个Orion AI计算平台,包括AI加速器虚拟化软件,和异构加速器管理和调度软件等两大组件。

其中,Orion AI加速器虚拟化软件,不仅支持用户使用和共享本地加速器资源,而且支持应用透明地使用远程加速器资源,无需修改代码,从而打破资源调度的物理边界,构建更高效资源池。

异构加速器管理和调度软件,同样支持用户的应用无需修改代码,即可透明地运行在多种不同加速器之上。最终,帮助用户更好利用多种不同加速器的优势,构建更高效的异构资源池。

从产品应用上而言,Orion AI主要覆盖三大典型场景:

第一,多个虚拟机或容器共享本地的GPU。

《趋动科技发布猎户座AI计算平台,助力实现更高效的GPU资源池》

第二,多个虚拟机或容器共享远程的GPU。

《趋动科技发布猎户座AI计算平台,助力实现更高效的GPU资源池》

第三,单个虚拟机或容器,使用跨越多台物理服务器上的GPU。

《趋动科技发布猎户座AI计算平台,助力实现更高效的GPU资源池》

用户通过Orion AI Platform分配的GPU资源,无论是本地GPU资源,还是远程GPU资源,均是软件定义、按需分配。这些资源不同于通过硬件虚拟化技术得到的资源,它们的分配和释放都能在瞬间完成。而且,所有上述的资源分配和释放都不需要虚拟机重启。

值得一提的是,Orion AI计算平台由国内虚拟化计算领域的技术领先者“趋动科技”研发,其核心团队均来自Dell EMC中国研究院,IBM中国研究院等顶级研究机构。凭借创始团队在虚拟化领域十几年的技术积累以及场景挖掘能力,趋动科技成功打造了这套较为完整的AI加速器虚拟化解决方案。

人工智能是第四次工业革命的引领技术,基于AI加速器的深度学习是人工智能发展的关键所在,无论之于国家还是企业,都应该通过技术创新,在这一次全世界范围内的浪潮中开启属于自己的一片天地。趋动科技通过打造Orion AI计算平台,不仅能够帮助企业和开发者更好地实现AI加速器资源的管理和调度,同时也开创了“AI加速器虚拟化+异构加速器管理和调度”的新赛道。