使用T4对这些AI推理模型加速时,采用传统物理机部署和使用云服务器部署,在使用和性能上有什么差异?

使用T4对这些AI推理模型加速时,采用传统物理机部署和使用云服务器部署,在使用和性能上有什么差异?,第1张

蓝海大脑深度学习液冷服务器研究人员表示:

其实现在的很多场景都部署在物理机上,云服务的好处是可以动态的进行资源的申请,这样就不用考虑高峰期的资源复用问题,只需要在高峰时期弹性的申请资源。对于传统物理机的部署的场景,其实可以更好的去处理你的workload,每个workload其实并不是说一张卡完全就不能搞定,在工程实际的尝试中,你会发现CPU和GPU之间的资源配比,其实是需要每个场景都单独的去考虑的,所以在这种场景下,可以结合你本地的硬件环境去做调整,然后找到一个最优,对于你这种场景的一个实现,这是我理解的物理机部署和云服务部署之间的优势和劣势。

槐树同年轮比较,我觉得是树龄与年轮比较。

海拔同空气密度,树龄同年轮,都是一个现象,一个结果,出现什么现象会有什么结果。

但是:

1.年龄越大,越成熟,不一定,

2.海拔越高,空气越稀薄,肯定,

3.树龄越长,年轮越多,肯定,

所以选B


欢迎分享,转载请注明来源:夏雨云

原文地址:https://www.xiayuyun.com/zonghe/787025.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2023-08-24
下一篇2023-08-24

发表评论

登录后才能评论

评论列表(0条)

    保存