v100 做深度学习的训练、推理速度会是 RTX3090 的 10 倍吗？
https://item.jd.com/100361820...
京东上，华硕 RTX3090 24GB 的价格是 6k
https://item.jd.com/100030641...
京东上，NVIDIA Tesla V100 32G 的价格是 60k
价格差距 10 倍，训练、推理速度的速度可以差距多大？能有 10 倍？
resnet50
从 techpowerup 网站上，看两个显卡的信息
v100 https://www.techpowerup.com/g...
rtx3090 https://www.techpowerup.com/g...
从 techpowerup 给出的信息，rtx3090 的 TFLOPS FP32 的性能甚至比 v100 翻倍还要多？
回答：
这个不能看价格的。
v100 的架构是 volta ，rtx3090 是 Ampere ，架构 rtx3090 就比 v100 高了两代，性能你也查到了是 3090 更好。
至于为啥 v100 贵，我就只能瞎猜了，比如 v100 是服务器专用的，可以查进刀片服务器，但是 3090 应该就不成。这个对散热的额外要求是很高的。
回答：
- 虽然NVIDIA V100和RTX 3090都是非常强大的GPU，但它们的性能并不一定成比例增长，也不能保证V100的性能一定是RTX 3090的10倍。
- V100通常比RTX 3090具有更多的CUDA核心、更多的存储器带宽、更多的内存容量等硬件规格。在某些情况下，V100可以比RTX 3090更快地训练模型，尤其是在需要处理非常大的模型和数据集时。
- 在其他情况下，RTX 3090可能会比V100更快,原因是RTX 3090具有更高的时钟速度、更多的流处理器、更高的时钟速度、更高的内存带宽等。某些深度学习任务可能受益于RTX 3090的新特性，如RT Cores和Tensor Cores，这些特性可以加速某些类型的矩阵运算，提高性能。
- V100的性能是否是RTX 3090的10倍取决于具体的任务、模型和数据集。在实际应用中，最好进行基准测试
以上是 v100 做深度学习的训练、推理速度会是 RTX3090 的 10 倍吗？ 的全部内容， 来源链接： utcz.com/p/938751.html
