面对众多 GPU 选项，找到一款适合您需求的 GPU 并非易事。无论您是喜欢高端云游戏、训练 AI 模型，还是为大学实验室或数据中心配备设备，了解不同模型之间的细微差别都是关键。
今天，我们重点介绍 NVIDIA 的两款强大 GPU：L40 和L40S。虽然它们可能没有像该公司的其他产品那样受到太多关注，但它们绝对值得仔细研究！这两款 GPU 基于Ada Lovelace架构构建，性能和功能强大。
但是它们之间如何相互比较呢？与其他 GPU 相比又如何呢？更重要的是，您应该根据特定项目需求选择哪一款？
基础知识：NVIDIA L40 与 L40S
L40S 本质上是 L40 的升级版，也是RTX 4090 游戏显卡的近亲。
L40 最初是为数据中心图形和模拟任务而设计的，它是 NVIDIA Omniverse 的引擎。得益于其先进的 RTX 和 AI 功能，它是扩展 (XR) 和虚拟现实 (VR) 应用程序、设计协作和数字孪生的强大引擎。它支持加速光线追踪和路径追踪渲染，提供物理精确的模拟，并为最苛刻的 Omniverse 工作负载生成高度逼真的 3D 合成数据。
与上一代相比，L40 GPU 为计算密集型 AI 工作负载提供了 5 倍的推理性能，因此它可以快速生成高质量图像和身临其境的视觉内容。它非常适合图像生成 AI 应用程序。如果这就是您所需要的，那么 L40 可能是您的理想选择。
然而，L40S 可以做到这一切，甚至更多。它的开发是为了满足对 GPU 的激增需求，这些 GPU 可以处理机器学习训练和推理的密集计算要求。
NVIDIA 将 L40S 描述为“最强大的通用 GPU”，提供“突破性的多工作负载性能”。以下是其在几个方面的性能快照：
“图表比较了 NVIDIA L40S GPU 在稳定扩散图像生成和 LLM 推理方面的表现，显示了不同配置下每分钟图像数和令牌延迟的显著差异。”
L40S 于 2023 年底发布后，由于 NVIDIA A100 和 H100 Tensor Core GPU 供应不足而大受欢迎。芯片严重短缺，出货量积压，迫使许多买家转向其他选择，例如 L40S。由于 L40S 不仅可以用于与 L40 相同的工作负载，还可以像 A100 和 H100 一样为高水平的 AI 训练和推理提供支持，因此它是一个合乎逻辑的替代方案。
因此，L40S、A100 和 H100 GPU 具有独特的优势，可以相互比较。让我们来看看吧！
L40S 与 A100 与 H100：规格和性能
这三款 GPU 各有优势。下表比较了它们之间的各种功能和规格。
如图所示，在 FP64（双精度）、FP32（单精度）和 FP16（半精度）计算时，性能存在明显差异。
例如，L40S 本身不支持 FP64。这意味着它在需要高精度的应用中可能不如 A100 和 H100 表现良好。尤其是 H100，其 FP64 性能明显更出色，通常是最苛刻任务的首选。
在 FP32 和 FP16 Tensor Core 性能方面，L40S 优于 A100 40GB，与 H100 不相上下。然而，在内存密集型机器学习场景中，与 A100 80GB 和 H100 相比，L40S 较低的内存带宽可能会抵消其性能。
不过，在某些情况下，L40S 确实可以与 A100 相媲美。据 NVIDIA 称，在涉及数十亿个参数和多种数据模式（包括文本和视频）的复杂 AI 工作负载方面，L40S 可以实现高达 A100 的 1.2 倍的生成 AI 推理性能和高达 A100 的 1.7 倍的训练性能。
L40S 的另一个优势是什么？虽然在某些指标上它可能无法击败 H100，但它绝对更灵活。性能更高的 H100 不能用作 Omniverse 服务器，也不支持图形，而 L40S 可以，而且支持图形。
NVIDIA L40 与 L40S：如何选择？
NVIDIA L40 在支持图像生成 AI 应用程序和 Omniverse 工作负载方面表现出色。您可能不需要它做太多其他事情，如果是这样的话，L40 可能就很适合您。
另一方面，NVIDIA L40S 很好地平衡了多功能性和性能。以下是您可能选择它用于下一个项目的一些原因：
您有多模式工作负载– 使用 L40S，您将获得卓越的效率，使您能够使用相同的计算基础架构运行 HPC 模拟、训练 AI 模型和渲染图像。此外，还内置视频输出。
您需要以熟悉的外形快速获得计算能力– L40S 专为在现有系统中快速部署而设计，无需大量重新配置即可提供强大的性能。其双插槽 PCIe 外形确保与各种设置兼容。
您的工作负载不需要极高的精度或最大的速度——即使没有 H100 的数学性能 (FLOPS)、高带宽内存和 NVLINK，L40S 对较小模型的推理和训练性能在大多数情况下仍然非常合适。
您优先考虑成本效益——L40S 提供了出色的性价比，特别是对于需要强大的 AI 功能而又不超出预算的企业和研究机构而言。
对于我们许多人来说，成本是GPU 决策的主要因素。在捷智算平台，我们的使命是让人工智能普及，并以实惠的价格为任何需要它的人提供强大的计算能力。您无需预先进行巨额硬件投资。
我们的云 GPU 租赁市场提供尽可能低的价格，让您可以随时访问顶级机器，并在 GPU 计算上节省 5-6 倍。我们通过基于现货拍卖的定价提供低成本的按需定价以及可中断实例，为您带来更多节省。
