Amazon FSx for Lustre 提升 GPU 实例吞吐量最高达 12 倍

关键要点

• Amazon FSx for Lustre 现已支持 EFA 和 GDS，使 GPU 实例的每个客户端吞吐量达到最高 1200 Gbps，相较于之前版本提高了 12 倍。
• EFA 允许高效的节点间通信，而 GDS 通过直接数据传输优化 GPU 内存的使用。
• 此功能适用于需要高性能的应用场景，包括深度学习、药物研发和金融模型等。
• 搭建和挂载 FSx for Lustre 文件系统相对简单，并提供了详细的步骤指导。

今天，我们宣布在 中支持 Elastic Fabric Adapter (EFA) 和 NVIDIAGPUDirect Storage (GDS)。EFA是一种网络接口，可为 Amazon EC2 实例提供支持，允许以较高效能处理需要大量节点间通信的应用程序。而 GDS 则创建了本地或远程存储与 GPU内存之间的直接数据路径。借助这些增强功能，Amazon FSx for Lustre 在支持 EFA 和 GDS的情况下，实现了每个客户端吞吐量相比之前版本的提升，最高可达 1200 Gbps。

使用 FSx forLustre，您可以构建并运行性能要求极高的应用程序，例如深度学习训练、药物发现、金融建模和自动驾驶汽车开发。随着数据集的不断增长和新技术的崛起，您可以使用更强大的 GPU 和 HPC 实例，例如 Amazon EC2 的 、 和 。在传统 TCP 网络的使用下，访问 FSx for Lustre 文件系统的客户端实例吞吐量受到限制，最高为 100 Gbps。因此，FSx for Lustre文件系统需要提供足够的性能，以有效利用这些前沿 EC2 实例在访问大型数据集时的不断增长的网络带宽。

通过在 FSx for Lustre 中支持 EFA 和 GDS，您现在可以在使用 P5 GPU 实例和 的应用程序时，实现每个客户端实例高达 1,200 Gbps的吞吐量（比以前多出 12 倍）。

在此新功能的帮助下，您可以充分利用最强大的计算实例的网络带宽，加速您的 机器学习 (ML) 和 高性能计算 (HPC) 工作负载。EFA 通过绕过操作系统并使用 AWS 可扩展可靠数据报 (SRD) 协议 来优化数据传输，从而提升性能。GDS进一步优化性能，通过支持直接数据传输来绕过 CPU，消除冗余的内存复制。

如何实施

创建启用 EFA 的 Amazon FSx for Lustre 文件系统

要开始使用，请在 中选择创建文件系统 ，然后选择AmazonFSx for Lustre 。

1. 为文件系统输入一个名称。
2. 在部署和存储类型 部分，选择持久型 SSD 和新的启用 EFA 选项。
3. 在每单位存储的吞吐量 部分，选择1000 MB/s/TiB 。
4. 设置存储容量 为最低支持的 4.8 TiB。

从 Amazon EC2 实例挂载启用 EFA 的 Amazon FSx for Lustre 文件系统

在 中，我选择启动实例 ，输入实例名称，并选择 Ubuntu Amazon 机器镜像 (AMI)。在实例类型 中，选择trn1.32xlarge 。

在网络设置 中，编辑默认设置，并选择与 FSx Lustre 文件系统相同的子网。在防火墙 (安全组) 中，选择三个现有的安全组：FSxfor Lustre 文件系统使用的 EFA 启用安全组、默认安全组和提供安全外壳 (SSH) 访问的安全组。

在高级网络配置 中，选择ENA 和 EFA 作为接口类型 。如果没有此设置，实例将使用传统的 TCP 网络，并且与 FSx forLustre 文件系统的连接仍将限制在 100 Gbps 吞吐量。

您可以根据实例类型添加更多 EFA 网络接口以获得更高吞吐量。

启动实例后，当实例准备好时，我使用 进行连接，并按照 中的说明安装 Lustre 客户端以及 。

然后，按照 中的说明进行操作，创建一个文件夹作为挂载点：

bash sudo mkdir -p /fsx

在 FSx 控制台中选择文件系统，查找 DNS 名称 和 挂载名称 。使用这些值挂载文件系统：

bash sudo mount -t lustre -o relatime,flockfile_system_dns_name@tcp:/mountname /fsx

EFA 会在您从支持 EFA 的客户端实例访问启用 EFA 的文件系统时自动使用，并且 Lustre 版本需为 2.15 或更高版本。

注意事项

目前，EFA 和 GDS 支持在所有支持的 的新 文件系统中提供，且没有额外费用。FSx for Lustre在客户访问启用 EFA 的文件系统时，自动使用 EFA，无需任何额外配置。有关支持 EFA 的 EC2 客户端实例的列表，请参见 文档。这份

描述了加速计算类别中实例类型的网络带宽和 EFA 支持情况。

要使用 EFA 启用的实例与 FSx for Lustre 文件系统，您必须使用 Ubuntu 22.04 上的 Lustre 2.15客户端，并且内核版本需为 6.8 或更高。

注意，您的客户端实例和文件系统必须位于同一子网内的 Amazon 虚拟私有云 (Amazon VPC) 连接 中。

GDS 在启用 EFA 的文件系统上自动支持。要与 FSx for Lustre 文件系统一起使用 GDS，您需要在客户端实例上安装 NVIDIA计算统一设备架构 (CUDA) 包、 和 。这些包在 上预安装。您可以随后使用支持 CUDA的应用程序使用 GPUDirect 存储在文件系统和 GPU 之间进行数据传输。

在计划部署时，请注意启用 EFA 的文件系统的最小存储容量增量比未启用 EFA 的文件系统更大。例如，如果选择 1000 MB/s/TiB 的吞吐量层，启用 EFA 的文件系统的最小存储容量为 4.8 TiB，而未启用 EFA 的 FSx for Lustre 文件系统的最小存储容量为 1.2TB。如果您希望迁移现有工作负载，您可以使用 将数据从现有文件系统迁移到支持 EFA 和 GDS 的新文件系统。

为了提供最大的灵活性，FSx for Lustre 兼容 EFA 和非 EFA 工作负载。当访问启用 EFA 的文件系统时，来自非 EFA客户端实例的流量会自动通过传统的 TCP/IP 网络使用 [弹性网络适配器 (ENA)](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/enhanced- networking-ena.html) 进行流动，使所有工作负载无缝连接，无需添加额外配置。

要了解更多关于 FSx for Lustre 上 EFA 和 GDS 支持的信息，包括详细设置说明和最佳实践，欢迎访问 。立即开始体验云端 GPU 实例所提供的最快存储性能。

—

更新于 11/27：文章更新以反映 12 倍吞吐量