View a markdown version of this page

保护分布式训练作业中机器学习计算实例之间的通信 - 亚马逊 SageMaker AI

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

保护分布式训练作业中机器学习计算实例之间的通信

默认情况下,Amazon SageMaker AI 在亚马逊虚拟私有云(亚马逊 VPC)中运行训练作业,以帮助保护您的数据安全。您可以通过配置一个私有 VPC 添加另一层安全性来保护您的训练容器和数据。分布式机器学习框架和算法通常传输与模型直接相关的信息(如权重),而不是传输训练数据集。当执行分布式训练时,您可以进一步保护在实例之间传输的数据。这可以帮助您遵守法规要求。为此,请使用容器间流量加密。

注意

对于医疗保健领域的使用案例,最佳安全实践是对节点之间的通信进行加密。

启用容器间流量加密可能会延长训练时间,尤其是在使用分布式深度学习算法的情况下。启用容器间流量加密不会影响具有单个计算实例的训练作业。但是,对于具有多个计算实例的训练作业,对训练时间的影响取决于计算实例之间的通信量。对于受影响的算法,添加此另一层安全性还会增加成本。 SageMaker 大多数 AI 内置算法(例如 xgBoost、Deepar 和线性学习器)的训练时间通常不会受到影响。

您可以为训练作业或超级参数优化作业启用容器间流量加密。您可以使用 SageMaker API 或控制台来启用容器间流量加密。

有关在私有 VPC 中运行训练作业的信息,请参阅让 SageMaker AI 训练作业访问您的 Amazon VPC 中的资源

启用 Inter-container 流量加密 (API)

使用 API 为训练作业或超参数优化作业启用容器间流量加密之前,请将入站和出站规则添加到私有 VPC 的安全组中。

启用容器间流量加密 (API)
  1. 在安全组中为您的私有 VPC 添加以下入站和出站规则:

    协议 端口范围 来源

    UDP

    500

    Self Security Group ID

    ESP 50

    N/A

    Self Security Group ID

  2. CreateTrainingJobCreateHyperParameterTuningJob API 发送请求时,为 EnableInterContainerTrafficEncryption 参数指定 True

注意

对于该ESP 50协议, AWS 安全组控制台可能会将端口范围显示为 “全部”。但是,Amazon EC2 会忽略指定的端口范围,因为它不适用于 ESP 50 IP 协议。

启用 Inter-container 流量加密(控制台)

在训练 Job 中启用 Inter-container 流量加密

在训练作业中启用容器间流量加密
  1. 打开 Amazon A SageMaker I 控制台,网址为https://console.aws.amazon.com/sagemaker/

  2. 在导航窗格中,选择 Training (训练),然后选择 Training jobs (训练作业)

  3. 选择 Create training job (创建训练作业)

  4. 网络下,选择 VPC。可以使用默认 VPC 或您创建的 VPC。

  5. 选择启用容器间流量加密

启用容器间流量加密后,完成训练作业的创建。有关更多信息,请参阅 训练模型

在超参数调整 Job 中启用 Inter-container 流量加密

在超级参数优化作业中启用容器间流量加密
  1. 打开 Amazon A SageMaker I 控制台,网址为https://console.aws.amazon.com/sagemaker/

  2. 在导航窗格中,选择训练,然后选择超参数优化作业

  3. 选择 Create hyperparameter tuning job (创建超参数优化作业)

  4. 网络下,选择 VPC。可以使用默认 VPC 或您创建的 VPC。

  5. 选择启用容器间流量加密

启用容器间流量加密后,完成超级参数优化作业的创建。有关更多信息,请参阅 配置并启动超参数调优作业