

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

# GPU ジョブを実行する
<a name="gpu-jobs"></a>

GPU ジョブを使用して、インスタンスの GPU を使用するジョブを実行できます。

以下の Amazon EC2 GPU ベースのインスタンスタイプがサポートされています。詳細については、[Amazon EC2 G3 インスタンス](https://aws.amazon.com/ec2/instance-types/g3/)、[Amazon EC2 G4 インスタンス](https://aws.amazon.com/ec2/instance-types/g4/)、[Amazon EC2 G5 インスタンス](https://aws.amazon.com/ec2/instance-types/g5/)、[Amazon EC2 G6 インスタンス](https://aws.amazon.com/ec2/instance-types/g6/)、[Amazon EC2 P2 インスタンス](https://aws.amazon.com/ec2/instance-types/p2/)、[Amazon EC2 P3 インスタンス](https://aws.amazon.com/ec2/instance-types/p3/)、[Amazon EC2 P4d インスタンス](https://aws.amazon.com/ec2/instance-types/p4/)、[Amazon EC2 P5 インスタンス](https://aws.amazon.com/ec2/instance-types/p5/)、[Amazon EC2 P6 インスタンス](https://aws.amazon.com/ec2/instance-types/p6/)、[Amazon EC2 Trn1 インスタンス](https://aws.amazon.com/ec2/instance-types/trn1/)、[Amazon EC2 Trn2 インスタンス](https://aws.amazon.com/ec2/instance-types/trn2/)、[Amazon EC2 Inf1インスタンス](https://aws.amazon.com/ec2/instance-types/inf1/)、[Amazon EC2 Inf2 インスタンス](https://aws.amazon.com/ec2/instance-types/inf2/)、[Amazon EC2 Dl1 インスタンス](https://aws.amazon.com/ec2/instance-types/dl1/)、[Amazon EC2 Dl2 インスタンス](https://aws.amazon.com/ec2/instance-types/dl2q/) を参照してください。


|  インスタンスタイプ  |  GPUs  |  GPU メモリ  |  vCPU  |  メモリ  |  ネットワーク帯域幅  | 
| --- | --- | --- | --- | --- | --- | 
| g3s.xlarge | 1 | 8 GiB | 4 | 30.5 GiB | 10 Gbps | 
| g3.4xlarge | 1 | 8 GiB | 16 | 122 GiB | 最大 10 Gbps | 
| g3.8xlarge | 2 | 16 GiB | 32 | 244 GiB | 10 Gbps | 
| g3.16xlarge | 4 | 32 GiB | 64 | 488 GiB | 25 Gbps | 
| g4dn.xlarge | 1 | 16 GiB | 4 | 16 GiB | 最大 25 Gbps | 
| g4dn.2xlarge | 1 | 16 GiB | 8 | 32 GiB | 最大 25 Gbps | 
| g4dn.4xlarge | 1 | 16 GiB | 16 | 64 GiB | 最大 25 Gbps | 
| g4dn.8xlarge | 1 | 16 GiB | 32 | 128 GiB | 50 Gbps | 
| g4dn.12xlarge | 4 | 64 GiB | 48 | 192 GiB | 50 Gbps | 
| g4dn.16xlarge | 1 | 16 GiB | 64 | 256 GiB | 50 Gbps | 
| g5.xlarge | 1 | 24 GiB | 4 | 16 GiB | 最大 10 Gbps | 
| g5.2xlarge | 1 | 24 GiB | 8 | 32 GiB | 最大 10 Gbps | 
| g5.4xlarge | 1 | 24 GiB | 16 | 64 GiB | 最大 25 Gbps | 
| g5.8xlarge | 1 | 24 GiB | 32 | 128 GiB | 25 Gbps | 
| g5.16xlarge | 1 | 24 GiB | 64 | 256 GiB | 25 Gbps | 
| g5.12xlarge | 4 | 96 GiB | 48 | 192 GiB | 40 Gbps | 
| g5.24xlarge | 4 | 96 GiB | 96 | 384 GiB | 50 Gbps | 
| g5.48xlarge | 8 | 192 GiB | 192 | 768 GiB | 100 Gbps | 
| g5g.xlarge | 1 | 16 GiB | 4 | 8 GiB | 最大 10 Gbps | 
| g5g.2xlarge | 1 | 16 GiB | 8 | 16 GiB | 最大 10 Gbps | 
| g5g.4xlarge | 1 | 16 GiB | 16 | 32 GiB | 最大 10 Gbps | 
| g5g.8xlarge | 1 | 16 GiB | 32 | 64 GiB | 12 Gbps | 
| g5g.16xlarge | 2 | 32 GiB | 64 | 128 GiB | 25 Gbps | 
| g5g.metal | 2 | 32 GiB | 64 | 128 GiB | 25 Gbps | 
| g6.xlarge | 1 | 24 GiB | 4 | 16 GiB | 最大 10 Gbps | 
| g6.2xlarge | 1 | 24 GiB | 8 | 32 GiB | 最大 10 Gbps | 
| g6.4xlarge | 1 | 24 GiB | 16 | 64 GiB | 最大 25 Gbps | 
| g6.8xlarge | 1 | 24 GiB | 32 | 128 GiB | 25 Gbps | 
| g6.16xlarge | 1 | 24 GiB | 64 | 256 GiB | 25 Gbps | 
| g6.12xlarge | 4 | 96 GiB | 48 | 192 GiB | 40 Gbps | 
| g6.24xlarge | 4 | 96 GiB | 96 | 384 GiB | 50 Gbps | 
| g6.48xlarge | 8 | 192 GiB | 192 | 768 GiB | 100 Gbps | 
| g6e.xlarge | 1 | 48 GiB | 4 | 32 GiB | 最大 20 Gbps | 
| g6e.2xlarge | 1 | 48 GiB | 8 | 64 GiB | 最大 20 Gbps | 
| g6e.4xlarge | 1 | 48 GiB | 16 | 128 GiB | 20 Gbps | 
| g6e.8xlarge | 1 | 48 GiB | 32 | 256 GiB | 25 Gbps | 
| g6e.16xlarge | 1 | 48 GiB | 64 | 512 GiB | 35 Gbps | 
| g6e.12xlarge | 4 | 192 GiB | 48 | 384 GiB | 100 Gbps | 
| g6e.24xlarge | 4 | 192 GiB | 96 | 768 GiB | 200 Gbps | 
| g6e.48xlarge | 8 | 384 GiB | 192 | 1536 GiB | 400 Gbps | 
| gr6.4xlarge | 1 | 24 GiB | 16 | 128 GiB | 最大 25 Gbps | 
| gr6.8xlarge | 1 | 24 GiB | 32 | 256 GiB | 25 Gbps | 
| p2.xlarge | 1 | 12 GiB | 4 | 61 GiB | 高 | 
| p2.8xlarge | 8 | 96 GiB | 32 | 488 GiB | 10 Gbps | 
| p2.16xlarge | 16 | 192 GiB | 64 | 732 GiB | 20 Gbps | 
| p3.2xlarge | 1 | 16 GiB | 8 | 61 GiB | 最大 10 Gbps | 
| p3.8xlarge | 4 | 64 GiB | 32 | 244 GiB | 10 Gbps | 
| p3.16xlarge | 8 | 128 GiB | 64 | 488 GiB | 25 Gbps | 
| p3dn.24xlarge | 8 | 256 GiB | 96 | 768 GiB | 100 Gbps | 
| p4d.24xlarge | 8 | 320 GiB | 96 | 1152 GiB | 400 Gbps | 
| p4de.24xlarge | 8 | 640 GiB | 96 | 1152 GiB | 400 Gbps | 
| p5.48xlarge | 8 | 640 GiB | 192 | 2 TiB | 3200 Gbps | 
| p5e.48xlarge | 8 | 1128 GiB | 192 | 2 TiB | 3200 Gbps | 
| p5en.48xlarge | 8 | 1128 GiB | 192 | 2 TiB | 3200 Gbps | 
| p6-b200.48xlarge | 8 | 1440 GiB | 192 | 2 TiB | 100 Gbps | 
| trn1.2xlarge | 1 | 32 GiB | 8 | 32 GiB | 最大 12.5 Gbps | 
| trn1.32xlarge | 16 | 512 GiB | 128 | 512 GiB | 800 Gbps | 
| trn1n.32xlarge | 16  | 512 GiB | 128 | 512 GiB | 1600 Gbps | 
| trn2.48xlarge | 16 | 1.5 TiB | 192 | 2 TiB | 3.2 Tbps | 
| inf1.xlarge | 1 | 8 GiB | 4 | 8 GiB | 最大 25 Gbps | 
| inf1.2xlarge | 1 | 8 GiB | 8 | 16 GiB | 最大 25 Gbps | 
| inf1.6xlarge | 4 | 32 GiB | 24 | 48 GiB | 25 Gbps | 
| inf1.24xlarge | 16 | 128 GiB | 96 | 192 GiB | 100 Gbps | 
| inf2.xlarge | 1 | 32 GiB | 4 | 16 GiB | 最大 15 Gbps | 
| inf2.8xlarge | 1 | 32 GiB | 32 | 128 GiB | 最大 25 Gbps | 
| inf2.24xlarge | 6 | 192 GiB | 96 | 384 GiB | 50 Gbps | 
| inf2.48xlarge | 12 | 384 GiB | 192 | 768 GiB | 100 Gbps | 
| dl1.24xlarge | 8 | 256 GiB | 96 | 768 GiB | 400 Gbps | 
| dl2q.24xlarge | 8 | 128 GiB | 96 | 768 GiB | 100 Gbps | 

**注記**  
GPU ジョブでは、NVIDIA GPUs を持つインスタンスタイプ AWS Batch のみをサポートします。例えば、[https://aws.amazon.com/ec2/instance-types/g4/#Amazon_EC2_G4ad_instances](https://aws.amazon.com/ec2/instance-types/g4/#Amazon_EC2_G4ad_instances) ファミリーは GPU スケジューリングではサポートされていません。ジョブ定義で vcpu とメモリの要件のみを定義し、Amazon ECS または Amazon EKS コンピューティング最適化 AMI、または AMD GPUs を使用するためのカスタマイズされた AMI を使用して Amazon EC2 [起動テンプレートのユーザーデータ](launch-templates.md#lt-user-data)をカスタマイズすることでホスト GPUs に直接アクセス AWS Batch することで、 [https://aws.amazon.com/ec2/instance-types/g4/#Amazon_EC2_G4ad_instances](https://aws.amazon.com/ec2/instance-types/g4/#Amazon_EC2_G4ad_instances)で を引き続き使用できます。 Amazon EC2   
ARM64 アーキテクチャを使用するインスタンスタイプは、カスタマイズされたコードと設定によって GPU にアクセスするために AWS Batch または Amazon EC2 ユーザーデータに提供されるカスタム AMIs の GPUs ジョブでサポートされています。例えば、[https://aws.amazon.com/ec2/instance-types/g5g/](https://aws.amazon.com/ec2/instance-types/g5g/) インスタンスファミリーです。

ジョブ定義の [[resourceRequirements]](job_definition_parameters.md#ContainerProperties-resourceRequirements) パラメータは、コンテナに固定される GPU の数を指定します。この GPU の数は、そのジョブの期間中にインスタンスで実行される他のジョブでは使用できません。GPU ジョブを実行するコンピューティング環境のすべてのインスタンスタイプは `p6`、`p3`、`p4`、`p5`、`g3`、`g3s`、`g4`、`g5`、`g6` インスタンスファミリーのいずれかにする必要があります。これを行わないと、GPU ジョブが `RUNNABLE` 状態で固まる可能性があります。

GPU を使用しないジョブは GPU インスタンスで実行できます。ただし、類似の GPU 以外のインスタンスで実行するよりも、GPU インスタンスで実行する方がコストがかかる場合があります。特定の vCPU、メモリ、および所要時間によっては、このような GPU を使用しないジョブによって GPU ジョブの実行がブロックされる場合があります。

**Topics**
+ [Amazon EKS で GPU ベースの Kubernetes クラスターを作成する](create-gpu-cluster-eks.md)
+ [Amazon EKS GPU ジョブ定義を作成する](create-eks-gpu-job-definition.md)
+ [Amazon EKS クラスターで GPU ジョブを実行する](run-gpu-job-eks-cluster.md)