[アップデート] Amazon SageMaker HyperPod flexible training plans が発表されました #AWSreInvent
こんにちは!AWS 事業本部コンサルティング部のたかくに(@takakuni_)です。
re:Invent 2024 でラスベガスに来ています。
3 日目のキーノートにて Amazon SageMaker HyperPod flexible training plans が発表されました。
Amazon SageMaker HyperPod flexible training plans
Amazon SageMaker HyperPod flexible training plans はトレーニングで利用するコンピューティングリソースを予約する機能です。指定された期間、予算内で高性能コンピューティングリソースへのアクセスを確保します。
一言で言うと、 いざ「PoC やってみるぞ!」と言う時に、コンピュートが使えない問題が発生しないよう、あらかじめ AWS と利用可能な期間を合意して予約する仕組みができました。 と言うことです。
なお、発表時点では利用可能なリージョン、インスタンスタイプが存在していることに注意です。
Amazon SageMaker HyperPod training plans are now available in US East (N. Virginia), US East (Ohio), US West (Oregon) AWS Regions and support ml.p4d.48xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge, and ml.trn2.48xlarge instances.
トレーニングプラン
Amazon SageMaker HyperPod flexible training plans は、トレーニングプランを利用してリクエストを送ります。
以下コンソールのようにユースケース、利用したいインスタンスタイプ、インスタンス数、開始日を選択します。
トレーニングプランを検索してみました。
前払い料金や利用するアベイラビリティーゾーンなど詳細が出てきていますね。
プラン名を指定したのち、レビュー画面に遷移します。
記載されている前払い料金を支払うことでコンピュートの予約を行うイメージです。
なお、プランを作成したのちに利用者は 12 時間以内にプランの前払いを行う必要があるようです。
After creating your training plan, you can see the list of training plans. When you’ve created a training plan, you have to pay upfront for the plan within 12 hours
トレーニングプランが Active になったら、 HyperPod クラスター、トレーニングジョブ作成時に選択できるようになるようです。
Create a training job using the SageMaker AI console より引用
まとめ
以上、「Amazon SageMaker HyperPod flexible training plans が発表されました。」でした。
PoC の期間など、ある程度見込みが立った段階で、トレーニングプランを契約しておくのも良いかと思いました。
このブログがどなたかの参考になれば幸いです。AWS 事業本部コンサルティング部のたかくに(@takakuni_)でした!