[レポート] Scaling network performance on next-gen Amazon EC2 instances #CMP333 #reinvent

こんにちは、つくぼし(tsukuboshi0755)です!

re:Invent2022のセッション Scaling network performance on next-gen Amazon EC2 instances を視聴したので、レポートしたいと思います。

セッションの概要

Amazon EC2 network-optimized instances offer organizations one of the highest, most consistent network performances in the cloud. Join this session to learn how you can use the recently launched 200 Gbps network-optimized instances and the latest Amazon EC2 networking technologies to scale the performance of network-intensive workloads.

Amazon EC2 ネットワークに最適化されたインスタンスは、組織に、クラウドで最高の、最も安定したネットワーク パフォーマンスの 1 つを提供します。このセッションに参加して、最近リリースされた 200 Gbps のネットワーク最適化インスタンスと最新の Amazon EC2 ネットワーキング テクノロジーを使用して、ネットワーク集約型ワークロードのパフォーマンスをスケーリングする方法を学びましょう。

スピーカー

• John Pangle, Senior Product Manager Technical, Amazon Web Services
• Antal Gyori, Sr Product Manager, Amazon

動画

セッション内容

ネットワーク最適化EC2インスタンス

• ネットワーク集約型ワークロードを実現するために、ネットワークに最適化されたEC2を使用する必要がある
  • 仮想ネットワークアプライアンス
  • 分散型コンピューティング
  • リアルタイム通信
  • データ分析
  • CPU基盤AI/ML
  • インメモリデータベース
  • 高機能ファイルシステム
  • 高密度コンテナ

• 今までAWSでは、最大100Gbpsまでのネットワーク帯域幅の提供が可能な、様々なネットワーク最適化インスタンスタイプを提供してきた
  • c5n
  • m5n
  • m5dn
  • r5n
  • r5dn
  • c6gn

• 第6世代ネットワーク最適化インスタンスの紹介
  • 最大200Gbpsのネットワーク帯域
  • 最大50Gbpsのネットワーク帯域幅バースト機能
  • 旧世代ネットワーク最適化インスタンスと比較して、最大2倍のパケット処理性能
  • 最大80GbpsのEBS帯域幅、最大350K IOPS
  • 高機能ファイルシステム、データベース、ビッグデータ分析システムに最適
  • 最大2倍の低レイテンシインスタンスストレージ

• C7gnインスタンスの紹介
  • 最大200Gbpsのネットワーク帯域
  • 最大50Gbpsのネットワーク帯域幅バースト機能
  • C6gnインスタンスと比較して、+50%以上のパケット処理性能
  • C6gnインスタンスと比較して、最大2倍のPPS/vCPU
  • 高機能ファイルシステム、データベース、ビッグデータ分析システムに最適
  • 最高レベルの集約、及びvCPU毎のネットワーク処理機能

• Nitro v5 card
  • 最新世代のインターフェース
  • 最大30%のレイテンシ低下
  • 最大40%の電力効率改善改善
• Graviton3E CPU
  • 既存Graviton3インスタンスと比較して、最大35%のベクトル命令処理高速化

EC2に関するネットワーキングイノベーション

• Nitroシステムによるイノベーション

• ENA(Elastic Network Adaptor)はインスタンスのネットワーク機能をオフロードする
• C6in及びC7gnでは、複数のネットワークカードを使用する事により、最大200Gbpsのネットワーク帯域幅を実現

• Trn1nでは、最大1600Gbpsのネットワーク帯域幅を実現

• EFA(Elastic Fabric Adaptor)は機械学習やHPCアプリケーションを高速化するために使用可能
• SRDをベースに構築されている

• SRD(Scalable Reliable Datagram)はAWSが独自で開発した、低レイテンシでTCPよりも高速な通信を実現できるトランスポートプロトコル

• 今までSRDを一般アプリに使用しようとすると、TCP/UDPからの置き換え、パケット配送処理、管理方法といった問題があった

• ENA Expressを使用する事で、上記の問題を解決可能

• ENA Expressは以下のベネフィットを提供する
  • シングルフローと比較して最大5倍のネットワーク帯域
  • TCPと比較して、P99.9 レイテンシーを最大85％削減
  • シンプルな設定方法
  • 同一AZでのサポート
  • TCP/UDPの透過

• ENA Expressのベンチマーク①

• ライブビデオエンコーディングでも高いパフォーマンスを発揮

• ENA Expressのベンチマーク②

• Ethtoolによるモニタリングにより、SRDの正常性を確認可能

最後に

今回はネットワーク最適化インスタンス、及びネットワーク最適化インスタンスを活用したENA Expressに関するセッションレポートについて、記載させて頂きました。

より広いネットワーク帯域幅を使用できるネットワーク最適化インスタンスはもちろんの事、ENA Expressを使用する事で高パフォーマンスなSRDプロトコルをより簡単に使用できるようになったのは良いですね。

個人的には、ENA Expressでどのくらい高パフォーマンスなネットワーク構成を実現できるか気になってます。

AWS公式でも、ネットワーク最適化インスタンス及びENA Express関連記事が出ているので、ぜひご参照ください。

以上、つくぼし(tsukuboshi0755)でした!