[レポート] Scaling network performance on next-gen Amazon EC2 instances #CMP333 #reinvent

2022.12.11

この記事は公開されてから1年以上経過しています。情報が古い可能性がありますので、ご注意ください。

こんにちは、つくぼし(tsukuboshi0755)です!

re:Invent2022のセッション Scaling network performance on next-gen Amazon EC2 instances を視聴したので、レポートしたいと思います。

セッションの概要

Amazon EC2 network-optimized instances offer organizations one of the highest, most consistent network performances in the cloud. Join this session to learn how you can use the recently launched 200 Gbps network-optimized instances and the latest Amazon EC2 networking technologies to scale the performance of network-intensive workloads.


Amazon EC2 ネットワークに最適化されたインスタンスは、組織に、クラウドで最高の、最も安定したネットワーク パフォーマンスの 1 つを提供します。このセッションに参加して、最近リリースされた 200 Gbps のネットワーク最適化インスタンスと最新の Amazon EC2 ネットワーキング テクノロジーを使用して、ネットワーク集約型ワークロードのパフォーマンスをスケーリングする方法を学びましょう。

スピーカー

  • John Pangle, Senior Product Manager Technical, Amazon Web Services
  • Antal Gyori, Sr Product Manager, Amazon

動画

セッション内容

ネットワーク最適化EC2インスタンス

  • ネットワーク集約型ワークロードを実現するために、ネットワークに最適化されたEC2を使用する必要がある
    • 仮想ネットワークアプライアンス
    • 分散型コンピューティング
    • リアルタイム通信
    • データ分析
    • CPU基盤AI/ML
    • インメモリデータベース
    • 高機能ファイルシステム
    • 高密度コンテナ

  • 今までAWSでは、最大100Gbpsまでのネットワーク帯域幅の提供が可能な、様々なネットワーク最適化インスタンスタイプを提供してきた
    • c5n
    • m5n
    • m5dn
    • r5n
    • r5dn
    • c6gn

  • 第6世代ネットワーク最適化インスタンスの紹介
    • 最大200Gbpsのネットワーク帯域
    • 最大50Gbpsのネットワーク帯域幅バースト機能
    • 旧世代ネットワーク最適化インスタンスと比較して、最大2倍のパケット処理性能
    • 最大80GbpsのEBS帯域幅、最大350K IOPS
    • 高機能ファイルシステム、データベース、ビッグデータ分析システムに最適
    • 最大2倍の低レイテンシインスタンスストレージ

  • C7gnインスタンスの紹介
    • 最大200Gbpsのネットワーク帯域
    • 最大50Gbpsのネットワーク帯域幅バースト機能
    • C6gnインスタンスと比較して、+50%以上のパケット処理性能
    • C6gnインスタンスと比較して、最大2倍のPPS/vCPU
    • 高機能ファイルシステム、データベース、ビッグデータ分析システムに最適
    • 最高レベルの集約、及びvCPU毎のネットワーク処理機能

  • Nitro v5 card
    • 最新世代のインターフェース
    • 最大30%のレイテンシ低下
    • 最大40%の電力効率改善改善
  • Graviton3E CPU
    • 既存Graviton3インスタンスと比較して、最大35%のベクトル命令処理高速化

EC2に関するネットワーキングイノベーション

  • Nitroシステムによるイノベーション

  • ENA(Elastic Network Adaptor)はインスタンスのネットワーク機能をオフロードする
  • C6in及びC7gnでは、複数のネットワークカードを使用する事により、最大200Gbpsのネットワーク帯域幅を実現

  • Trn1nでは、最大1600Gbpsのネットワーク帯域幅を実現

  • EFA(Elastic Fabric Adaptor)は機械学習やHPCアプリケーションを高速化するために使用可能
  • SRDをベースに構築されている

  • SRD(Scalable Reliable Datagram)はAWSが独自で開発した、低レイテンシでTCPよりも高速な通信を実現できるトランスポートプロトコル

  • 今までSRDを一般アプリに使用しようとすると、TCP/UDPからの置き換え、パケット配送処理、管理方法といった問題があった

  • ENA Expressを使用する事で、上記の問題を解決可能

  • ENA Expressは以下のベネフィットを提供する
    • シングルフローと比較して最大5倍のネットワーク帯域
    • TCPと比較して、P99.9 レイテンシーを最大85%削減
    • シンプルな設定方法
    • 同一AZでのサポート
    • TCP/UDPの透過

  • ENA Expressのベンチマーク①

  • ライブビデオエンコーディングでも高いパフォーマンスを発揮

  • ENA Expressのベンチマーク②

  • Ethtoolによるモニタリングにより、SRDの正常性を確認可能

最後に

今回はネットワーク最適化インスタンス、及びネットワーク最適化インスタンスを活用したENA Expressに関するセッションレポートについて、記載させて頂きました。

より広いネットワーク帯域幅を使用できるネットワーク最適化インスタンスはもちろんの事、ENA Expressを使用する事で高パフォーマンスなSRDプロトコルをより簡単に使用できるようになったのは良いですね。

個人的には、ENA Expressでどのくらい高パフォーマンスなネットワーク構成を実現できるか気になってます。

AWS公式でも、ネットワーク最適化インスタンス及びENA Express関連記事が出ているので、ぜひご参照ください。

以上、つくぼし(tsukuboshi0755)でした!