アマゾンの奥地でも見つからない!? 謎のCloudFront Embedded POPsについてre:Invent 2022のセッションから情報をまとめてみた #reinvent
はじめに
清水です。昨年2022年にアメリカはラスベガスにて開催されたre:Invent 2022、このセッション内で「CloudFront Embedded POPs」というものが紹介されていたという情報をキャッチしました。しかしこの「CloudFront Embedded POPs」、調べてみてもほとんど情報がありません。その名称からCloudFrontに関連する機能などであることは推測できますが、CloudFront Developer Guideやサービスページを確認しても一切情報が見つからない状態です。本エントリではそんな謎に包まれた(?)「CloudFront Embedded POPs」について、re:Invent 2022のセッション動画やスライドをもとに、その情報についてまとめてみます。
事の発端
まずは事の発端、私の「CloudFront Embedded POPs」との出会いを記しておきましょう。そもそもは@kizawa2022さんの以下のツイートからはじまりました。（なお本エントリ内、いずれもツイッターのユーザ名での表記とさせていただいております。）
CloudFront Embedded POP
こんなのあったっけ。
知らなかった。 pic.twitter.com/bkVDttztxZ— t.kizawa (@kizawa2020) December 1, 2022
このツイートに@takiponeさんが返信し、その後@miu_crescentさんと私@shimiz1048にメンションしてもらった、という流れになります。
@shimizu1048 @miu_crescent さん辺り好きそう
— Ryuta Otaki (@takipone) December 1, 2022
このやり取りをしている最中に「CloudFront Embedded POPs」についてGoogle検索で調べてみたのですが、得られたのは以下2つの資料のみ、どちらも断片的でキーワードのみ記載されているけど詳細はわからず、というぐあいでした。
Track 2 Session 4_全民直播時代的多CDN監控與觀看體驗最佳化.pptx
re:Invent 2022の2つのセッションからCloudFront Embedded POPの謎に迫る！
re:Invent 2022のセッションで紹介があったけど、検索してもほとんど情報が見つからない「CloudFront Embedded POPs」、ますます気になりますよね。幸いre:Invent 2022はその多くのセッションが動画、スライドともに公開されます。そこでre:Invent終了後、ツイッターで紹介されていたセッションを確認、また関係ありそうなセッション（CloudFrontが関連しそうなものなど）を探してみました。
すると（現在判明している限りでは）以下の2つのセッションでCloudFront Embedded POPsについて紹介をしていました。（1つ目、AMZ203が@kizawa2022さんがツイッターで紹介されていたセッションです。）
- How Prime Video delivers NFL’s Thursday Night Football globally on AWS (AMZ203)
- HBO Max achieves scale and performance with Amazon CloudFront (NET312)
以下、それぞれのセッションでどのようにCloudFront Embedded POPsについて紹介しているかをまとめてみます。なお、筆者の拙い英語力で、YouTubeの自動生成字幕やその機械翻訳結果をまとめているものとなります。情報など誤っている可能性もあるかもしれませんので、ぜひ一次情報となる上記re:Invent 2022セッションをご確認ください。
How Prime Video delivers NFL’s Thursday Night Football globally on AWS (AMZ203)
セッションとしてはAmazon Prime VideoでのNFL Thursday Night Football中継の事例紹介の内容です。アメリカンフットボールはアメリカでも最も人気のあるスポーツの一つですよね。このThursday Night FootballはAmazon Prime Videoで独占配信しているようで（参考 サーズデーナイトフットボール - Wikipedia）、そのライブ中継ともなると多くのユーザが視聴するコンテンツとなることがわかります。
CloudFront Embedded POPsについては、その使用用途とあわせて以下のように紹介していました。
- CloudFront Embedded POPsについて
- 小型のアプライアンス製品（Small compact appliances）
- 2022年に第二世代のEmbedded POPsがローンチされた
- ISPの施設や、エンドユーザにより近い小都市の小規模施設に配置が可能
- 電力効率に配慮したアプライアンス
- 650Wの電力で動作
- 1KWあたり100GByteの伝送が可能
- キャッシュの帯域が大きいため、イベント終了後もアプライアンスをとおして高画質なVOD配信が可能
- アプライアンスあたり128TBのキャッシュ容量
- 非常に高いスループット
- CloudFront Edge POPと比べて1台のデバイスで7倍のバイト数（70Gbps）を配信することが可能
- どのような場面でCloudFront Embedded POPsが使われるか
- アメリカの多くの小都市のラストマイルは帯域が大きくなく、Thursday Night Footballのような大規模なライブストリーミングイベントの際は混雑が発生する
- CloudFront Embedded POPsを使用することでキャッシュが小規模都市の視聴者に近づく
- ノースダコタ州ファーゴ（Fargo, North Dakota）のような都市で、first byte latencyが20%減少していることが確認できた
- 2022年のThursday Night Footballでは全米50都市に200台以上のCloudFront Embedded POPsがデプロイされた
HBO Max achieves scale and performance with Amazon CloudFront (NET312)
こちらはCloudFrontとHBO Max社の事例のセッションとなっています。HBO Max社はワーナー・ブラザース・ディスカバリー社が所有・運営するアメリカのストリーミングサービスの会社です。（参考 HBO Max - Wikipedia）Discovery+と合わせた加入者は約9,500万人、VODとライブをあわせて13,000時間以上の番組、世界61カ国で展開されており、「One of the leading streaming services」と紹介されています。Amazon Prime VideoでのNFL Thursday Night Footballと同様、とても大規模な動画配信を行っているわけですね。
そのセッションの中で、CloudFront Embedded POPsについて以下のように紹介していました。
- CloudFront Networkは常に拡張している
- AWSが構築、管理しているネットワークを超えた拡張も行っている
- ISPネットワーク内にEmbedded POPsをデプロイした
- 2019年に、最初のバージョンのEmbedded POPsをISPネットワークに展開
- Amazon CloudFront Embedded PoP V1
- この最初のバージョンはフルラック型
- 2022年には第2世代のEmbedded POPsををローンチ
- Amazon CloudFront Embedded PoP V2
- ISPネットワークの奥深くに設置できる1Uサーバ
- スポーツイベントやゲームのダウンロード、人気のVOD作品などのピーク時に効果を発揮
- 2022年で220台以上のEmbedded POPsデプロイ
- ISPがトラフィックの一部をオフロード、視聴者にとってラストマイルでの問題を軽減することに役立つ
2つのセッションからCloudFront Embedded POPsについてわかること
re:Invent 2022のセッションのうちCloudFront Embedded POPsに触れている2つのセッションの該当部分について、その内容をまとめてみました。ここから改めてCloudFront Embedded POPsについての情報をまとめてみましょう。
まずはAWSの中にあるCloudFrontの機能やサービスではなく、ISP（インターネットサービスプロバイダ）などの施設内に配置されたアプライアンスであることがわかります。しかしその機能としてはCloudFrontのPOPの一つとして動作します。AWSの内部ネットワークではなく、ISPなどAWSの外のネットワークに埋め込まれた（Embedded）POPである、というイメージかと思います。
一般の視聴者（Viewer）からすると、AWSのネットワークよりも自身のISPのネットワーク内のほうが近くなります。CloudFront Embedded POPsが配置されたISPネットワークの視聴者であれば、より近いネットワークからの配信が実現できるわけです。逆に言えば、そのISPネットワーク内のEmbedded POPsのキャッシュはおそらくそのISPネットワーク内からしか使われないわけですので、あまりアクセスの多くないオブジェクトがキャッシュされても非効率になります。ある程度大規模な配信が想定される場合にのみ利用されるのかな、と個人的には推測しています。
アプライアンス（ハードウェア）についても紹介がありました。そもそも2019年からCloudFront Embedded POPsは存在しており（Amazon CloudFront Embedded PoP V1）、その頃はフルラック（42U）ということでした。これが2022年ローンチのAmazon CloudFront Embedded PoP V2で1Uサーバとなったのは大きいですよね。（ちょうどAWS Outpostsをイメージするとわかりやすいかと思います。[アップデート] 1U、2UサイズのOutposts、AWS Outposts Serversがリリースされました #reinvent | DevelopersIO）
ISPなど自前の設備ではないところにハードウェアを配置する必要があるため、その数やサイズなどには制限がつきまとうかと推測できます。ラック一つを置くことは難しい（スペースの問題だったり、費用的な問題だったり）けれど、1Uならば配置可能というケースは多いのではないでしょうか。またこの制限も鑑みてアプライアンス1台あたりのパフォーマンス効率化が図られているのかと推測します。
そしてある程度大規模な配信が想定される場合（同じISPネットワーク内に多くの視聴者がいる場合）の利用が推測される、と述べました。今回2つのセッションではそれぞれAmazon Prime VideoのThursday Night Football、HBO Maxと大規模な動画配信での利用例でしたね。そういえば昨年2022年末には日本国内でもCloudFrontを用いた大規模な動画配信の話がありました。（数字で振り返る「ABEMA」の「FIFA ワールドカップ カタール 2022」 | 株式会社サイバーエージェント）このとき日本国内でも使用されていたのか、個人的に気になっています。
まとめ
re:Invent 2022のセッション内で紹介されていた、謎のCloudFront Embedded POPsについて、セッション動画やスライドから情報をまとめてみました。AWS内（AWSネットワーク）に存在しているものではなく、ISPネットワーク内に埋め込まれたCloudFront POPの働きをするアプライアンスということでした。CloudFrontを利用するだけであれば特に意識する必要はないものかと思いますが、CloudFrontがどうやって高信頼性、低レイテンシー、高スループットな配信を実現しているのか、という観点でぜひ抑えておきたい要素かと思いました。（大規模配信でも、CloudFront Embedded POPsの使用有無や管理などはAWS側で実施するわけですので、特にユーザ側は意識不要であるという理解です。もちろん、Embedded POPsを使うぐらい大規模なCloudFront利用に関わっているというのは、個人的には把握しておきたいところではありますが。）そしてCloudFrontのPOPがAWSネットワークの外にまで拡張されていることにはびっくり！です。AWSネットワーク自体も拡張されていますが、あわせて様々な手段で関連するネットワークの拡張がされているんだなぁと思いました。
謝辞
エントリ最後になりましたが、今回のCloudFront Embedded POPsの話題の起点となるツイートをしていただいた@kizawa2022さん、そこから情報を教えてくれた@takiponeさん、そして@miu_crescentさんに感謝しながら、本エントリを締めくくりたいと思います。ありがとうございました！！！
![[アップデート] AWS CDK で CloudFront Distribution の作成後に Web ACL をアタッチ可能になりました](https://images.ctfassets.net/ct0aopd36mqt/wp-thumbnail-f66629e23bafcf47fa6477fd0349a4f7/3e371b05917375d87daf613d54a600d8/amazon-cloudfront)
![[アップデート] Application Load Balancer コンソールから CloudFront + WAF を統合出来るようになりました](https://images.ctfassets.net/ct0aopd36mqt/wp-thumbnail-f650a3011b384cc3781610c17755bc71/c37c67c9bc40b72e6dce1a49f4153283/elastic-load-balancing)
