[레포트] Amazon EC2의 AMD 프로세서 기반 인스턴스를 통한 성능 및 총 소요 비용 최적화

AWS Partner Summit Korea 2022 세션중「Amazon EC2의 AMD 프로세서 기반 인스턴스를 통한 성능 및 총 소요 비용 최적화」세션을 정리해 봤습니다.
2022.05.19

안녕하세요 클래스메소드 김재욱(Kim Jaewook) 입니다. 이번에는 AWS Partner Summit Korea 2022 세션중「Amazon EC2의 AMD 프로세서 기반 인스턴스를 통한 성능 및 총 소요 비용 최적화」세션을 정리해 봤습니다.

세션 개요

DESCRIPTION

이 세션에서는 클라우드 내 AMD EPYC™ 프로세서의 이점을 다루고, AMD 기반 솔루션이 다양한 워크로드에 어떻게 이상적으로 전반적인 비즈니스 운영을 개선할 수 있도록 도움을 주는지 소개합니다. AMD의 고성능 컴퓨팅 및 시각화 제품이 최대 Amazon EC2 고객과 내부 자산을 어떻게 지원하는지, 가장 까다로운 워크로드를 가속화하여 성능과 비용 최적화를 개선할 수 있는 방법을 알아보십시오.

SPEAKERS

강연자

세션

Agenda

  • Amazon EC2의 AMD 프로세서 기반 인스턴스를 통한 성능 및 총 소요 비용 최적화

Amazon EC2의 AMD 프로세서 기반 인스턴스를 통한 성능 및 총 소요 비용 최적화

  • AMD는 1969년 미국 실리콘밸리에서 시작하여 현재 50년 이상 고성능 컴퓨팅 제품을 개발하고 있음
  • 현재는 전 세계에 22,000명 이상의 직원이 근무하고 있고 고성능 컴퓨팅 제품, 즉 CPU 및 GPU 기술을 기반으로 한 다양한 제품들 그리고 적응형 컴퓨팅 즉, FPGA 관련 제품을 개발하여 공급하고 있음

  • AMD가 개발하는 고성능 컴퓨팅 및 적응형 컴퓨팅 기술은 오늘날 매우 다양한 분야에서 활용되고 있음
  • 슈퍼컴퓨팅 기술, SG 통신기술, 인공지능, 자율주행 관련 기술 및 게이밍, 스마트 디바이스 등에 AMD의 CPU, GPU 및 FPGA 기술이 사용됨
  • 이런 모든 기술들은 어려운 문제를 더 빨리 해결하여 사람의 생명을 구하고, 더 빠른 통신을 가능하게 하고 더 편리한 삶을 살아가는데 중요한 역할을 하고 있음

  • AMD의 데이터센터 관련 솔루션이 집중하고 있는 분야들
  • AMD의 데이터센터 솔루션은 HPC, 클라우드, 인공지능, 가상화, 그리고 다양한 기업용 IT 솔루션에 공급되고 있음
  • HPC 즉, 슈퍼컴퓨팅 기술은 미래에 필요한 기술을 개발하는데 거의 필수적인 요소이고, 클라우드와 인공지능 기술은 나날이 그 범위를 확장해 가고 있음

  • AMD는 2020년 부터 2025년 까지  고성능 컴퓨팅 에너지 효율을 30배 향상시키는 것을 목표로 하는 30x25 이니셔티브를 발표했음
  • 쉽게 말하면, AMD의 에너지 효율 목표는 업계 평균보다 2.5배 더 높은 수준임

  • AMD의 데이터 센터용 CPU의 브랜드 네임은 EPYC임
  • AMD EPYC CPU는 2017년에 1세대 제품인 Naples 출시 이후에 2019년 2세대 제품 ROME, 그리고 2021년 3세대 제품 Milan을 출시했음
  • 3세대 제품까지 출시하면서 고객들에게 익숙한 출시 일정을 지켰고 성능 또한 세대를 거듭하면서 비약적으로 발전했음
  • AWS에서는 1세대 EPYC 제품부터 최샌 3세대 제품까지 모두 EC2 인스턴스에 사용하고 있으며 기존 인스턴스와는 차별화된 가격과 성능을 제공하고 있음

  • 3세대 EPYC 프로세서인 Milan의 주요 특징들에 대해 설명
  • 3세대 제품은 AMD의 최신 CPU 아키텍처인 ‘Zen 3’ 코어 아키텍처를 기반으로 개발되어 경쟁사보다 더 빠른 소켓당 성능 및 코어당 성능을 제공함
  • 그리고 3세대 EPYC는 AMD의 인피티니 패브릭 아키텍처 기술을 기반으로 설계하여 AMD가 x86 CPU 에서는 처음으로 도입한 칩렛 기술을 활용하여 단일 CPU에서 최대 64개의 코어를 사용할 수 있음
  • 또한 AMD가 자랑하는 Infinity Guard 라는 보안 기술을 적용하여 시스템 메모리 암호화 및 하이퍼바이져 암호화 기능을 지원하고 있음
  • AMD EPYC 3세대 제품 중 64코어가 탑재된 EPYC 7763 제품은 SPEC Rate 2017 CPU 벤치마크 테스트에서 단일 노드 서버 중 세계 최고 성능 점수를 보유하고 있음

  • AMD EPYC 기반의 클라우드 서비스의 장점에 대해 설명
  • 가장 먼저 AMD 기반 AWS EC2 클라우드 인스턴스는 동급의 x86 인스턴스보다 더 낮은 가격으로 제공됨
  • 일반적으로 동급 x86 인스턴스에 비해 10% 비용을 절감할 수 있으며, 이는 결국 고객들의 클라우드 운영 비용을 줄여줄 수 있음
  • 그리고 AMD EPYC CPU의 전략효율성은 데이터 센터의 전력 수요를 줄이는 데 도움이 될 수 있음
  • 이를 통해 클라우드 데이터 센터는 전력 비용 절감 및 지속 가능한 컴퓨팅을 가능하게 함
  • AMD CPU 아키텍처는 표준 x86 아키텍처에 완벽히 호환되므로 기존 x86 클라우드 사용 고객은 모든 워크로드를 간편하게 마이그레이션 해서 사용할 수 있음
  • 전 세계 AWS 리전에서, AMD 기반 인스턴스를 사용할 수 있으며 언제든지 테스트가 가능하고, 기존 인스턴스에서 마이그레이션을 지원해 줄 수 있음
  • 또한 AMD의 특화된 보안 기능인 메모리 암호화 및 하이퍼바이저 암호화 기능을 탑재하여 클라우드에 저장된 고객의 데이터를 더 안전하게 보호할 수 있음

  • AWS EC2의 AMD 기반 인스턴스 상품들에 대한 설명
  • AWS와 AMD는 1세대 EPYC 플랫폼인 Naples를 사용하는 M5a 인스턴스를 2018년에 처음으로 출시 했음
  • AWS는 그 이후로 매년 새로운 AMD 인스턴스를 출시하고 있으며 특히 지난 몇 개월 동안 여러 개의 새로운 제품을 출시했음
  • AWS의 AMD 인스턴스는 동급의 x86 인스턴스에 비해 일반적으로 10% 저렴한 비용으로 고객들에게 제공됨
  • AMD CPU는 표준 x86 아키텍처를 사용하므로 기존 x86 기반 EC2 인스턴스를 사용하고 있는 고객은 몇 시간 안에 쉽게 마이그레이션 할 수 있음
  • 현재 AWS에서 가용한 AMD EPYC 기반 인스턴스들은 이미지와 같이 M5a, M6a, R5a, C6a, T3a, G4ad, HPC6a 등이 있음
  • M5a 및 M6a는 볌용 워크로드를 위한 균형 잡힌 컴퓨팅 성능과 메모리 및 네트워킹 리소스를 제공함
  • 일반적인 비즈니스 애플리케이션 및 백엔드 서버, 게이밍 서버 웹 서버, 앱 개발 및 테스트용으로 사용하기에 적합한 인스턴스임
  • R5a는 범용 워크로드 중 곳언으 데이터베이스 및 빅데이터 분석 등 메모리 집약적 컴퓨팅 워크로드에 적합한 인스턴스임
  • C5a와 C6a는 분산형 분석, 데이터 변환 로그 분석, 동영상 인코딩 및 웹 애플리케이션을 위한 광범위한 컴퓨팅 집약적 워크로드에 가장 적합함
  • T3a 인스턴스는 버스트 가능한 경제적인 성능을 제공하며 높은 컴퓨팅 성능을 지속할 필요는 없지만 사용량에서 일시적으로 스파이크가 발생하는 워크로드에 매우 적합함
  • 최신 AMD Radeon Pro V520 GPU 및 2세대 AMD EPYC 프로세서가 탑재된 G4ad 인스턴스는 원격 워크스테이션, 게임 스트림이 및 그래픽 렌더링과 같은 그래픽 애플리케이션에 적합하고 클라우드 최고의 가격 대비 성능을 제공함
  • 이 인스턴스는 그래픽 집약적 애플리케이션에 있어서 대응되는 인스턴스 대비 최대 45% 우수한 가격 대비 성능을 제공함
  • HPC6a 인스턴스는 HPC에 최적화된 인스턴스임
  • 높은 네트워크 대역폭을 제공하여 인스턴스를 효율적으로 확장할 수 있도록 설계되어 클라우드 HPC 구축에 최적화된 인스턴스임

  • AWS의 최신 AMD 기반 인스턴스에 대해 설명
  • AWS는 AMD와 함꼐 2021년 12월에 M6a 인스턴스를 출시했음
  • 최신 3세대 EPYC 프로세서를 탑재한 M6A 에 인스턴스는 최대 192개의 vCPU, 768GB 메모리 50Gbps 네트워킹 및 400Gbps의 EBS 대역폭을 제공함
  • 이는 M5a 인스턴스에 비해 네트워킹 및 EBS 대역폭이 2배 이상 향상된 사양임
  • 그리고 M6a 인스턴스는 M5a 인스턴스에 비해 가격 대비 성능이 최대 35% 더 우수하고 대응되는 x86 기반 인스턴스에 비해 비용이 10% 더 저렴함
  • 또한 M6a 48xlarge 인스턴스는 192개의 vCPU를 제공하며  대응되는 M6 인스턴스에 비해, 단일 인스턴스에서 더 많은 워크로드를 사용할 수 있음
  • M6a  인스턴스는 웹 서버, 각종 애플리케이션 서버, 게임서버 및 소규모 데이터 저장소와 같은 범용 워크로드를 실행하는 데 적합함

  • M5a 인스턴스와 M6a 인스턴스의 엔터프라이즈 애플리케이션 성능 비교
  • 16xlarge 인스턴스에서 테스트한 JAVA 애플리케이션 성능 테스트에서는 최대 2배까지 성능이 향상되었음을 확인할 수 있음
  • 또한, Nginx 웹서버 테스트에서도 M6A.4xlarge가 M5A.4xlarge에 비해 최대 2배까지 성능이 향상되었음을 확인할 수 있음

  • AWS는 AMD와 협력하여 올해 1월 HPC6a 인스턴스를 출시했음
  • AWS 브랜드의 HPC 인스턴스는 이번이 처음
  • HPC6a 인스턴스는  AMD 3세대 에픽 프로세서를 사용하고, 최대 3.6GHz로 동작하는 96개의 코어 인스턴스당 최대 384GB RAM 및 100Gbps의 Elastic Fabric Adapter 네트워킹을 제공함
  • HPC6a 인스턴스는 동급 Amazon EC2 x86 기반 HPC용 인스턴스에 비해 최대 65% 더 뛰어난 가격 대비 성능을 제공함
  • 이 인스턴스는 전산 유체 역학(CFD), 날씨 시뮬레이션, 분자역학 같은 고성능 컴퓨팅 워크로드를 효율적으로 실행하도록 설계되었음

  • HPC6a 인스턴스에서 CFD 애플리케이션인 StarCCM+ 를 테스트한 결과
  • StarCCM+를 최대 400개의 인스턴스에 확장하여 테스트해도 거의 선형적으로 성능이 증가하는 것을 볼 수 있음
  • 이는 하나의 시뮬레이션에 38000개 이상의 vCPU를 사용하는 것 인데, 이 경우에도 매우 우수한 확장성을 보여주고 있음
  • 또한, 비슷한 성능의 C5n 인스턴스에 비해서 가격도 최대 65%까지 경쟁력이 있음

  • 2022년 2월에는 3세대 AMD EPYC 프로세서를 기반으로 하는 새로운 C6a 인스턴스를 출시했음
  • C6a 인스턴스는 최대 192개의 vCPU와 384GB의 메모리를 가진 새로운 인스턴스 크기를 제공함
  • C6a는 C5a 인스턴스에 비해, 최대 15% 더 나은 컴퓨팅 가격 성능을 제공하며 동급 x86 기반 EC2 인스턴스보다 10% 더 낮은 비용을 제공함
  • 이 인스턴스는 광고 서비스, 멀티 플레이어 게임, 비디오 인코딩 등의 컴퓨팅 집약적인 워크로드를 실행하는 데 적합함

  • AMD는 클라우드 서비스에서 고객들에게 최고의 가치를 주기 위해 노력하고 있음
  • 세계에서 가장 빠른 프로세서, 그리고 가장 영향력 있는 클라우드 서비스를 지원하여 클라우드를 사용하는 모든 고객에게 성능과 비용 효율적인 제품을 제공함

참고

본 블로그에서 사용한 이미지는 AWS Summit Korea에서 제공된 발표자료와 영상을 사용했습니다.