[레포트] Amazon EC2의 AMD 프로세서 기반 인스턴스를 통한 성능 및 총 소요 비용 최적화

세션

Agenda

• Amazon EC2의 AMD 프로세서 기반 인스턴스를 통한 성능 및 총 소요 비용 최적화

Amazon EC2의 AMD 프로세서 기반 인스턴스를 통한 성능 및 총 소요 비용 최적화

• AMD는 1969년 미국 실리콘밸리에서 시작하여 현재 50년 이상 고성능 컴퓨팅 제품을 개발하고 있음
• 현재는 전 세계에 22,000명 이상의 직원이 근무하고 있고 고성능 컴퓨팅 제품, 즉 CPU 및 GPU 기술을 기반으로 한 다양한 제품들 그리고 적응형 컴퓨팅 즉, FPGA 관련 제품을 개발하여 공급하고 있음

• AMD가 개발하는 고성능 컴퓨팅 및 적응형 컴퓨팅 기술은 오늘날 매우 다양한 분야에서 활용되고 있음
• 슈퍼컴퓨팅 기술, SG 통신기술, 인공지능, 자율주행 관련 기술 및 게이밍, 스마트 디바이스 등에 AMD의 CPU, GPU 및 FPGA 기술이 사용됨
• 이런 모든 기술들은 어려운 문제를 더 빨리 해결하여 사람의 생명을 구하고, 더 빠른 통신을 가능하게 하고 더 편리한 삶을 살아가는데 중요한 역할을 하고 있음

• AMD의 데이터센터 관련 솔루션이 집중하고 있는 분야들
• AMD의 데이터센터 솔루션은 HPC, 클라우드, 인공지능, 가상화, 그리고 다양한 기업용 IT 솔루션에 공급되고 있음
• HPC 즉, 슈퍼컴퓨팅 기술은 미래에 필요한 기술을 개발하는데 거의 필수적인 요소이고, 클라우드와 인공지능 기술은 나날이 그 범위를 확장해 가고 있음

• AMD는 2020년 부터 2025년 까지  고성능 컴퓨팅 에너지 효율을 30배 향상시키는 것을 목표로 하는 30x25 이니셔티브를 발표했음
• 쉽게 말하면, AMD의 에너지 효율 목표는 업계 평균보다 2.5배 더 높은 수준임

• AMD의 데이터 센터용 CPU의 브랜드 네임은 EPYC임
• AMD EPYC CPU는 2017년에 1세대 제품인 Naples 출시 이후에 2019년 2세대 제품 ROME, 그리고 2021년 3세대 제품 Milan을 출시했음
• 3세대 제품까지 출시하면서 고객들에게 익숙한 출시 일정을 지켰고 성능 또한 세대를 거듭하면서 비약적으로 발전했음
• AWS에서는 1세대 EPYC 제품부터 최샌 3세대 제품까지 모두 EC2 인스턴스에 사용하고 있으며 기존 인스턴스와는 차별화된 가격과 성능을 제공하고 있음

• 3세대 EPYC 프로세서인 Milan의 주요 특징들에 대해 설명
• 3세대 제품은 AMD의 최신 CPU 아키텍처인 ‘Zen 3’ 코어 아키텍처를 기반으로 개발되어 경쟁사보다 더 빠른 소켓당 성능 및 코어당 성능을 제공함
• 그리고 3세대 EPYC는 AMD의 인피티니 패브릭 아키텍처 기술을 기반으로 설계하여 AMD가 x86 CPU 에서는 처음으로 도입한 칩렛 기술을 활용하여 단일 CPU에서 최대 64개의 코어를 사용할 수 있음
• 또한 AMD가 자랑하는 Infinity Guard 라는 보안 기술을 적용하여 시스템 메모리 암호화 및 하이퍼바이져 암호화 기능을 지원하고 있음
• AMD EPYC 3세대 제품 중 64코어가 탑재된 EPYC 7763 제품은 SPEC Rate 2017 CPU 벤치마크 테스트에서 단일 노드 서버 중 세계 최고 성능 점수를 보유하고 있음

• AMD EPYC 기반의 클라우드 서비스의 장점에 대해 설명
• 가장 먼저 AMD 기반 AWS EC2 클라우드 인스턴스는 동급의 x86 인스턴스보다 더 낮은 가격으로 제공됨
• 일반적으로 동급 x86 인스턴스에 비해 10% 비용을 절감할 수 있으며, 이는 결국 고객들의 클라우드 운영 비용을 줄여줄 수 있음
• 그리고 AMD EPYC CPU의 전략효율성은 데이터 센터의 전력 수요를 줄이는 데 도움이 될 수 있음
• 이를 통해 클라우드 데이터 센터는 전력 비용 절감 및 지속 가능한 컴퓨팅을 가능하게 함
• AMD CPU 아키텍처는 표준 x86 아키텍처에 완벽히 호환되므로 기존 x86 클라우드 사용 고객은 모든 워크로드를 간편하게 마이그레이션 해서 사용할 수 있음
• 전 세계 AWS 리전에서, AMD 기반 인스턴스를 사용할 수 있으며 언제든지 테스트가 가능하고, 기존 인스턴스에서 마이그레이션을 지원해 줄 수 있음
• 또한 AMD의 특화된 보안 기능인 메모리 암호화 및 하이퍼바이저 암호화 기능을 탑재하여 클라우드에 저장된 고객의 데이터를 더 안전하게 보호할 수 있음

• AWS EC2의 AMD 기반 인스턴스 상품들에 대한 설명
• AWS와 AMD는 1세대 EPYC 플랫폼인 Naples를 사용하는 M5a 인스턴스를 2018년에 처음으로 출시 했음
• AWS는 그 이후로 매년 새로운 AMD 인스턴스를 출시하고 있으며 특히 지난 몇 개월 동안 여러 개의 새로운 제품을 출시했음
• AWS의 AMD 인스턴스는 동급의 x86 인스턴스에 비해 일반적으로 10% 저렴한 비용으로 고객들에게 제공됨
• AMD CPU는 표준 x86 아키텍처를 사용하므로 기존 x86 기반 EC2 인스턴스를 사용하고 있는 고객은 몇 시간 안에 쉽게 마이그레이션 할 수 있음
• 현재 AWS에서 가용한 AMD EPYC 기반 인스턴스들은 이미지와 같이 M5a, M6a, R5a, C6a, T3a, G4ad, HPC6a 등이 있음
• M5a 및 M6a는 볌용 워크로드를 위한 균형 잡힌 컴퓨팅 성능과 메모리 및 네트워킹 리소스를 제공함
• 일반적인 비즈니스 애플리케이션 및 백엔드 서버, 게이밍 서버 웹 서버, 앱 개발 및 테스트용으로 사용하기에 적합한 인스턴스임
• R5a는 범용 워크로드 중 곳언으 데이터베이스 및 빅데이터 분석 등 메모리 집약적 컴퓨팅 워크로드에 적합한 인스턴스임
• C5a와 C6a는 분산형 분석, 데이터 변환 로그 분석, 동영상 인코딩 및 웹 애플리케이션을 위한 광범위한 컴퓨팅 집약적 워크로드에 가장 적합함
• T3a 인스턴스는 버스트 가능한 경제적인 성능을 제공하며 높은 컴퓨팅 성능을 지속할 필요는 없지만 사용량에서 일시적으로 스파이크가 발생하는 워크로드에 매우 적합함
• 최신 AMD Radeon Pro V520 GPU 및 2세대 AMD EPYC 프로세서가 탑재된 G4ad 인스턴스는 원격 워크스테이션, 게임 스트림이 및 그래픽 렌더링과 같은 그래픽 애플리케이션에 적합하고 클라우드 최고의 가격 대비 성능을 제공함
• 이 인스턴스는 그래픽 집약적 애플리케이션에 있어서 대응되는 인스턴스 대비 최대 45% 우수한 가격 대비 성능을 제공함
• HPC6a 인스턴스는 HPC에 최적화된 인스턴스임
• 높은 네트워크 대역폭을 제공하여 인스턴스를 효율적으로 확장할 수 있도록 설계되어 클라우드 HPC 구축에 최적화된 인스턴스임

• AWS의 최신 AMD 기반 인스턴스에 대해 설명
• AWS는 AMD와 함꼐 2021년 12월에 M6a 인스턴스를 출시했음
• 최신 3세대 EPYC 프로세서를 탑재한 M6A 에 인스턴스는 최대 192개의 vCPU, 768GB 메모리 50Gbps 네트워킹 및 400Gbps의 EBS 대역폭을 제공함
• 이는 M5a 인스턴스에 비해 네트워킹 및 EBS 대역폭이 2배 이상 향상된 사양임
• 그리고 M6a 인스턴스는 M5a 인스턴스에 비해 가격 대비 성능이 최대 35% 더 우수하고 대응되는 x86 기반 인스턴스에 비해 비용이 10% 더 저렴함
• 또한 M6a 48xlarge 인스턴스는 192개의 vCPU를 제공하며  대응되는 M6 인스턴스에 비해, 단일 인스턴스에서 더 많은 워크로드를 사용할 수 있음
• M6a  인스턴스는 웹 서버, 각종 애플리케이션 서버, 게임서버 및 소규모 데이터 저장소와 같은 범용 워크로드를 실행하는 데 적합함

• M5a 인스턴스와 M6a 인스턴스의 엔터프라이즈 애플리케이션 성능 비교
• 16xlarge 인스턴스에서 테스트한 JAVA 애플리케이션 성능 테스트에서는 최대 2배까지 성능이 향상되었음을 확인할 수 있음
• 또한, Nginx 웹서버 테스트에서도 M6A.4xlarge가 M5A.4xlarge에 비해 최대 2배까지 성능이 향상되었음을 확인할 수 있음

• AWS는 AMD와 협력하여 올해 1월 HPC6a 인스턴스를 출시했음
• AWS 브랜드의 HPC 인스턴스는 이번이 처음
• HPC6a 인스턴스는  AMD 3세대 에픽 프로세서를 사용하고, 최대 3.6GHz로 동작하는 96개의 코어 인스턴스당 최대 384GB RAM 및 100Gbps의 Elastic Fabric Adapter 네트워킹을 제공함
• HPC6a 인스턴스는 동급 Amazon EC2 x86 기반 HPC용 인스턴스에 비해 최대 65% 더 뛰어난 가격 대비 성능을 제공함
• 이 인스턴스는 전산 유체 역학(CFD), 날씨 시뮬레이션, 분자역학 같은 고성능 컴퓨팅 워크로드를 효율적으로 실행하도록 설계되었음

• HPC6a 인스턴스에서 CFD 애플리케이션인 StarCCM+ 를 테스트한 결과
• StarCCM+를 최대 400개의 인스턴스에 확장하여 테스트해도 거의 선형적으로 성능이 증가하는 것을 볼 수 있음
• 이는 하나의 시뮬레이션에 38000개 이상의 vCPU를 사용하는 것 인데, 이 경우에도 매우 우수한 확장성을 보여주고 있음
• 또한, 비슷한 성능의 C5n 인스턴스에 비해서 가격도 최대 65%까지 경쟁력이 있음

• 2022년 2월에는 3세대 AMD EPYC 프로세서를 기반으로 하는 새로운 C6a 인스턴스를 출시했음
• C6a 인스턴스는 최대 192개의 vCPU와 384GB의 메모리를 가진 새로운 인스턴스 크기를 제공함
• C6a는 C5a 인스턴스에 비해, 최대 15% 더 나은 컴퓨팅 가격 성능을 제공하며 동급 x86 기반 EC2 인스턴스보다 10% 더 낮은 비용을 제공함
• 이 인스턴스는 광고 서비스, 멀티 플레이어 게임, 비디오 인코딩 등의 컴퓨팅 집약적인 워크로드를 실행하는 데 적합함

• AMD는 클라우드 서비스에서 고객들에게 최고의 가치를 주기 위해 노력하고 있음
• 세계에서 가장 빠른 프로세서, 그리고 가장 영향력 있는 클라우드 서비스를 지원하여 클라우드를 사용하는 모든 고객에게 성능과 비용 효율적인 제품을 제공함

참고

본 블로그에서 사용한 이미지는 AWS Summit Korea에서 제공된 발표자료와 영상을 사용했습니다.