2025년 5월부터 서울 리전에서 Amazon EC2 Inf2 인스턴스를 사용할 수 있게 되었습니다.
안녕하세요 클래스메소드 김재욱(Kim Jaewook) 입니다. 이번에는 2025년 5월부터 서울 리전에서 Amazon EC2 Inf2 인스턴스를 사용할 수 있게 되었으므로 조사해 봤습니다.
Inf2 인스턴스 출시
2021년에는 Amazon EC2 Inf1 인스턴스가 출시되었고, 4년 뒤인 2025년에는 Inf2 인스턴스를 서울 리전에서 사용할 수 있게 되었습니다.
오늘부터 생성형 AI에 최적화된 Amazon Elastic Compute Cloud(Amazon EC2) Inf2 인스턴스가 AWS 아시아 태평양(서울) 리전에서 정식 버전으로 제공됩니다. Amazon EC2 Inf2 인스턴스는 동급 Amazon EC2 인스턴스와 비교하여 추론 비용이 최대 40% 저렴합니다.
Inf2가 뭐야?
Amazon EC2 Inf1 인스턴스는 딥 러닝 추론을 위해 제작된 인스턴스 타입이며, 최저 비용으로 대규모 언어 모델(LLM) 및 비전 변환기를 비롯한 생성형 인공 지능 모델을 위한 고성능을 제공합니다. Inf2 인스턴스를 사용하면 텍스트 요약, 코드 생성, 비디오 및 이미지 생성, 음성 인식, 개인화, 사기 탐지 등을 위한 추론 애플리케이션을 실행할 수 있습니다. 2021년 출시된 Inf1보다 3배 더 뛰어난 컴퓨팅 성능, 4배 더 많은 총 액셀러레이터 메모리, 최대 4배 더 높은 처리량, 최대 10배 짧은 지연 시간으로 향상된 성능을 제공합니다.
Inf2 스펙
Inf2 스펙에 대해서는 아래 표를 통해 확인할 수 있습니다.
인스턴스 크기 | Inferentia2 칩 | 액셀러레이터 메모리(GB) | vCPU | 메모리(GiB) | 로컬 스토리지 | 온디맨드 요금 |
---|---|---|---|---|---|---|
inf2.xlarge | 1 | 32 | 4 | 16 | EBS 전용 | 0.76 USD |
inf2.8xlarge | 1 | 32 | 32 | 128 | EBS 전용 | 1.97 USD |
inf2.24xlarge | 6 | 192 | 96 | 384 | EBS 전용 | 6.49 USD |
inf2.48xlarge | 12 | 384 | 192 | 768 | EBS 전용 | 12.98 USD |
※ 요금은 버지니아 기준으로 계산된 요금입니다.
AWS CLI로도 요금을 확인할 수 있습니다. (아래 요금은 서울 리전을 기준으로 한 요금입니다.)
aws pricing get-products \
--service-code AmazonEC2 \
--filters Type=TERM_MATCH,Field=instanceType,Value=inf2.xlarge \
Type=TERM_MATCH,Field=location,Value="Asia Pacific (Seoul)" \
--region us-east-1 \
--query 'PriceList[0]' \
--output text | jq .
"pricePerUnit": {
"USD": "0.9098400000"
}
사용 가능한 리전 확인
서울 리전에서 사용이 가능한지 아래 AWS CLI 명령어로 확인해 봅시다.
~ $ aws ec2 describe-instance-type-offerings \
> --location-type availability-zone \
> --filters Name=instance-type,Values=inf2.xlarge \
> --region ap-northeast-2
{
"InstanceTypeOfferings": [
{
"InstanceType": "inf2.xlarge",
"LocationType": "availability-zone",
"Location": "ap-northeast-2b"
},
{
"InstanceType": "inf2.xlarge",
"LocationType": "availability-zone",
"Location": "ap-northeast-2a"
}
]
}
결과 값으로 [ap-northeast-2b]와 [ap-northeast-2a]가 출력되는 것을 확인할 수 있으며, [ap-northeast-2]는 서울 리전을 의미하므로 서울 리전에서 사용 가능한 것을 확인할 수 있습니다.
inf2.xlarge 이상의 스펙은 ?
다만, inf2 인스턴스를 선택하거나, 요금을 확인해 보면 [inf2.xlarge]의 요금만 출력될 뿐 다른 스펙의 요금은 출력되지 않습니다.
AWS CLI로 inf2.8xlarge를 검색해 봐도 아무런 항목이 출력되지 않습니다.
~ $ aws ec2 describe-instance-type-offerings \
> --location-type availability-zone \
> --filters Name=instance-type,Values=inf2.8xlarge \
> --region ap-northeast-2
{
"InstanceTypeOfferings": []
}
콘솔 화면에서 직접 확인해 보면, [inf2.xlarge]만 출력됩니다.
리전을 기준으로 확인해 보면, [inf2.xlarge] 이외에도 다른 스펙을 선택할 수 있지만, 서울 리전의 경우 아직 [inf2.xlarge]만 사용 가능한 것 같습니다.
본 블로그 게시글을 읽고 궁금한 사항이 있으신 분들은 jaewookkim533@yahoo.com로 보내주시면 감사하겠습니다.