AWS FSx for NetApp ONTAP 삭제에 실패했기 때문에 SVM, FlexCache, SnapMirror 오류 원인과 삭제 순서를 정리해 봤습니다.
안녕하세요 클래스메소드 김재욱(Kim Jaewook) 입니다. 이번에는 AWS FSx for NetApp ONTAP 삭제에 실패했기 때문에 SVM, FlexCache, SnapMirror 오류 원인과 삭제 순서를 정리해 봤습니다.
문제 발생
AWS 환경에서 사용하던 EC2 인스턴스를 먼저 삭제한 뒤, 연결되어 있던 FSx for NetApp ONTAP 파일시스템을 정리하려고 했습니다.
하지만 FSx 파일시스템 삭제 과정에서 여러 단계의 삭제 오류가 발생했습니다.
구성 상태는 다음과 같았습니다.
- EC2 인스턴스: 삭제 완료
- FSx for NetApp ONTAP 파일시스템: 삭제 시도
- 결과: 삭제 실패
처음에는 단순히 FSx 삭제만 하면 될 것으로 생각했지만, 내부적으로 생성된 SVM, Volume, FlexCache 관계 때문에 순서대로 리소스를 제거해야 했습니다.
오류 1. SVM이 남아 있어 FSx 파일시스템 삭제 실패
첫 번째 오류 메시지는 다음과 같습니다.
Cannot delete file system while it has storage virtual machines:
svm-xxxxxxxxxxxxxxxxx
FSx 파일시스템 내부에 SVM(Storage Virtual Machine)이 남아 있기 때문에 삭제할 수 없다는 의미였습니다.
FSx for ONTAP은 다음과 같은 계층 구조를 가지고 있습니다.
FSx File System
└── SVM
└── Volume
└── FlexCache / SnapMirror 관계
따라서 상위 리소스인 FSx 파일시스템을 삭제하려면 하위 리소스부터 제거해야 합니다.
삭제 순서는 다음과 같습니다.
Volume
→ SVM
→ FSx File System
오류 2. FlexCache 볼륨 삭제 실패
SVM 내부 Volume을 삭제하려고 하자 두 번째 문제가 발생했습니다.
Cannot delete volume in Vserver as it is an origin of a FlexCache volume.
To delete an origin of a FlexCache volume,
you must first delete the FlexCache volumes.
확인해보니 오리진 볼륨을 기반으로 생성된 FlexCache 볼륨이 남아 있었습니다.
ONTAP에서는 다음 순서를 요구합니다.
FlexCache Volume
↓
Origin Volume
즉, 원본 데이터가 있는 오리진 볼륨보다 캐시 역할을 하는 FlexCache 볼륨을 먼저 삭제해야 합니다.
해결 방법: 임시 EC2에서 ONTAP CLI 접속
기존 EC2는 이미 삭제한 상태였기 때문에 ONTAP CLI 접근을 위해 임시 EC2 인스턴스를 생성했습니다.
FSx 관리 엔드포인트로 접속을 시도합니다.
ssh fsxadmin@management.fs-xxxxxxxxxxxxxxxxx.fsx.ap-northeast-1.amazonaws.com
접속 후 FlexCache 볼륨을 삭제했습니다.
1. FlexCache 볼륨 Offline 처리
volume offline \
-vserver svm_test \
-volume vol_cadtool_cache
2. FlexCache 볼륨 삭제
volume flexcache delete \
-vserver svm_test \
-volume vol_cadtool_cache
이 과정을 통해 FlexCache 관계를 먼저 제거했습니다.
오류 3. Origin Volume 삭제 실패 (SnapMirror 관계)
FlexCache 삭제 이후 Origin Volume 삭제를 시도했지만 다시 오류가 발생했습니다.
Volume is the destination or source endpoint of one or more SnapMirror relationships.
SnapMirror 관계가 남아 있다는 메시지였습니다. 관계 확인을 위해 ONTAP CLI에서 확인했습니다.
snapmirror show
FlexCache 관계도 확인했습니다.
volume flexcache origin show-caches \
-origin-volume vol_cadtool
하지만 두 명령 모두 별도 관계 정보를 보여주지 않았습니다. 결과적으로 ONTAP CLI에서는 삭제할 수 없는 상태였습니다.
최종적으로 AWS 콘솔에서 Volume 삭제
CLI에서 제거할 수 없었던 Origin Volume은 AWS FSx 콘솔에서 직접 삭제를 진행했습니다.
콘솔 삭제는 정상적으로 완료되었습니다.
FSx 삭제 순서 정리
이번 경험을 통해 확인한 FSx for ONTAP 삭제 순서는 다음과 같습니다.
1. 임시 EC2 생성
↓
2. ONTAP CLI 접속
↓
3. FlexCache Volume Offline
↓
4. FlexCache Volume 삭제
↓
5. Origin Volume 삭제 (필요 시 AWS 콘솔)
↓
6. SVM 삭제
↓
7. FSx File System 삭제
↓
8. 임시 EC2 삭제
정리
FSx for NetApp ONTAP 환경에서 FlexCache를 사용했다면 파일시스템 삭제 전에 반드시 FlexCache 관계를 먼저 정리해야 합니다.
특히 주의할 점은 EC2를 먼저 삭제하면 ONTAP CLI 접근 환경까지 같이 사라진다는 것입니다.
나중에 삭제 작업을 위해 다시 임시 EC2를 생성하고 네트워크 설정을 해야 하는 번거로운 과정이 발생할 수 있습니다.
따라서 FSx 리소스를 정리할 때는 다음 순서를 권장합니다.
- ONTAP CLI 접근 환경 유지
- FlexCache / SnapMirror 관계 확인
- Volume 삭제
- SVM 삭제
- FSx File System 삭제
FSx for ONTAP은 일반 EBS처럼 단순 삭제가 아니라 ONTAP 내부 관계를 고려해야 하기 때문에, 생성했던 기능(FlexCache, SnapMirror 등)을 역순으로 제거하는 것이 중요합니다.
