평상시 초당 30건인 API 요청이 피크 시간에 300건으로 늘어난다고 가정하자. 조회는 약 200ms, 이미지 변환은 평균 20초가 걸린다. 두 작업을 같은 요청 처리 경로에 두면 오래 걸리는 변환 작업이 빠른 조회까지 지연시킬 수 있다. 실시간 요청은 서버 확장으로, 긴 작업은 대기열과 별도 처리기로 대응한다.

ALB와 ASG는 각각 무엇을 확장하나

원본 보기

퍼블릭 ALB는 HTTPS 요청을 여러 가용 영역(AZ)의 EC2로 전달한다. EC2는 Auto Scaling Group(ASG)에서 관리하고, ALB는 대상 그룹(Target Group)을 통해 정상 인스턴스로 라우팅한다. 그림에는 AZ마다 EC2 두 대를 배치했다. 대상 그룹은 ALB의 라우팅 대상 집합이지 ASG 소속 리소스는 아니다.

3열 표
구성 요소담당 범위주요 판단
ALBHTTP 및 HTTPS 요청 라우팅, 헬스 체크경로 규칙, 대상 그룹, 헬스 체크
ASG인스턴스 개수 유지 및 확장최소 용량, 희망 용량, 최대 용량
EC2실제 애플리케이션 처리인스턴스 유형, 시작 시간, 무상태 설계
CloudWatch지표 수집 및 경보지표의 대표성, 집계 주기

새 EC2가 트래픽을 받으려면 인스턴스 실행, 애플리케이션 기동, 대상 그룹 상태 검사를 마쳐야 한다. 따라서 예상 피크에 맞춰 미리 여유 용량을 두거나 확장 시점을 앞당겨야 한다.

CloudFront는 캐시로 원본 요청을 줄이고, WAF와 Shield는 진입점을 보호한다. EC2 인스턴스 수의 조정은 ASG가 담당한다.

CPU 사용률만으로 확장해도 될까

CPU 사용률이 높은 워크로드라면 CPU 기반 Target Tracking을 검토할 수 있다. 하지만 외부 API 대기나 데이터베이스 연결 제한이 병목이라면 CPU가 낮아도 지연이 늘어난다.

확장 신호는 병목에 맞춰 고른다.

  • CPU 집약 작업: CPU 사용률
  • 웹 요청 처리: ALBRequestCountPerTarget과 대상별 처리량
  • 비동기 Worker: 처리 대기 메시지 수와 허용 대기 시간

지연과 오류율도 함께 관측한다. DB 연결 대기가 병목이라면 EC2를 늘려도 지연이 줄지 않을 수 있다.

평균 동시 처리 요청 수는 초당 요청 수(RPS) × 평균 처리 시간으로 추정할 수 있다. 초당 300건을 평균 0.2초에 처리한다면 약 60건이 동시에 실행 중이다. 이는 평균값이므로 긴 꼬리 지연과 순간적인 요청 집중에 대비한 여유 용량은 별도로 필요하다.

20초짜리 작업을 SQS로 넘기기

원본 보기

이미지 변환이 끝날 때까지 HTTP 연결을 유지하면 API 서버의 자원이 오래 점유된다. API 서버가 작업을 SQS에 넣고 작업 ID를 반환하면, 별도 Worker가 메시지를 받아 변환을 수행할 수 있다.

  1. API가 작업 요청을 검증하고 작업 ID 발급
  2. SQS에 작업 메시지를 전송
  3. 클라이언트에 접수 응답 반환
  4. Worker가 메시지를 가져와 변환 실행
  5. 결과를 저장하고 작업 상태 갱신

SQS는 순간적인 요청 증가를 대기열로 흡수할 뿐 처리 속도를 높이지는 않는다. 작업 유입량이 처리량을 계속 넘으면 적체가 커지므로 Worker 수와 허용 대기 시간을 정해야 한다.

메시지 적체량으로 Worker 수 정하기

SQS 기반 EC2 Worker를 확장할 때는 가시 메시지 수만 보는 대신, 인스턴스 한 대당 적체량을 사용할 수 있다.

인스턴스당 적체량 = 처리 대기 메시지 수 / 현재 Worker 수

예를 들어 작업 하나에 20초가 걸리고 허용 대기 시간이 100초라면, Worker 한 대가 감당할 수 있는 목표 적체량을 약 5건으로 시작해 부하 테스트로 조정할 수 있다. 이 계산은 평균 처리 시간이 대표적이고 병렬 처리 단위를 Worker 수에 대응시킬 수 있다는 가정이 필요하다.

대기열 상태를 볼 때는 메시지 수와 대기 시간을 구분한다.

  • ApproximateNumberOfMessagesVisible: 수신 가능한 메시지 수의 근사치
  • ApproximateNumberOfMessagesNotVisible: 처리 중이거나 숨겨진 메시지 수의 근사치
  • ApproximateAgeOfOldestMessage: 가장 오래 대기한 메시지의 경과 시간

이 지표는 근사치다. 한 시점의 수치보다 적체 추세, Worker 처리 성공률, 재시도 횟수, 실제 대기 시간을 함께 본다.

SQS, SNS, EventBridge가 이벤트를 전달하는 방식

원본 보기

작업을 대기열에 쌓는 경우와 하나의 이벤트를 여러 소비자에게 전달하는 경우에는 다른 서비스가 필요하다.

3열 표
서비스핵심 역할적합한 상황
SQS메시지 보관과 소비자 측 처리 속도 분리작업 대기열, 재처리
SNS하나의 메시지를 여러 구독 대상으로 배포다수 구독자에게 알림 전파
EventBridge이벤트 패턴과 규칙에 따라 대상으로 라우팅서비스 간 느슨한 연결, 이벤트 필터링

주문 생성 이벤트를 SNS Topic에 게시하고 알림과 통계 기능이 각각 SQS Queue를 구독하도록 구성할 수 있다. 소비자마다 대기열이 분리되므로 처리 속도가 달라도 서로의 적체에 직접 영향을 받지 않는다. 그림은 구독 경로 두 개만 나타낸 예시다.

EventBridge의 Rule A와 Rule B는 이벤트 패턴을 검사하는 규칙이며, 실제 전달 대상은 각각 SQS와 Lambda다. AWS 서비스와 SaaS, 자체 애플리케이션에서 발생한 이벤트를 조건별로 나눌 수 있다.

FIFO에서는 순서를 지킬 단위부터 정한다

SQS Standard는 높은 처리량을 제공하지만 메시지가 두 번 이상 전달되거나 순서가 달라질 수 있다. FIFO 큐는 같은 MessageGroupId에 속한 메시지의 처리 순서를 제어하고 중복 제거 기능도 제공한다. 여러 메시지 그룹은 병렬로 처리할 수 있지만 큐 전체의 순서를 보장하지 않는다.

FIFO의 중복 제거는 DB 쓰기나 외부 API 호출 같은 부수 효과의 정확히 한 번 실행까지 보장하지 않는다. 이런 작업에는 별도 멱등성 처리가 필요하다.

순서가 필요한 단위가 주문 ID인지 사용자 ID인지 먼저 정해야 한다. 모든 메시지를 하나의 그룹에 넣으면 순서는 단순해지지만 병렬성이 크게 제한된다.

Visibility Timeout과 중복 처리

원본 보기

소비자가 SQS 메시지를 받으면 해당 메시지는 Visibility Timeout 동안 일반적인 수신 대상에서 숨겨진다. 처리가 끝나면 DeleteMessage로 삭제한다. 삭제하지 못하거나 제한 시간이 지나면 메시지가 다시 전달될 수 있다.

Visibility Timeout은 처리 중인 메시지를 일시적으로 숨기는 장치이지 정확히 한 번 실행을 보장하는 장치는 아니다. Standard Queue에서는 제한 시간 안에도 중복 전달 가능성을 배제할 수 없다.

  1. 메시지에 변하지 않는 jobId 포함
  2. Worker가 처리 상태를 조회하거나 원자적으로 작업 소유권 획득
  3. 실제 작업 실행 및 결과를 멱등하게 저장
  4. 성공이 확정된 다음 메시지 삭제
  5. 반복 실패 메시지는 Redrive Policy에 따라 DLQ로 이동

DB에 결과를 기록한 직후 Worker가 죽는 상황을 가정해 보자. SQS 메시지 삭제 전이므로 작업이 재실행될 수 있다. 결과 테이블에 jobId의 유일성 제약을 두거나 상태 전이를 조건부 갱신하면 중복 기록을 막을 수 있다. 외부 API 호출이 포함된다면 상대 시스템의 멱등 키 지원 여부도 중요하다.

Visibility Timeout을 너무 짧게 설정하면 정상 작업 중 재수신될 가능성이 커지고, 너무 길면 실패 복구가 느려진다. 가변적인 처리 시간에는 ChangeMessageVisibility를 통한 연장을 검토한다.

DLQ 이동은 실패 메시지의 격리일 뿐 복구가 아니다. 원인을 해결하고 재처리 대상을 정해야 한다.

그림의 위쪽은 ReceiveMessage 이후 처리를 마치고 DeleteMessage를 호출하는 정상 경로다. 아래쪽의 점선은 Visibility Timeout 이후 재수신되는 흐름과, 반복 실패 메시지가 DLQ로 이동하는 Redrive 경로를 나타낸다. DLQ 전환은 Worker가 직접 메시지를 보내는 동작이 아니라 소스 큐의 Redrive Policy와 maxReceiveCount에 따른 처리다.

여러 작업의 실행 순서는 Step Functions로 관리한다

원본 보기

작업 간 선후 관계와 실패 시 보상 절차가 필요하다면 SQS 대기열만으로는 전체 진행 상태를 관리하기 어렵다.

Step Functions는 각 단계의 실행 상태, 분기, 대기, 재시도, 오류 처리를 상태 머신으로 표현한다. 동영상 업로드 이후 인코딩과 검수를 수행하고, 실패하면 생성된 중간 파일을 정리하는 흐름처럼 여러 작업의 결과를 이어야 할 때 검토할 수 있다. 도식의 Recovery는 오류를 처리하는 별도의 단계이며, 자동으로 원래 작업을 되돌리는 기능을 뜻하지 않는다.

EventBridge로 업로드 이벤트를 전달하고 Step Functions로 검수 절차를 관리하면서, 대량 변환 작업은 SQS와 Worker로 처리하는 조합도 가능하다.

Step Functions Standard Workflow는 긴 실행과 상세 실행 이력이 필요한 상태 기반 흐름에 적합하다. Express Workflow는 짧고 호출량이 많은 워크플로에서 검토할 수 있으며, 실행 시간과 전달 보장 방식이 다르다. Standard의 실행 보장이 외부 시스템의 부수 효과까지 정확히 한 번 수행한다는 뜻은 아니다. 상태 머신 안에서도 멱등 키와 보상 처리가 필요하다.

중앙 상태 머신에서 단계를 제어하는 오케스트레이션과 각 서비스가 이벤트에 반응하는 분산 처리(Choreography)도 구분할 필요가 있다. 후자는 서비스 간 의존성을 줄일 수 있지만 전체 진행 상태와 실패 지점을 파악하기 어렵다.

Cognito User Pool과 Identity Pool의 차이

원본 보기

클라이언트가 AWS 기반 API를 호출할 때는 사용자 인증과 백엔드의 AWS 권한을 구분해야 한다. 예시에서는 Cognito User Pool로 로그인해 받은 토큰을 API Gateway에 전달한다. JWT Authorizer 또는 Cognito Authorizer가 토큰을 검증하면 Lambda 통합이 호출된다.

3열 표
구성제공하는 것대표 목적
Cognito User Pool사용자 인증과 JWT 토큰앱 로그인, API 호출자 식별
API Gateway AuthorizerAPI 요청의 토큰 또는 정책 평가엔드포인트 접근 제어
Cognito Identity Pool페더레이션 후 임시 AWS 자격 증명허용된 S3 등 AWS 리소스에 직접 접근
Lambda 실행 역할함수가 사용하는 AWS 서비스 권한DynamoDB 읽기 및 쓰기

클라이언트가 Cognito User Pool에서 토큰을 받았다고 S3에 직접 접근할 AWS 자격 증명까지 받는 것은 아니다. AWS 리소스에 직접 접근하게 하려면 Identity Pool 등으로 적절한 IAM 역할의 임시 자격 증명을 제공하는 구성을 검토한다. 반대로 API Gateway와 Lambda만 호출하는 애플리케이션이라면 Identity Pool이 반드시 필요한 것은 아니다.

Lambda가 DynamoDB에 접근할 때 사용하는 권한은 클라이언트의 JWT가 아닌 함수 실행 역할의 IAM 권한이다. 인증, API 인가, 함수 실행 권한을 하나의 정책으로 이해하면 접근 거부의 원인을 찾기 어렵다. API Gateway 앞단에 WAF를 연결하거나 요청 속도를 제한하더라도 사용자별 데이터 접근 통제는 계속 필요하다.

Lambda와 컨테이너의 운영 비용은 어디서 생길까

EC2, 컨테이너, Lambda는 같은 API나 Worker를 실행할 수 있지만 운영 책임과 시작 시간, 비용 구조가 다르다.

3열 표
실행 환경장점주의할 조건
EC2와 ASGOS 및 런타임 제어, 지속적인 부하에 유연인스턴스 운영, 시작 시간
ECS on Fargate서버 인스턴스 직접 관리 감소태스크 크기, 시작 지연, 실행 비용
Lambda이벤트 기반 실행, 유휴 서버 비용 감소실행 시간 제한, 동시성, 초기화 시간
EKSKubernetes 기반 배포 및 제어클러스터 운영 복잡성

Lambda로 SQS를 소비할 때는 Event Source Mapping의 배치 크기와 동시성을 조절하고, 실패한 배치가 어떻게 재시도되는지 확인해야 한다. 부분 배치 응답을 설정하지 않으면 성공한 메시지까지 다시 처리될 수 있다. 함수 Timeout보다 SQS Visibility Timeout이 짧다면 함수 실행 중 같은 메시지가 다시 가시화될 수 있으므로 두 설정의 관계를 반드시 확인한다.

CPU를 오래 사용하는 작업은 컨테이너나 EC2가 비용 면에서 유리할 수 있다. 실행 시간과 유휴 비율, 운영 부담을 함께 계산한다.

Lambda를 늘리기 전에 DB 연결부터 계산한다

원본 보기

Lambda 동시성을 늘리면 메시지 처리는 빨라질 수 있지만 DB 연결이 먼저 포화될 수 있다. 다음 세 설정은 제한하는 범위가 다르다.

3열 표
설정제한하거나 보장하는 대상오해하기 쉬운 점
Reserved Concurrency특정 함수가 사용할 수 있는 최대 동시 실행 수와 확보 용량함수의 모든 이벤트 소스에 적용됨
Provisioned Concurrency미리 초기화해 두는 실행 환경 수SQS의 소비 상한이나 DB 연결 상한을 대체하지 않음
SQS Event Source Maximum Concurrency해당 SQS 이벤트 소스 매핑에서 시작하는 Lambda 동시 실행 수함수 전체 Reserved Concurrency와 별도 경계

Lambda의 SQS 통합에서는 이벤트 소스 매핑이 큐를 폴링하고 함수를 호출한다. 앱이 직접 DeleteMessage를 호출하는 EC2 Worker 모델과 달리, 서비스가 성공한 배치의 메시지 삭제를 처리한다. 부분 배치 응답(ReportBatchItemFailures)을 사용하면 실패한 메시지 식별자를 반환해 성공 메시지까지 다시 처리하는 상황을 줄일 수 있다. 표준 큐의 중복 전달 가능성은 여전히 남는다.

평균 동시 실행 수의 추정값은 초당 요청 수 × 평균 처리 시간이다.

400건/초 × 0.25초 = 약 100개 동시 실행

이 수치에는 순간적인 피크와 긴 꼬리 지연이 반영되지 않는다. DB 연결 수와 쿼리 처리량도 별도로 제한된다.

예를 들어 Lambda 동시 실행을 100개 허용해도 DB가 동시 작업 60개만 안정적으로 감당한다면 나머지 요청은 지연될 수 있다. SQS 이벤트 소스의 동시성 상한으로 DB를 보호하되, 쌓인 메시지가 허용 대기 시간을 넘지 않도록 해야 한다. 함수에 이벤트 소스가 여러 개라면 이들이 Reserved Concurrency를 공유한다는 점도 확인한다.

RDS Proxy는 Lambda에서 급증하는 DB 연결을 풀링하고 재사용하는 데 도움을 준다. 다만 DB의 쿼리 CPU나 I/O 처리 한계를 없애지는 않는다. 트랜잭션 상태와 세션 기능에 따라 연결 재사용 효과가 달라질 수도 있다.

운영 중 처리 지연이 발생하면 SQS 메시지 대기 시간, Lambda Throttles, DB 연결 수와 응답 시간을 같은 시간대에 비교한다. 실패 배치의 크기는 Batch Size와 Batch Window, 부분 배치 응답 설정에 따라 달라진다.

ECS 태스크 실행 역할과 애플리케이션 역할

원본 보기

ECS에서는 태스크 시작에 필요한 권한과 컨테이너 안의 애플리케이션 권한을 구분한다. Fargate를 사용해도 네트워크, 배포, 확장 정책은 직접 설계해야 한다. 그림의 두 태스크는 AZ별 배치 예시이며, 아래 역할은 양쪽 태스크에 적용된다.

3열 표
구성책임설계상 확인 사항
ECS Service원하는 태스크 수 유지, 배포와 교체Desired Count, Deployment 설정, Auto Scaling
Task Definition컨테이너 이미지, CPU와 메모리, IAM 역할 지정포트, 환경 변수, Secret 주입, 역할 분리
Task Execution Role태스크 실행에 필요한 AWS 서비스 접근ECR 이미지 가져오기, CloudWatch Logs, Secret 주입
Task Role실행 중인 애플리케이션 코드가 사용할 AWS 권한S3, DynamoDB, SQS 등에 대한 최소 권한
ALB Target Group정상 태스크에 HTTP 요청 라우팅IP 타깃, 헬스 체크, 보안 그룹

Execution Role에 s3:GetObject를 허용해도 컨테이너 안의 애플리케이션이 그 권한으로 S3를 읽는 구조가 되지는 않는다. 런타임 API 호출은 Task Role로 평가한다. 반대로 Task Role을 충분히 부여해도 ECR 이미지를 가져오거나 로그를 전송할 실행 경로와 Execution Role 권한이 부족하면 태스크 기동 단계에서 실패할 수 있다.

Fargate 태스크를 퍼블릭 IP 없는 프라이빗 서브넷에 배치한다면 ECR 이미지 다운로드, 로그 전송, Secret 조회를 위한 NAT 또는 지원되는 VPC Endpoint 경로도 확인해야 한다. ALB의 헬스 체크는 앱 프로세스가 떠 있다는 사실보다 실제 서비스를 받을 수 있는지 판단하는 데 중요하다.

Fargate는 호스트 운영을 줄일 때, ECS on EC2는 호스트 유형과 용량을 직접 제어할 때 선택할 수 있다. Kubernetes가 필요하면 EKS를 검토한다. 실행 환경은 운영 책임과 배포 요구를 기준으로 비교한다.

상시 API는 약정 할인, 재처리 가능한 작업은 Spot

원본 보기

Auto Scaling은 필요한 EC2 수를 조정하고, 구매 옵션은 비용과 인스턴스 중단 위험에 영향을 준다. 요금 할인, 용량 확보, 가용성은 별도로 판단해야 한다.

3열 표
옵션적합한 워크로드구분할 조건
On-Demand짧거나 예측하기 어려운 사용약정 없이 사용량에 따라 과금
Savings Plans일정 수준의 장기 컴퓨팅 사용사용량 약정에 따른 할인, 용량 예약 아님
Reserved Instances장기간 안정적인 EC2 사용조건에 따른 요금 할인, 일부 유형의 AZ 범위 용량 예약 구분
Spot Instances중단 후 재처리 가능한 배치 작업여유 용량에 따라 회수 가능
On-Demand Capacity Reservation특정 AZ의 인스턴스 용량 확보구매 할인과 다른 목표

그림 위쪽의 상시 API는 안정적인 기본 용량을 유지하고, 그 사용량에 Savings Plans 등의 할인을 적용하는 예시다. 약정 할인은 피크 시 인스턴스 확보를 보장하지 않는다.

아래쪽의 Worker는 재수신 가능한 SQS 메시지에서 작업을 가져온다. Spot이 중단되면 미완료 메시지가 Visibility Timeout 이후 다시 보이도록 설계한다. 따라서 작업 식별자의 멱등성, 중간 결과의 저장 위치, 종료 신호 처리와 재시도 시간이 중요하다. Spot은 완료 시점이 엄격하고 중단이 허용되지 않는 단독 처리 경로에 그대로 적용하기 어렵다.

ASG에서는 여러 인스턴스 유형과 구매 옵션을 혼합할 수 있다. 중단 가능한 Worker와 반드시 유지해야 하는 기본 용량을 분리해 설정한다.

확장과 재시도는 장애를 만들어 검증한다

2열 표
실험 조건확인할 결과
API 요청 급증ASG 확장에 걸린 시간, ALB 대상의 준비 시점, 사용자 지연
긴 작업 집중SQS 대기 시간, Worker 처리량, 허용 대기 시간 초과 여부
Worker 강제 종료jobId 기준 중복 결과 방지, Visibility Timeout 이후 재처리
반복 실패DLQ 이동, 원인 수정 후 재처리 가능 여부
AZ 장애 또는 Lambda 동시성 제한남은 처리 용량, DB 연결 포화 여부
ECS 태스크 재배포ECR 접근, 실행 역할과 Task Role, ALB 상태 검사

인스턴스나 함수의 재실행만으로는 복구 성공을 판단할 수 없다. 허용 지연 안에 요청을 처리했는지, 재시도로 결과가 중복되거나 누락되지 않았는지를 확인한다.