디도스 공격 원리로 서버 장애 구분하는 방법

1회
디도스 공격 원리로 서버 장애 구분하는 방법

얼마 전 접속 장애를 겪은 사이트의 서버를 확인했는데 CPU 사용률은 20%도 안 됐다. 운영자는 트래픽이 몰렸으니 VPS 사양을 올려야 한다고 생각했다. 그런데 서버까지 들어오는 회선이 먼저 꽉 찬 상태였다. 이런 경우 CPU와 메모리를 늘려도 접속 장애는 그대로다. 디도스 공격 원리를 알면 무엇이 막혔는지부터 구분할 수 있다.

디도스는 서버의 어느 자원을 막는가

디도스는 여러 출발지에서 한 서비스로 트래픽을 보내 정상 이용자의 접속을 어렵게 만드는 공격이다. 여러 장치가 동시에 요청하므로 공격 출발지 하나를 차단하는 방식만으로는 대응하기 어렵다. 중요한 건 요청량 자체보다 그 요청이 어느 자원을 먼저 소진하는지다.

예를 들어 100Mbps 회선에 200Mbps의 트래픽이 밀려오면 웹서버가 요청을 처리하기도 전에 회선이 포화된다. 반대로 전송량은 평소와 비슷해도 초당 연결 요청이 급증하면 방화벽이나 로드밸런서의 연결 처리 한계에 걸릴 수 있다. 검색처럼 데이터베이스 조회가 많은 페이지에 요청이 집중되면 회선에는 여유가 있는데 웹 응답만 느려지기도 한다.

그래서 장애 화면이 같아 보여도 봐야 할 숫자는 다르다. 회선 사용량은 bps, 패킷 처리량은 pps, 웹 요청량은 초당 요청 수로 확인한다. 여기에 CPU·메모리, 연결 수, 데이터베이스 대기 시간을 같이 놓아야 병목이 보인다.

공격 방식에 따라 나타나는 증상

회선을 채우는 대량 트래픽

대량 트래픽 공격은 서버가 사용할 수 있는 대역폭보다 많은 데이터를 밀어 넣는다. 여러 장치가 직접 보내기도 하고, 제3의 서버가 피해 서버로 응답을 보내게 만드는 반사·증폭 방식도 있다. 이때 서버 내부에서 트래픽을 차단하더라도 이미 회선에 도착한 뒤라면 효과가 제한적이다. 호스팅 업체나 상위 네트워크에서 걸러야 하는 이유다.

연결 처리 능력을 소진하는 공격

TCP 연결을 시작하는 요청이 짧은 시간에 쏟아지면 서버나 중간 장비가 연결 상태를 관리하느라 바빠진다. 대표적인 예가 SYN flood다. 대역폭 그래프만 보면 여유가 있어도 연결 수와 패킷 수가 비정상적으로 높을 수 있다. 장비의 연결 한도에 먼저 닿으면 정상 이용자의 새 연결도 실패한다.

웹 기능을 바쁘게 만드는 요청

웹 요청을 반복하는 공격은 일반 이용자의 접속과 겉모습이 비슷하다. 캐시된 이미지보다 로그인, 검색, 장바구니처럼 서버에서 계산하거나 데이터베이스를 조회해야 하는 기능을 반복 호출할 때 부담이 커진다. 요청 수가 아주 많지 않아도 느린 쿼리 하나가 쌓이면 응답 지연과 오류가 이어진다. 이런 유형은 출발지 IP만 보고 막으면 정상 이용자까지 차단하기 쉽다.

광고

장애가 났을 때 확인할 순서

먼저 외부에서 접속이 안 되는지, 관리자도 서버에 접속할 수 없는지 구분한다. 서버 접속까지 끊기고 회선 사용량이 한도에 붙어 있다면 호스팅 업체의 네트워크 상태와 디도스 대응 범위를 확인할 차례다. 서버에는 접속되는데 웹 페이지만 실패한다면 웹서버 로그와 연결 수, CPU, 데이터베이스 상태를 본다.

  • 평소 같은 시간대와 비교해 bps, pps, 웹 요청 수 중 무엇이 급증했는지 확인한다.
  • 오류가 난 시각의 요청 경로와 응답 코드를 본다. 특정 기능에 몰렸다면 그 기능의 처리 시간도 확인한다.
  • CDN을 쓰고 있다면 CDN에서 차단한 양과 원본 서버까지 도달한 양을 나눠 본다.
  • 최근 배포, 백업 작업, 데이터베이스 장애가 있었는지도 함께 확인한다. 접속 급증이 곧 공격이라는 뜻은 아니다.

실제로 백업 작업이 디스크를 오래 점유해 웹 응답이 느려진 사례도 있었다. 그때 웹 요청 수가 조금 늘었다는 이유만으로 디도스로 판단했다면 원인을 놓쳤을 것이다. 평소 수치를 기록해 두는 일이 비싼 방어 상품을 먼저 고르는 것보다 유용할 때가 많다.

호스팅 규모에 맞춰 방어하는 방법

작은 사이트라면 우선 정적 파일 캐시를 적용하고, 로그인이나 검색처럼 부담이 큰 기능에는 적절한 요청 제한을 둔다. CDN을 사용한다면 정상 요청이 원본 서버로 얼마나 넘어오는지 확인해야 한다. 원본 서버가 외부에 그대로 노출돼 있으면 공격 트래픽이 CDN을 거치지 않고 직접 들어올 수도 있다.

회선 포화가 걱정된다면 요금제의 CPU 코어 수보다 네트워크 제공 범위를 먼저 확인한다. 평소 전송량과 순간 최대 사용량, 업체의 디도스 탐지·차단 방식, 공격 시 연락 절차가 판단 기준이다. 월 방문자 수만으로 필요한 방어 용량을 계산하기는 어렵다. 같은 방문자 수라도 이미지가 많은 사이트와 텍스트 중심 사이트의 전송량은 다르고, 공격 규모는 평소 방문자 수와 별개로 움직인다.

요청 제한도 무조건 낮게 잡으면 안 된다. 사무실이나 이동통신망에서는 여러 정상 이용자가 같은 공인 IP를 쓸 수 있다. 차단 규칙을 적용한 뒤에는 정상 이용자의 오류가 늘지 않았는지 확인해야 한다. 웹 요청에 대한 규칙으로 회선 포화를 해결할 수 없다는 점도 기억할 필요가 있다.

14년 동안 서버를 운영하며 느낀 건, 장애 순간에 가장 값진 자료는 평소의 수치와 확인 순서라는 점이다. 작은 사이트는 기본 캐시와 호스팅 업체의 보호 범위만으로 충분할 수 있다. 어떤 자원이 먼저 막혔는지 확인한 뒤에야 사양 변경이든 추가 방어든 돈 쓸 자리가 보인다.

디도스 공격 원리로 서버 장애 구분하는 방법 - 요약
광고

댓글 0

평가를 남기려면 로그인해 주세요.

모두 ID로 로그인

불러오는 중…