
얼마 전 사이트 이전을 도왔는데, 파일과 데이터베이스는 제대로 옮겼는데도 접속 오류가 났다. 새 서버에 인증서를 설치하지 않은 상태에서 주소부터 새 서버로 돌린 게 원인이었다. ssl 인증서 설치는 파일 두 개를 올리는 작업처럼 보이지만, 실제로는 도메인 확인부터 자동 갱신까지 이어지는 운영 작업이다.
설치 전에 도메인과 서버 연결부터 확인한다
먼저 도메인이 어느 서버를 가리키는지 확인한다. DNS의 A 레코드는 IPv4 주소, AAAA 레코드는 IPv6 주소를 지정한다. 새 서버에서 IPv4만 설정했는데 예전 서버를 가리키는 AAAA 레코드가 남아 있으면 접속 환경에 따라 서로 다른 서버가 열린다. 인증서 발급도 예상과 다르게 실패할 수 있다.
웹호스팅이라면 관리 화면에서 무료 인증서와 자동 갱신을 제공하는지 먼저 본다. 방문자가 많지 않은 일반 블로그에 인증서 비용만 보고 유료 요금제로 옮길 이유는 거의 없다. VPS에서는 웹서버 설정과 방화벽을 직접 확인해야 한다. 외부에서 80번과 443번 포트로 접속할 수 있는지, 웹서버가 해당 도메인의 요청을 받는지 확인한 뒤 발급을 진행한다.
무료 인증서는 도메인 소유를 확인하는 과정이 필요하다. HTTP 방식은 발급 기관이 80번 포트로 확인 파일에 접근하는 식이라, 방화벽이나 잘못된 리다이렉트 설정에 막히기 쉽다. 80번 포트를 열기 어려운 환경이나 와일드카드 인증서가 필요한 경우에는 DNS 레코드로 확인하는 방식을 쓴다. 이때 DNS 변경 권한과 자동 갱신 방법까지 함께 확보해야 한다.
웹서버에는 인증서 체인과 개인키를 짝지어 넣는다
발급을 마치면 서버에는 보통 인증서 체인 파일과 개인키 파일이 생긴다. Nginx에서는 443번 포트를 받는 서버 설정에 인증서 체인과 개인키의 경로를 각각 지정한다. Apache도 사용하는 모듈과 가상 호스트 설정에 맞춰 두 경로를 지정한다. 개인키는 공개 파일이 아니다. 웹 문서 폴더에 두거나 누구나 읽을 수 있는 권한으로 바꾸면 안 된다.
여기서 자주 나는 실수는 인증서만 지정하고 중간 인증서가 포함된 체인을 빠뜨리는 것이다. 내 브라우저에서는 열리는데 다른 기기에서 신뢰 오류가 날 수 있다. 또 여러 사이트가 한 서버에 있을 때는 각 도메인에 맞는 443번 가상 호스트와 인증서가 선택되는지 확인해야 한다. 이전 서버의 인증서 경로를 그대로 복사했다가 새 서버에 파일이 없어 웹서버 재시작 자체가 실패하는 경우도 봤다.
설정을 바꾼 뒤에는 먼저 웹서버 설정 검사 명령으로 문법과 파일 경로를 확인하고, 통과하면 설정을 다시 읽힌다. Nginx라면 설정 검사에 실패한 상태에서 재시작하지 않는 편이 안전하다. 기존 접속을 유지한 채 오류 메시지를 보고 경로와 권한을 고칠 수 있기 때문이다. 작업 전 설정 파일 한 벌을 복사해 두면 되돌리는 데도 시간이 덜 든다.
접속 확인은 브라우저 자물쇠 표시에서 끝내지 않는다
설치 직후에는 해당 도메인으로 443번 접속이 되는지, 인증서에 표시된 도메인과 실제 접속 도메인이 맞는지, 체인이 정상인지 확인한다. 대표 주소만 열어 보고 끝내면 별칭 도메인이나 하위 도메인의 오류를 놓치기 쉽다. 인증서가 포함하지 않은 이름으로 접속하면 같은 서버에 붙어도 이름 불일치 경고가 나온다.
그다음 80번 요청을 보안 접속으로 보내도록 설정한다. 이 과정에서 리다이렉트가 계속 반복되면 웹서버 앞단의 로드 밸런서나 프록시가 원래 접속 방식을 어떻게 전달하는지 확인한다. 프록시에서 이미 암호화 접속을 처리하는 구조라면 인증서가 설치되는 위치도 달라진다. 서버 안에서만 정상이라고 판단하지 말고 외부 네트워크에서도 접속해 보는 이유다.
페이지 자체는 열리는데 브라우저에 보안 경고가 남는다면 이미지나 스크립트 같은 일부 자원이 암호화되지 않은 방식으로 불리는지도 본다. 주소를 일괄 치환하기 전에 데이터베이스와 업로드 파일을 백업한다. 특히 이전 작업과 인증서 설치를 같은 날 한다면, 장애 원인을 분리할 수 있도록 DNS 변경 시각과 웹서버 설정 변경 시각을 기록해 두는 게 좋다.
자동 갱신이 실제로 동작하는지 확인한다
인증서는 설치한 날보다 갱신할 때 사고가 더 잘 난다. 발급 도구가 자동 갱신 작업을 등록했는지 확인하고, 시험 갱신을 한 번 실행한다. 갱신된 파일을 웹서버가 읽도록 설정을 다시 불러오는 절차도 필요하다. 인증서 파일은 갱신됐는데 웹서버가 이전 인증서를 계속 내보내는 사례가 있기 때문이다.
HTTP 방식으로 발급했다면 갱신 때도 확인 요청이 서버에 도달해야 한다. 나중에 80번 포트를 닫거나 DNS를 다른 서버로 옮기면 자동 갱신이 실패할 수 있다. DNS 방식이라면 수동으로 임시 레코드를 넣어 발급한 뒤 갱신 자동화를 잊기 쉽다. 만료 알림을 받을 연락처와 발급 도구의 실행 기록을 함께 확인하는 편이 낫다.
서버 백업에는 웹서버 설정과 인증서 발급 설정도 포함한다. 개인키를 백업한다면 접근 권한을 제한하고 암호화된 보관 위치를 쓴다. 다만 새 서버에서 다시 발급할 수 있는 구조라면 개인키를 무조건 여러 곳에 복사할 필요는 없다. 작은 사이트일수록 비싼 인증서보다 도메인 연결, 갱신 작업, 복구 절차를 정확히 챙기는 쪽이 장애를 줄인다.
