SSL-TLS 인증서 및 보안 프로토콜

SSL은 1990년대 초 넷스케이프 커뮤니케이션스에 의해 개발된 최초의 널리 채택된 인터넷 보안 프로토콜이다. SSL 1.0은 공개되지 않았으며, SSL 2.0(1995년)과 SSL 3.0(1996년)이 실제 표준으로 자리 잡았다. SSL은 웹 브라우저와 서버 간의 통신을 암호화하여 데이터의 기밀성과 무결성을 보장하는 데 목적이 있었다.

1999년, 인터넷 엔지니어링 태스크 포스는 SSL 3.0을 기반으로 공개 표준 프로토콜인 TLS 1.0을 발표하였다. 이는 SSL과의 호환성을 유지하면서도 보다 표준화된 개방형 프로토콜로 전환하는 중요한 계기가 되었다. 기술적으로 TLS는 SSL과 유사한 구조를 가지지만, 암호화 알고리즘과 핸드셰이크 과정에서 차이를 보인다. 일반적으로 "SSL/TLS"로 병칭되지만, 현대의 보안 프로토콜은 사실상 TLS를 의미한다.

이후 보안 요구사항의 진화와 발견된 취약점에 대응하여 TLS는 지속적으로 개정되었다. TLS 1.1(2006년)과 TLS 1.2(2008년)는 각각 암호 블록 체인 모드와 새로운 암호화 스위트를 도입하여 보안을 강화했다. 특히 2018년에 표준화된 TLS 1.3은 핸드셰이크 과정을 단순화하고 레거시 암호화 방식을 제거하여 속도와 보안을 획기적으로 개선한 버전이다.

결과적으로 SSL은 역사적인 용어가 되었으며, 모든 현대적이고 안전한 구현은 TLS를 사용한다. 그러나 여전히 많은 시스템과 문서에서 익숙한 명칭인 "SSL"을 사용하여 TLS를 지칭하는 경우가 흔하다.

핸드셰이크 프로토콜은 SSL/TLS 연결이 수립되기 전에 클라이언트와 서버 간에 수행되는 일련의 협상 과정이다. 이 프로토콜의 핵심 역할은 보안 매개변수를 협상하고, 서버를 인증하며, 세션 키를 안전하게 생성하여 이후의 실제 데이터 암호화 통신에 사용할 대칭키를 공유하는 것이다. 핸드셰이크가 완료되면, 협상된 암호 스위트와 생성된 세션 키를 바탕으로 안전한 애플리케이션 계층 데이터 전송이 시작된다.

전형적인 핸드셰이크 과정은 다음과 같은 주요 단계로 구성된다. 먼저, 클라이언트는 ClientHello 메시지를 보내 지원하는 TLS 버전, 암호 스위트 목록, 클라이언트 무작위 값 등을 서버에 알린다. 서버는 ServerHello 메시지로 협상된 버전과 암호 스위트, 서버 무작위 값을 응답한다. 이어서 서버는 자신의 X.509 디지털 인증서를 Certificate 메시지로 전송하고, 필요에 따라 클라이언트 인증을 요청할 수 있다. 서버는 ServerHelloDone 메시지로 이 단계를 마친다.

이후 클라이언트는 서버 인증서를 검증하고, ClientKeyExchange 메시지를 생성한다. 이 메시지에는 미리 마스터 시크릿을 생성하여 서버의 공개키로 암호화한 데이터나, 디피-헬먼 키 교환을 위한 공개 매개변수가 담긴다. 양측은 이 교환된 정보와 앞서 주고받은 무작위 값들을 이용하여 동일한 마스터 시크릿을 도출한다. 마지막으로, 이 마스터 시크릿으로부터 실제 데이터 암호화에 사용될 세션 키를 생성하고, ChangeCipherSpec과 Finished 메시지를 교환하여 핸드셰이크가 무결하게 완료되었음을 확인한다. 이 과정을 통해 도청과 변조로부터 보호되는 안전한 통신 채널이 확립된다.

도메인 유효성 인증서, 조직 유효성 인증서, 확장 유효성 인증서는 검증 수준과 제공하는 신뢰 정보에 따라 구분된다. 이들은 모두 X.509 표준을 따르며, 공인 인증기관이 발급한다. 검증 과정의 엄격함과 비용, 발급 소요 시간이 각기 다르다.

가장 기본적인 형태인 DV 인증서는 신청자가 특정 도메인 이름의 관리 권한을 가지고 있는지만 확인한다. 일반적으로 도메인의 WHOIS 이메일 주소로 확인 메일을 보내거나, 특정 DNS 레코드를 추가하는 방식으로 검증이 이루어진다. 발급이 빠르고 비용이 저렴하여 개인 블로그나 소규모 사이트에 널리 사용된다. 그러나 이 인증서는 도메인 소유권만을 증명할 뿐, 해당 도메인을 운영하는 조직의 실체에 대한 정보는 제공하지 않는다.

조직의 실체를 추가로 확인하는 OV 인증서는 도메인 소유권 검증에 더해, 신청 기업의 법적 등록 정보(상호, 주소 등)를 공인된 제3자 데이터베이스를 통해 검증한다. 이 과정은 수시간에서 수일이 소요될 수 있다. 인증서 내부에는 해당 조직 정보가 포함되어 있어, 사용자가 인증서 세부 정보를 확인하면 웹사이트를 운영하는 법인을 알 수 있다. 일반적인 기업 웹사이트나 전자상거래 플랫폼에서 주로 사용된다.

가장 높은 수준의 검증을 거치는 EV 인증서는 OV의 모든 검증 단계를 포함하며, 기업의 법적·물리적 실존 여부를 더욱 엄격하게 조사한다. 이는 정부 기관의 사업자 등록 정보, 전화번호 확인, 그리고 신청 담당자의 직위와 권한에 대한 확인 절차를 포함할 수 있다. 발급에는 보통 수일에서 수주가 걸린다. 이 인증서의 가장 큰 특징은 주요 웹 브라우저의 주소창에서 기업 이름을 녹색으로 직접 표시해 준다는 점이다[4]. 금융 기관이나 대형 온라인 결제 서비스와 같이 높은 신뢰가 요구되는 곳에서 사용된다.

인증서 체인은 신뢰를 전달하는 계층적 구조로, 최종 사용자에게 제공되는 서버 인증서부터 최상위 루트 인증서까지 연결된 일련의 디지털 인증서를 의미한다. 이 체인은 클라이언트(예: 웹 브라우저)가 서버의 신원을 검증할 때, 알려지고 신뢰받는 루트 인증서로부터 시작하여 최종 서버 인증서까지의 신뢰 경로를 확인하는 데 사용된다.

체인은 일반적으로 세 가지 계층으로 구성된다. 최상위에는 루트 인증서가 위치한다. 이 인증서는 공인 인증기관(CA) 자체를 인증하는 자가 서명된 인증서로, 주요 웹 브라우저와 운영체제에 미리 내장되어 있다. 루트 CA는 직접 최종 인증서를 발급하기보다는, 중간 인증서 발급 권한을 위임하는 것이 일반적이다. 중간 계층에는 하나 이상의 중간 인증서(Intermediate Certificate)가 존재한다. 이 인증서는 루트 CA에 의해 서명받아 발급되며, 실제 최종 서버 인증서를 발급하는 역할을 한다. 이렇게 중간 계층을 두는 주된 목적은 보안을 강화하기 위함이다. 루트 인증서를 오프라인 상태로 안전하게 보관할 수 있으며, 중간 인증서가 유출되거나 취소되어도 루트 인증서 전체를 교체하지 않고 해당 중간 인증서만 무효화할 수 있다. 체인의 마지막에는 리프 인증서(Leaf Certificate) 또는 최종 인증서라고 불리는 서버 인증서가 있다. 이 인증서는 도메인 이름과 공개키 등을 포함하며, 중간 인증서에 의해 서명되어 발급된다. 웹 서버에 설치되어 클라이언트와의 통신에 직접 사용되는 것이 바로 이 인증서이다.

신뢰 검증 과정에서 클라이언트는 서버로부터 받은 리프 인증서와 함께 필요한 중간 인증서들을 받는다. 클라이언트는 내장된 루트 인증서 저장소를 이용해, 리프 인증서의 서명을 체인을 따라 거슬러 올라가 최종적으로 신뢰할 수 있는 루트 인증서까지 연결되는지 확인한다. 모든 인증서의 서명이 유효하고, 체인이 완전하게 연결될 때만 서버의 신원이 신뢰받은 것으로 판단된다. 따라서 웹 서버를 구성할 때는 리프 인증서뿐만 아니라 관련 중간 인증서들을 올바르게 함께 제공하여 체인을 완성하는 것이 필수적이다.

X.509는 공개키 인프라(PKI)와 인증서의 형식, 구조를 정의하는 국제 표준이다. ITU-T(국제전기통신연합 전기통신표준화부문)에서 제정한 표준으로, 디지털 인증서의 핵심적인 틀을 제공한다. 이 표준은 인증서가 포함해야 할 정보 항목, 데이터 구조, 인코딩 규칙 등을 명시하여, 서로 다른 시스템 간에 상호 운용성을 보장한다.

X.509 인증서의 구조는 ASN.1(Abstract Syntax Notation One)이라는 추상 문법 표기법으로 정의된다. ASN.1은 데이터 구조를 플랫폼에 독립적인 방식으로 기술하는 언어이다. 이렇게 정의된 구조는 실제로 파일로 저장되거나 전송될 때 특정 인코딩 규칙을 통해 바이너리 또는 텍스트 형식으로 변환된다. 주요 인코딩 형식으로는 DER(Distinguished Encoding Rules)과 PEM(Privacy-Enhanced Mail)이 있다. DER은 바이너리 형식으로, 암호화 작업에 주로 사용되는 정규화된 단일 인코딩이다. PEM은 DER 형식을 Base64로 인코딩하고, "-----BEGIN CERTIFICATE-----"와 "-----END CERTIFICATE-----" 같은 헤더와 푸터로 감싼 텍스트 형식이다. PEM 형식은 텍스트 편집기로 읽을 수 있어 구성 파일에 넣기 편리하다.

인증서 내부에는 버전, 일련번호, 서명 알고리즘, 발급자, 유효기간, 주체(소유자), 주체의 공개키 정보, 확장 필드 등이 포함된다. 특히 확장 필드는 인증서의 용도(서버 인증, 클라이언트 인증, 코드 서명 등), 대체 주체 이름(SAN, Subject Alternative Name), CRL(인증서 폐기 목록) 배포 지점, OCSP(온라인 인증서 상태 프로토콜) 응답자 주소 등 중요한 추가 정보를 담는다. 이러한 표준화된 구조 덕분에 브라우저, 운영체제, 웹 서버 등 다양한 소프트웨어가 전 세계의 인증서를 일관되게 해석하고 검증할 수 있다.

대칭키 암호화는 암호화와 복호화에 동일한 키를 사용하는 방식이다. AES와 ChaCha20이 대표적인 알고리즘이다. 이 방식은 계산 부하가 적어 대량의 데이터를 빠르게 암호화하는 데 적합하지만, 통신 당사자 간에 사전에 키를 안전하게 공유해야 하는 '키 배분 문제'가 존재한다.

반면 비대칭키 암호화는 공개키와 개인키라는 한 쌍의 키를 사용한다. 공개키로 암호화한 데이터는 반드시 그에 대응하는 개인키로만 복호화할 수 있다. RSA와 타원곡선 암호화(ECDSA)가 이에 속한다. 키를 사전에 공유할 필요가 없어 안전한 키 교환을 가능하게 하지만, 계산이 복잡하여 대칭키 방식에 비해 속도가 느리다는 단점이 있다.

SSL/TLS 프로토콜은 이 두 방식을 조합하여 효율성과 보안성을 모두 확보한다. 핸드셰이크 단계에서는 비대칭키 암호화를 사용하여 상대방의 신원을 확인하고, 이후 실제 데이터 통신에 사용할 세션 키(대칭키)를 안전하게 협상한다. 데이터 전송 단계에서는 협상된 세션 키를 이용한 대칭키 암호화로 효율적인 통신을 수행한다.

RSA는 공개 키 암호 시스템의 대표적인 알고리즘으로, 큰 소수의 곱셈은 쉽지만 그 인수분해는 어렵다는 수학적 원리에 기반한다. 이 알고리즘은 SSL/TLS 핸드셰이크에서 서버 인증과 키 교환을 모두 처리하는 데 오랫동안 사용되었다. 클라이언트는 서버의 공개 키로 암호화된 프리마스터 시크릿을 전송하고, 서버는 자신의 개인 키로 이를 복호화하여 세션 키를 도출한다. 그러나 RSA 키 길이가 증가함에 따라 계산 부하가 커지고, 향후 양자 컴퓨터의 위협에 취약할 수 있다는 점이 지적된다.

ECDSA는 타원곡선 암호를 기반으로 한 디지털 서명 알고리즘이다. RSA에 비해 훨씬 짧은 키 길이로 동등한 수준의 보안 강도를 제공한다는 장점이 있다[5]. 이로 인해 계산 자원이 제한된 환경에서 성능과 효율성이 뛰어나다. TLS에서 ECDSA는 주로 서버 인증을 위한 인증서 서명 알고리즘으로 사용된다. 서버는 ECDSA 개인 키로 핸드셰이크 메시지에 서명하고, 클라이언트는 해당 공개 키를 통해 서명의 진위를 검증한다.

Diffie-Hellman 키 교환은 완전히 다른 접근법을 제공한다. 이 방법은 두 당사자가 비밀리에 정보를 교환하여 공유 비밀 키를 생성할 수 있게 하며, 이 과정에서 생성된 키는 직접 전송되지 않는다. 전방향 비밀성을 보장하는 데 핵심적인 역할을 한다[6]. 전통적인 Diffie-Hellman은 큰 소수 모듈러 연산을 사용하지만, 타원곡선 디피-헬만은 ECDSA와 같은 타원곡선 이론을 적용하여 더 높은 효율성을 제공한다. 현대 TLS 1.3에서는 RSA를 이용한 키 교환이 제거되고, ECDHE와 같은 에피머럴 디피-헬만 방식이 표준이 되었다.

TLS 1.2는 2008년에 표준화되어 10년 이상 인터넷 보안의 핵심 프로토콜로 자리 잡았다. 그러나 시간이 지남에 따라 설계상의 복잡성과 새로운 공격 기법에 대한 대응 필요성이 제기되었다. 이를 해결하고 현대적인 보안 요구사항을 반영하기 위해 2018년에 TLS 1.3이 표준으로 발표되었다. TLS 1.3은 이전 버전과의 호환성을 일부 포기하는 대신, 보안을 강화하고 성능을 획기적으로 개선하는 데 초점을 맞췄다.

가장 두드러진 변화는 핸드셰이크 과정의 단순화와 속도 향상이다. TLS 1.2에서는 지원 가능한 암호화 스위트와 키 교환 방법을 협상하기 위해 여러 번의 왕복(Round-Trip)이 필요했다. TLS 1.3은 핸드셰이크를 최대 한 번의 왕복(1-RTT)으로 줄였으며, 사전 공유 키(PSK)를 사용하는 경우에는 왕복 없이(0-RTT) 연결을 재개할 수 있다. 이는 연결 지연 시간을 크게 단축시킨다. 또한, RSA와 같은 정적 키 교환 방식을 제거하고 Diffie-Hellman Ephemeral (DHE)이나 Elliptic Curve Diffie-Hellman Ephemeral (ECDHE)과 같은 완전 순방향 비밀성(Perfect Forward Secrecy)을 제공하는 방식만을 필수로 지원한다.

보안 측면에서는 취약한 암호화 알고리즘과 기능을 대거 제거했다. 다음 표는 주요 제거 항목을 보여준다.

또한, 핸드셰이크 과정에서 교환되는 메시지가 모두 암호화되어, 서버 인증서와 같은 민감한 정보가 평문으로 노출되는 것을 방지한다. 이는 패시브 모니터링을 통한 사용자 추적을 어렵게 만든다. TLS 1.3은 설계 자체가 더 간결하고 강력하여, 과거 TLS 1.2에서 발생했던 Heartbleed, POODLE 등과 같은 프로토콜 수준의 취약점 발생 가능성을 현저히 낮춘다.

TLS와 그 전신인 SSL 프로토콜은 역사적으로 여러 심각한 취약점이 발견되어 왔으며, 이는 프로토콜의 지속적인 진화와 보안 강화의 주요 동력이 되었다.

대표적인 취약점으로는 POODLE 공격과 Heartbleed 버그가 있다. POODLE(Padding Oracle On Downgraded Legacy Encryption)은 2014년 공개된 공격으로, SSL 3.0 프로토콜의 설계 결함을 악용한다. 공격자는 클라이언트와 서버 간 통신을 SSL 3.0으로 강제로 다운그레이드시킨 후, 블록 암호의 패딩 방식을 오라클로 이용하여 평문을 한 바이트씩 추출할 수 있다. 이에 대한 근본적인 대응은 서버와 클라이언트 양측에서 오래된 SSL 3.0 프로토콜 지원을 완전히 비활성화하는 것이다. Heartbleed 버그는 동일한 해에 발견된 OpenSSL 암호화 라이브러리의 심각한 구현상 결함이다. 이는 TLS/SSL의 하트비트 확장 기능을 처리하는 코드에 존재하는 버퍼 오버리드 취약점으로, 공격자가 서버의 메모리 내용을 최대 64KB씩 읽어들일 수 있게 하여 개인 키, 세션 쿠키, 사용자 비밀번호 등 민감한 정보가 유출될 위험이 있었다. 대응책은 영향을 받는 OpenSSL 버전(1.0.1 ~ 1.0.1f)을 즉시 최신 패치 버전으로 업그레이드하고, 손상 가능성이 있는 인증서를 폐기하고 재발급하는 것이었다.

이 외에도 주요 취약점과 대응 조치는 다음과 같이 정리할 수 있다.

이러한 취약점들의 지속적인 발견은 TLS 1.3 프로토콜 설계에 직접적인 영향을 미쳤다. TLS 1.3에서는 보안에 취약한 것으로 알려진 기능들(압축, 정적 RSA 키 교환, 수출 등급 암호 스위트, RC4, SHA-1 등)이 대거 제거되었으며, 핸드셰이크 과정이 더 간소화되고 안전해졌다. 현대적인 보안 모범 사례는 가능한 한 최신 버전의 TLS 1.3을 사용하고, 오래된 프로토콜 버전과 취약한 암호 스위트를 비활성화하며, 관련 소프트웨어와 라이브러리를 정기적으로 최신 상태로 유지하는 것이다.

공인 인증기관은 디지털 인증서를 발급하고 관리하는 신뢰할 수 있는 제3자 기관이다. 이 기관들은 공개 키 기반 구조의 핵심 요소로, 웹사이트나 서비스의 신원을 검증하고 그에 대한 공개 키의 소유권을 보증하는 역할을 한다. 브라우저와 운영체제는 주요 CA의 루트 인증서 목록을 미리 내장하고 있어, 해당 CA가 서명한 인증서를 자동으로 신뢰한다. CA는 신청자의 도메인 소유권, 조직 정보, 법적 실체 등을 검증한 후 인증서를 발급한다.

인증서 서명 요청은 인증서 발급을 위해 CA에 제출하는 데이터 구조이다. CSR은 주로 PEM이나 DER 형식으로 생성되며, 다음의 핵심 정보를 포함한다.

CSR 생성 과정은 서버의 개인 키와 공개 키 쌍을 생성하는 것으로 시작한다. 이후 openssl 등의 도구를 사용해 공개 키와 주체 정보를 묶고, 개인 키로 이 묶음에 서명하여 CSR 파일을 만든다. 이 CSR 파일을 CA에 제출하면, CA는 검증 절차를 거친 후 CSR에 담긴 정보와 유효기간 등을 결합하여 최종 X.509 인증서를 생성하고 서명한다. 발급받은 인증서는 서버에 설치되어 TLS 핸드셰이크 과정에서 사용된다.

CA의 신뢰 체계는 엄격한 운영 규정과 정기적인 감사를 통해 유지된다. 만약 CA의 개인 키가 유출되거나 잘못된 인증서를 발급하는 등 신뢰를 훼손하는 사건이 발생하면, 해당 CA의 루트 인증서는 주요 소프트웨어 벤더에 의해 신뢰 목록에서 제거될 수 있다[7]. 이로 인해 해당 CA가 발급한 모든 인증서의 신뢰성이 상실된다.

Let's Encrypt는 2016년 출범한 비영리 인증 기관이다. 이 기관의 주요 목표는 무료로 도메인 유효성 인증서를 자동화된 방식으로 제공하여 월드 와이드 웹 전반의 암호화 통신 보급을 촉진하는 것이다. 기존 상용 공인 인증기관의 인증서 발급 과정이 복잡하고 비용이 발생하는 점을 해결하기 위해 등장했다. Let's Encrypt는 ISRG가 운영하며, ACME 프로토콜을 통해 인증서 발급과 갱신을 완전히 자동화한다.

인증서 발급 및 갱신 과정은 ACME 프로토콜을 구현한 클라이언트 도구(예: Certbot)를 사용하여 관리한다. 기본적인 흐름은 다음과 같다.

1. 클라이언트는 서버에 인증서 서명 요청을 생성하고 Let's Encrypt에 계정을 등록한다.

2. Let's Encrypt는 도메인 소유권을 확인하기 위해 하나 이상의 챌린지를 제시한다. 가장 일반적인 것은 HTTP-01 챌린지로, 클라이언트가 특정 토큰 값을 웹 서버의 정해진 경로에 배치하도록 요구한다.

3. 클라이언트가 챌린지를 통과하면 Let's Encrypt는 인증서를 발급하고, 클라이언트는 이를 웹 서버에 설치한다.

4. 발급된 인증서의 유효 기간은 90일로, 만료되기 전에 자동으로 같은 과정을 반복하여 갱신한다.

이 자동화 접근 방식은 몇 가지 중요한 이점을 제공한다. 첫째, 인증서 만료로 인한 서비스 중단 위험을 크게 줄인다. 둘째, 관리 부담을 최소화하여 소규모 사이트나 개발자도 쉽게 TLS를 도입할 수 있게 한다. Let's Encrypt가 발급하는 인증서는 DV 인증서에 해당하며, 널리 호환되는 ISRG Root X1 루트 인증서에 연결되어 있다.

자동 갱신은 일반적으로 cron 작업이나 시스템 타이머를 통해 설정된다. Certbot은 certbot renew 명령어를 주기적으로 실행하여 만료가 임박한 인증서를 갱신하고, 필요한 경우 웹 서버를 재시작하여 새 인증서를 적용한다. 이 구조는 데브옵스 관행과 잘 통합되어 지속적인 보안 유지 관리가 가능하게 한다.

웹 서버에서 SSL/TLS를 적용하려면 서버 소프트웨어별로 설정 파일을 구성해야 한다. Apache HTTP Server에서는 일반적으로 httpd.conf 또는 가상 호스트 설정 파일 내 SSLEngine on 지시어를 사용하여 SSL/TLS를 활성화한다. 주요 설정 항목으로는 SSL 인증서 파일(SSLCertificateFile), 개인 키 파일(SSLCertificateKeyFile), 그리고 중간 인증서 체인 파일(SSLCertificateChainFile 또는 SSLCACertificateFile)의 경로를 지정하는 것이 포함된다. Nginx에서는 서버 블록(server) 설정 내에서 listen 443 ssl; 지시어로 SSL/TLS 연결을 수신하고, ssl_certificate 지시어에 인증서 파일(일반적으로 중간 인증서가 포함된 파일) 경로를, ssl_certificate_key 지시어에 개인 키 파일 경로를 명시한다.

보안 강화를 위해 특정 암호화 알고리즘과 프로토콜 버전을 명시적으로 지정하는 것이 좋다. 예를 들어, 오래된 SSL 버전을 비활성화하고 강력한 암호 스위트만을 허용하도록 구성할 수 있다. Apache에서는 SSLProtocol과 SSLCipherSuite 지시어를, Nginx에서는 ssl_protocols와 ssl_ciphers 지시어를 사용한다. HTTP Strict Transport Security (HSTS) 헤더를 추가하여 브라우저가 항상 HTTPS를 사용하도록 강제하는 설정도 보안을 크게 향상시킨다.

설정 적용 후에는 구문 오류를 확인하기 위해 apachectl configtest (Apache) 또는 nginx -t (Nginx) 명령어로 테스트를 수행해야 한다. 이후 웹 서버를 재시작하면 새로운 SSL/TLS 설정이 적용된다. 올바른 인증서 체인 구성과 강력한 보안 설정은 사용자 통신의 기밀성과 무결성을 보장하는 핵심 단계이다.

웹 서버의 SSL/TLS 성능을 최적화하기 위해 세션 재개(Session Resumption)와 OCSP 스테이플링(OCSP Stapling) 기법이 널리 사용된다. 이들은 핸드셰이크 과정의 오버헤드를 줄여 지연 시간을 단축하고, 사용자 경험을 개선하는 데 목적이 있다.

세션 재개는 한 번 완료된 핸드셰이크 정보를 재사용하여 후속 연결을 빠르게 설정하는 메커니즘이다. 주로 두 가지 방식으로 구현된다. 첫째, 세션 ID(Session ID) 방식은 서버가 생성한 세션 식별자를 클라이언트와 공유하여 저장해두고, 재연결 시 이를 제시하는 방법이다. 둘째, 세션 티켓(Session Ticket) 방식은 서버가 암호화된 상태 정보(티켓)를 클라이언트에게 발급하고, 클라이언트가 이 티켓을 재연결 시 제출하는 방법이다. TLS 1.3에서는 이 개념이 사전 공유 키(PSK, Pre-Shared Key)로 진화하여 보안과 효율성을 동시에 높였다.

OCSP 스테이플링은 인증서 폐기 상태 확인 과정의 지연과 프라이버시 문제를 해결한다. 일반적으로 클라이언트는 인증서의 유효성을 확인하기 위해 발급 기관(CA)의 온라인 인증서 상태 프로토콜(OCSP) 서버에 별도로 문의해야 한다. 이는 추가적인 외부 연결로 인한 지연과 사용자의 탐색 이력이 CA에 노출될 수 있는 문제를 야기한다. OCSP 스테이플링은 웹 서버가 주기적으로 CA의 OCSP 응답(서명된 인증서 상태 확인서)을 받아 저장해두고, TLS 핸드셰이크 시 클라이언트에게 이 응답을 함께 제공('스테이플'함)하는 방식이다. 이를 통해 클라이언트의 별도 확인 요청이 불필요해져 연결 설정 시간이 단축되고, 프라이버시가 보호된다.

이러한 최적화 기법의 적용 효과는 다음과 같이 요약할 수 있다.

이 기법들은 Apache HTTP Server나 Nginx와 같은 주요 웹 서버 소프트웨어에서 설정을 통해 활성화할 수 있다. 적절히 구성하면 보안 수준을 유지하면서도 HTTPS 연결의 성능을 현저히 개선할 수 있다.