ovpn 파일 구성과 OpenVPN 터널 수립 과정
AWS Client VPN과 OpenVPN을 기준으로, .ovpn 파일이 실제로 담는 것과 클라이언트/서버가 인증서 검증, 세션 키 합의, 터널 암호화를 어떤 순서로 수행하는지 PKI와 TLS 관점에서 정리한 기술 노트입니다.
.ovpn은 암호화된 VPN 파일이 아니라, OpenVPN 클라이언트가 터널을 열기 위해 필요한 설정과 자격 증명 참조를 담은 프로파일이다.
이 글에서 정리하는 질문은 다음과 같다.
.ovpn파일 안에는 정확히 무엇이 들어가는가- OpenVPN client는 이 파일을 읽고 실제로 무엇을 시작하는가
- server는 어떤 방식으로 클라이언트를 검증하고 세션 키를 만드는가
- 런타임에 실제 패킷은 어떤 키로 보호되는가
이 글은 그 흐름을 파일 포맷 -> PKI -> TLS 핸드셰이크 -> 데이터 채널 순서로 정리한 노트다.
.ovpn은 대체로 평문 프로파일이다
.ovpn 파일 자체가 어떤 특별한 암호화 포맷으로 만들어지는 것은 아니다.
일반적으로 .ovpn은 다음 둘 중 하나다.
- OpenVPN 설정 지시어를 담은 평문 텍스트 파일
- 설정 지시어와 인증서/키를 inline으로 함께 포함한 평문 텍스트 파일
.ovpn은 ZIP이나 PKCS#12 같은 독립된 암호화 컨테이너가 아니라, OpenVPN이 읽을 설정 문서에 더 가깝다.
파일에 들어가는 항목은 다음과 같다.
ca: 어떤 CA를 신뢰할지cert: 클라이언트 인증서key: 클라이언트 개인 키tls-auth또는tls-crypt: 제어 채널 보호용 사전 공유 키remote,proto,dev: 어느 서버에 어떤 전송 방식으로 붙을지data-ciphers,auth: 데이터 채널 암호화 및 무결성 관련 옵션
그래서 .ovpn을 볼 때는 파일이 암호화돼 있는지보다 어떤 비밀 값을 직접 담고 있는지를 본다.
.ovpn 안에는 보통 이런 정보가 들어간다
가장 단순화하면 .ovpn은 아래와 비슷하다.
client
dev tun
proto udp
remote cvpn-endpoint.example.com 443
remote-cert-tls server
<ca>
... CA certificate ...
</ca>
<cert>
... client certificate ...
</cert>
<key>
... client private key ...
</key>
환경에 따라 여기에 아래 같은 항목이 더 붙는다.
tls-auth keyfile 1tls-crypt keyfileauth-user-passverify-x509-namecipher또는data-ciphersreneg-sec
이 값들은 공개 가능한 값과 비밀 값으로 나뉜다.
1. 공개 가능한 값
- 서버 주소
- 포트
- 프로토콜(
udp,tcp) - CA 인증서
- 클라이언트 인증서
인증서와 CA는 기본적으로 공개 가능한 재료다. 인증서는 신원과 공개키를 담고, 그 위에 CA 서명이 붙어 있다.
2. 절대 비밀로 다뤄야 하는 값
- 클라이언트 개인 키
tls-auth/tls-crypt프리셰어드 키- 경우에 따라 사용자 인증 비밀번호
<key>...</key>가 inline으로 들어간 .ovpn은 설정 파일이 아니라 자격 증명 번들이다.
예시로 보면 .ovpn은 이렇게 읽는다
실제로 파일을 열었을 때는 각 줄의 기능보다 이 줄이 연결 정책인지, 공개 정보인지, 비밀 정보인지로 나눠 읽는 편이 좋다.
client # 이 프로파일은 클라이언트 역할이다
dev tun # L3 터널 인터페이스를 사용한다
proto udp # 전송 프로토콜은 UDP
remote cvpn-endpoint.example.com 443 # 접속할 서버 주소와 포트
remote-cert-tls server # 상대 인증서가 서버 용도인지 검사
verify-x509-name server name # 기대하는 서버 이름을 추가 검증할 수 있음
resolv-retry infinite # DNS 실패 시 계속 재시도
nobind # 로컬 포트를 고정 바인딩하지 않음
persist-key # 재연결 시 키 상태를 유지
persist-tun # 재연결 시 TUN 인터페이스를 유지
auth SHA256 # 데이터 채널 무결성 알고리즘 옵션
data-ciphers AES-256-GCM:AES-128-GCM # 데이터 채널 대칭 암호 후보
<ca>
-----BEGIN CERTIFICATE-----
... CA certificate ...
-----END CERTIFICATE-----
</ca> # 공개 정보: 어떤 CA를 신뢰할지 정의
<cert>
-----BEGIN CERTIFICATE-----
... client certificate ...
-----END CERTIFICATE-----
</cert> # 공개 정보: 내 공개키와 신원 정보
<key>
-----BEGIN PRIVATE KEY-----
... client private key ...
-----END PRIVATE KEY-----
</key> # 비밀 정보: 절대 보호해야 하는 값
key-direction 1 # tls-auth 사용 시 방향 지정
<tls-auth>
-----BEGIN OpenVPN Static key V1-----
... shared key ...
-----END OpenVPN Static key V1-----
</tls-auth> # 비밀 정보: 제어 채널 초기 필터용 키
줄별로 요약하면 다음과 같다.
client,dev,proto,remote: 어디에 어떤 방식으로 붙을지 정하는 연결 정책remote-cert-tls,verify-x509-name: 서버 인증서가 기대한 상대인지 더 엄격하게 확인하는 정책auth,data-ciphers: 데이터 채널에서 어떤 무결성/암호 옵션을 쓸지 정하는 협상 힌트<ca>: 무엇을 신뢰 루트로 볼지 결정하는 재료<cert>: 내 공개 신원 문서<key>: 내 비밀키<tls-auth>/<tls-crypt>: 제어 채널 앞단을 더 보호하는 추가 비밀키
파일을 볼 때는 어떤 줄이 신뢰 기준을 정의하고 어떤 줄이 비밀을 담고 있는지부터 구분한다.
.ovpn은 무엇을 정의하고, 무엇은 런타임에 결정되는가
.ovpn이 하는 일:
- 어떤 서버에 붙을지 알려준다
- 어떤 인증서와 키를 사용할지 알려준다
- 어떤 보안 옵션을 허용할지 알려준다
- 제어 채널 보호용 추가 키가 있는지 알려준다
.ovpn이 하지 않는 일:
- 세션 키를 미리 담아두지 않는다
- 실제 데이터 채널 키를 고정된 값으로 정의하지 않는다
- 연결 시점의 난수와 키 교환 결과를 담아두지 않는다
.ovpn은 연결을 여는 재료와 정책을 전달할 뿐이고 실제 세션 키와 데이터 채널 키는 핸드셰이크 과정에서 런타임에 만들어진다.
OpenVPN은 제어 채널과 데이터 채널을 분리해서 본다
OpenVPN은 채널을 둘로 나눈다.
- Control channel: 인증, 키 교환, 설정 협상
- Data channel: 실제 터널 패킷 전송
TLS는 제어 채널을 보호하고, 그 제어 채널 위에서 실제 VPN 트래픽에 쓸 키를 교환한다.
순서는 다음과 같다.
- 제어 채널이 TLS로 안전해진다.
- 제어 채널을 통해 데이터 채널 키가 협상된다.
- 실제 IP 패킷은 데이터 채널에서 대칭키로 보호된다.
그래서 .ovpn 파일이 데이터 트래픽을 암호화한다고 말하면 정확하지 않다. 이 파일은 데이터 채널 키를 안전하게 협상하기 위한 출발점을 제공한다.
OpenVPN client는 .ovpn을 읽고 실제로 무엇을 하나
클라이언트 동작을 단순화하면 다음 순서다.
.ovpn파싱- CA 인증서, 클라이언트 인증서, 개인 키 로드
tls-auth또는tls-crypt키가 있으면 함께 로드- UDP/TCP 소켓 생성
- TUN/TAP 가상 네트워크 인터페이스 준비
- 서버와 제어 채널 연결 시작
- TLS 핸드셰이크 수행
- 서버 인증서 검증
- 자신의 클라이언트 인증서와 개인 키로 응답
- 세션 키 및 데이터 채널 키 협상
- 터널 인터페이스를 통해 패킷 송수신
이 중 주의할 점은 두 가지다.
1. 클라이언트는 인증서를 보여주기만 하지 않는다
클라이언트는 인증서를 전송할 뿐 아니라, 그 인증서에 대응하는 개인 키를 정말 가지고 있다는 점도 증명해야 한다.
이 증명은 보통 TLS 핸드셰이크 안에서 일어난다. 개인 키 자체를 보내는 것이 아니라, 핸드셰이크 메시지에 대한 서명 응답으로 자신이 이 공개키에 대응하는 비밀키 소유자임을 증명한다.
mTLS에서 인증의 근거는 인증서 파일이 아니라 개인 키 소유 증명이다.
2. 실제 패킷 암호화는 인증서로 직접 하지 않는다
인증서는 신원 검증과 키 교환의 재료다. 실제 터널 안의 패킷을 계속 공개키로 암호화하면 너무 무겁다.
그래서 OpenVPN은 TLS 핸드셰이크가 끝난 뒤 협상된 대칭 세션 키를 사용해 데이터 채널 패킷을 보호한다.
정리하면 다음과 같다.
- 인증서/개인 키: 상대 신원 검증과 세션 키 합의
- 대칭 세션 키: 실제 데이터 채널 보호
Server는 어떤 방식으로 클라이언트를 검증하나
서버는 클라이언트와 같은 검증을 반대 방향에서 한다.
- 자신의 서버 인증서를 제시한다.
- 클라이언트가 신뢰하는 CA 체인에 속하는지 검증되도록 한다.
- 클라이언트 인증서를 받는다.
- 서버가 신뢰하는 CA가 서명한 클라이언트 인증서인지 확인한다.
- 클라이언트가 개인 키를 실제로 소유하는지 TLS 응답으로 확인한다.
- 정책에 맞으면 데이터 채널 키를 협상하고 터널을 연다.
서버가 확인하는 것은 최소한 아래 세 가지다.
- 이 클라이언트 인증서가 신뢰된 CA 체인에 속하는가
- 이 인증서가 지금 유효한가
- 이 연결 상대가 그 인증서의 개인 키를 실제로 가지고 있는가
이후에야 라우트, DNS, 내부 네트워크 설정 같은 것이 의미를 갖는다.
tls-auth, tls-crypt는 인증서와 또 다른 층이다
tls-auth와 tls-crypt는 클라이언트 인증서·개인 키와는 별개로, 제어 채널 바깥에 보호층을 하나 더 두는 옵션이다.
tls-auth
- 제어 채널 패킷에 HMAC 서명을 붙인다
- 올바른 프리셰어드 키를 모르면 패킷이 초반에 버려진다
- 일종의 초기 필터 역할을 한다
tls-crypt
tls-auth의 역할에 더해 제어 채널 패킷 자체를 추가로 암호화한다- TLS 세션이 완전히 열리기 전의 메타데이터 노출을 줄인다
OpenVPN에서 인증서 기반 mTLS만 있는 것이 아니라, 환경에 따라 제어 채널용 사전 공유 키 보호층이 같이 쓰일 수 있다.
이때 .ovpn 안에 tls-auth/tls-crypt 키가 들어 있다면, 그 파일에는 비밀 값이 하나 더 들어 있다.
데이터 채널에서 실제로 보호되는 것은 무엇인가
핸드셰이크가 끝난 뒤에는 실제 터널 데이터가 오간다. 이때 OpenVPN이 보호하는 대상은 대체로 아래와 같다.
- 내부 DNS 질의
- 사설 IP 패킷
- 내부 서비스로 향하는 트래픽
- 터널 안을 지나는 애플리케이션 세션
이 단계에서 보호되는 대상은 HTTP 요청이 아니라 패킷이다. OpenVPN 데이터 채널은 애플리케이션 의미를 해석하지 않는다. TUN/TAP 인터페이스로 들어온 네트워크 데이터를 암호화해 전달한다.
OpenVPN은 아래 질문에 답한다.
- 이 패킷을 안전하게 운반할 수 있는가
반면 애플리케이션은 아래 질문에 답한다.
- 이 사용자가 이 요청을 수행할 수 있는가
AWS Client VPN에서는 이 모델이 어떻게 보이나
AWS Client VPN은 관리형 서비스라 서버 데몬 내부 구현을 우리가 직접 보지는 못한다. 하지만 노출되는 인터페이스는 OpenVPN 모델과 거의 같은 개념으로 이해할 수 있다.
AWS 공식 문서 기준으로 mutual authentication을 쓸 때는:
- 서버 인증서를 ACM에 올린다
- 클라이언트 인증서와 키를 준비한다
- 다운로드한 클라이언트 구성 파일에 클라이언트 인증서와 개인 키를 추가한다
- 클라이언트는 OpenVPN 기반 애플리케이션으로 접속한다
여기서 알 수 있는 점은 다음과 같다.
1. .ovpn은 여전히 프로파일이다
AWS에서 내려받는 파일도 OpenVPN 클라이언트가 읽을 프로파일이다. 여기에 mutual authentication용 클라이언트 인증서와 개인 키를 붙이면 자격 증명 번들이 된다.
2. 서버 비밀키는 클라이언트에 오지 않는다
클라이언트는 서버 인증서를 검증하지만 서버의 개인 키는 서버 측에만 있다. AWS에서는 이 서버 인증서/키 쌍이 ACM과 Endpoint 설정 쪽에서 관리된다.
3. 클라이언트 개인 키는 민감 정보다
AWS 문서 흐름상 mutual authentication을 쓰면 클라이언트 인증서와 키를 .ovpn에 넣거나 클라이언트가 참조하도록 배포해야 한다. 이 파일 배포 절차가 곧 보안 경계가 된다.
이 때문에 운영 관점에서는 .ovpn을 설정 파일로만 다루면 안 된다.
그럼 .ovpn 파일은 암호화해야 하나
이 질문은 보통 두 가지 뜻으로 섞여서 나온다.
1. .ovpn 포맷 자체가 암호화 포맷인가
아니다. 대체로 평문 프로파일이다.
2. .ovpn 안의 비밀을 보호해야 하는가
그렇다.
보호해야 할 것은 파일 확장자가 아니라 그 안의 비밀 값이다.
- 클라이언트 개인 키
tls-auth/tls-crypt키- 경우에 따라 사용자 자격 증명
운영 기준은 다음과 같다.
- 별도 파일 참조 방식이면 키 파일 권한을 엄격히 제한한다
- inline 방식이면
.ovpn파일 자체를 민감 정보처럼 배포/보관한다 - 가능하면 재발급과 폐기 절차를 먼저 설계한다
오프보딩: 인증서 폐기
인증서 기반 모델은 발급만큼 폐기 절차가 필요하다.
클라이언트 인증서가 외부로 유출되거나 사용자가 퇴사했을 때 필요한 것은 대개 아래다.
- 해당 인증서 폐기
- CRL 갱신
- 서버가 최신 폐기 목록을 참조하도록 반영
- 필요 시 새 클라이언트 키/인증서 재발급
.ovpn 보안은 저장 형식보다 개인 키 수명 주기와 인증서 신뢰 철회 절차에 달려 있다.
정리
.ovpn은 대체로 평문 텍스트 프로파일이다. 민감한 것은 확장자가 아니라 안에 든 개인 키와 프리셰어드 키다.- mTLS에서 인증의 근거는 개인 키 소유 증명이다.
- TLS 핸드셰이크가 신원 검증과 세션 키 합의를 맡고, 터널 패킷은 협상된 대칭키로 보호된다.
- AWS Client VPN은 관리형 서비스지만 같은 OpenVPN 모델로 이해할 수 있다.
.ovpn을 볼 때는 어떤 신뢰 체인과 비밀 값을 담고 있는지, 런타임에 어떤 키를 만들게 하는지를 확인한다.