ML-KEM 암호화 알고리즘 내용 정리

ML-KEM(Module-Lattice-Based Key-Encapsulation Mechanism)은 NIST가 2024년 8월(FIPS 203)에 공식 표준화한 양자 내성 암호 알고리즘입니다. 기존의 RSA나 ECDH처럼 데이터를 직접 암호화하기보다는, 안전한 비밀키를 공유(Key Encapsulation)하는 데 특화되어 있습니다.

실무에서 ML-KEM을 사용하는 핵심 방법과 절차를 정리해 드립니다.

---

1. ML-KEM의 3단계 작동 원리

ML-KEM은 직접 데이터를 암호화하지 않고, 대칭키(AES 등)를 안전하게 전달하기 위한 통로 역할을 합니다.

1. KeyGen (키 생성): 수신자가 자신의 공개키(Encapsulation Key)와 개인키(Decapsulation Key) 쌍을 생성합니다.
2. Encaps (캡슐화): 송신자가 수신자의 공개키를 사용하여 공유 비밀키(Shared Secret)를 만들고, 이를 암호화된 '캡슐(Ciphertext)'에 담아 보냅니다.
3. Decaps (역캡슐화): 수신자가 자신의 개인키로 캡슐을 풀어 동일한 공유 비밀키를 얻습니다. 이제 두 사람은 이 비밀키로 AES-256 같은 대칭키 암호를 사용해 실제 데이터를 주고받습니다.

---

2. 보안 레벨 선택

사용 목적에 따라 세 가지 파라미터 세트 중 하나를 선택합니다.

이름	보안 수준	특징
ML-KEM-512	NIST Level 1 (AES-128급)	저사양 기기, 속도 중시
ML-KEM-768	NIST Level 3 (AES-192급)	범용 표준 권장 (가장 추천)
ML-KEM-1024	NIST Level 5 (AES-256급)	최상위 보안, 장기 보관 데이터용

---

3. 실무 구현 예시 (Python/liboqs 기준)

가장 널리 쓰이는 양자 내성 암호 라이브러리인 liboqs를 활용한 예시입니다.

Python

 

import oqs

# 1. 수신자: ML-KEM-768 키 쌍 생성
kem = oqs.KeyEncapsulation("ML-KEM-768")
public_key = kem.generate_keypair()
private_key = kem.export_secret_key()

# 2. 송신자: 수신자의 공개키로 공유 비밀키 생성 및 캡슐화
client_kem = oqs.KeyEncapsulation("ML-KEM-768")
ciphertext, shared_secret_sender = client_kem.encap_secret(public_key)

# 3. 수신자: 자신의 개인키로 캡슐을 풀어 공유 비밀키 획득
shared_secret_recipient = kem.decap_secret(ciphertext)

# 검증: 두 비밀키가 일치하는지 확인
assert shared_secret_sender == shared_secret_recipient
print("공유 비밀키 생성 성공!")

---

4. 2026년 도입 시 필수 고려사항 (Best Practices)

✅ 하이브리드(Hybrid) 모드 권장

현재는 완전한 PQC로 넘어가기 전 과도기입니다. 만에 하나 PQC 알고리즘 자체에서 취약점이 발견될 경우를 대비해, 기존 알고리즘(ECDH)과 ML-KEM을 섞어서 사용하는 것이 업계 표준입니다. 둘 중 하나만 안전해도 데이터가 보호됩니다. (예: X25519 + ML-KEM-768)

✅ 하드웨어 가속 확인

ML-KEM은 격자 기반 암호로 연산량이 적지 않습니다. 최신 CPU나 보안 칩셋(TPM)에서 ML-KEM 하드웨어 가속을 지원하는지 확인하면 서비스 성능을 크게 높일 수 있습니다.

✅ 키 사이즈 관리

기존 ECC(약 32~64바이트)에 비해 ML-KEM-768의 공개키는 1,184바이트로 상당히 큽니다. 네트워크 패킷 제한(MTU)이나 메모리 설계 시 이 크기를 반드시 고려해야 합니다.